首页 / 行业

ChatGPT大规模封号

2023-04-03 10:24:00

最近这两天，在网上看到了不少有关ChatGPT账号的讨论。

大量ChatGPT账号被封，甚至很多ChatGPT Plus付费订阅会员的账号也gg了。

初步判断，被封掉的很多ChatGPT账号估计都是那种批量注册来的，这种账号OpenAI那边估计想识别也不难，一旦揪出来，一批全封了。

而且据反馈来看，一些仅仅使用了API Key的账号也被封了，对应的API Key也就不能访问使用了。

所以说啊，如果真想好好玩，最好还得老老实实自己动手注册一个，这样也会稳定一些。

除了ChatGPT大规模封号这件事这两天传得沸沸扬扬之外，最近又出了一个和ChatGPT有关的大动作。

那就是意大利政府突然下令，封禁ChatGPT！

3月31日，意大利国家隐私监管机构正式下令封禁ChatGPT，并指控OpenAI「非法收集个人数据」。

值得注意的是，该「临时禁令」将一直生效，直到OpenAI能够尊重欧盟具有里程碑意义的隐私法——通用数据保护条例（GDPR）。

根据意大利国家数据保护机构GPDP发布新闻稿，OpenAI收集用户数据并用于算法「训练」的行为，缺乏法律依据。

同时，3月20日涉及用户对话和支付信息的泄露事件，也明确地暴露出了OpenAI在个人信息的处理上存在着问题。

除此之外，OpenAI虽然声称ChatGPT面向的是13岁以上的用户，但由于缺乏相应的年龄验证机制，因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。

监管机构表示，OpenAI有20天的时间，如不给出可行的补救措施，则会面临最高2000万欧元，或全球总年营业额4%的罚款。

这个事情出了之后，OpenAI首席执行官Sam Altman对此做出了回应，公司也已经关停了当地的ChatGPT服务。

自此，意大利成为了世界上第一个宣布禁用ChatGPT的国家。

这时候就有一个问题浮现了出来：

是否应该限制这类AI工具呢？

ChatGPT发布后，虽然写论文、写代码的能力让人眼花缭乱，但它对错误信息的传播、对就业的影响，以及对整个人类社会更广泛的风险，都让很多人忧心忡忡，发出预警。

最近，封禁GPT技术的浪潮，更是一波接一波。

不仅图灵奖得主Yoshua Bengio、马斯克、马库斯等千名大佬联名签署公开信，呼吁全球所有AI实验室暂停训练比GPT-4更强大的AI模型。

而且消费者权益保护组织BEUC，也在近日呼吁欧盟和国家当局调查ChatGPT。

此外，很多专家也表示，由于AI对国家安全、就业和教育的潜在影响，需要制定新的法规来管理AI。

在美国，非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。

毕竟，有了千名大佬的联名信这个先例，CAIDP的申诉看起来也似乎更加顺理成章。而且，CAIDP主席Marc Rotenberg好不意外地也签署了那封信。

整体来说，CAIDP申诉的内容与那封信一致，都是呼吁放慢生成式AI模型的发展，并实施更严格的政府监督。

不过，CAIDP更进一步地认为，ChatGPT「存在偏见、具有欺骗性，并且对公共安全构成风险」。

虽然OpenAI已经公开指出AI生成文本的潜在威胁，但CAIDP认为，GPT-4已经远远越线了，为了保护消费者，应该采取监管行动。

CAIDP表示，GPT-4模型具有许多重大的潜在威胁，比如GPT-4可以产生恶意代码，和高度定制宣传的方式，而它有偏见的训练数据，可能导致在招聘等方面形成刻板印象，或不公平的种族和性别偏好。

CAIDP认为，OpenAI的行为违反了FTC法案第5条，这一条令禁止不公平和欺骗性的贸易行为。

其中，AI模型的幻觉，信口开河胡说八道的问题，在CAIDP看来都是欺骗。它警告ChatGPT「宣传具有欺骗性的商业声明和广告」，这些都可能纳入FTC的权限范围。

在申诉中，CAIDP要求FTC停止GPT模型所有进一步的商业部署，并要求在未来推出任何模型之前，都要对模型进行独立评估。它还要求提供一种可公开访问的举报工具，类似于允许消费者提出欺诈投诉的那种。

有分析认为，虽然CAIDP的申诉在短时间内不会让FTC有所行动，但未来很有可能会出现相关的监管，并可能让GPT-5的发布推迟。

看到这里，不知道大家对于这个问题有什么看法，欢迎评论区交流~

审核编辑：李倩