当前位置:首页> AI教程> 意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

释放双眼,带上耳机,听听看~!
意大利政府封禁ChatGPT引发全面调查,OpenAI CEO回应称并没有违规。隐私问题成为焦点。

编辑:Aeneas 好困

【新智元导读】周五,意大利全国上下对 ChatGPT 下了封杀令。在 20 天内,OpenAI 拿不出补救措施的话,将会面临最高 2000 万欧元罚款。

就在昨天,意大利政府突然下令,封禁 ChatGPT!

很快,OpenAI 首席执行官 Sam Altman 做出回应称,公司已经关停了当地的 ChatGPT 服务(但自认为并没有违反任何规定)。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

自此,意大利成为了世界上第一个宣布禁用 ChatGPT 的国家。

(其他国家和地区无法使用 ChatGPT,是因为 OpenAI 一开始就没给开通。)

意大利封禁 ChatGPT,全面调查隐私问题

3 月 31 日,意大利国家隐私监管机构正式下令封禁 ChatGPT,并指控 OpenAI「非法收集个人数据」。

值得注意的是,该「临时禁令」将一直生效,直到 OpenAI 能够尊重欧盟具有里程碑意义的隐私法——通用数据保护条例(GDPR)。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

文件地址:www.garanteprivacy.it/home/docweb…

根据意大利国家数据保护机构 GPDP 发布新闻稿,OpenAI 收集用户数据并用于算法「训练」的行为,缺乏法律依据。

同时,3 月 20 日涉及用户对话和支付信息的泄露事件,也明确地暴露出了 OpenAI 在个人信息的处理上存在着问题。

除此之外,OpenAI 虽然声称 ChatGPT 面向的是 13 岁以上的用户,但由于缺乏相应的年龄验证机制,因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。

监管机构表示,OpenAI 有 20 天的时间,如不给出可行的补救措施,则会面临最高 2000 万欧元,或全球总年营业额 4% 的罚款。

对此,OpenAI 表示,现在已经为意大利用户关闭了服务,并承诺会保护用户的隐私:

「我们在训练 ChatGPT 这样的系统时,一直在努力减少个人数据,因为我们想要这个 AI 了解世界,而不是了解个人。当然我们也相信,AI 监管是必要的。」

这么看来,ChatGPT 未来在意大利的命运,可能就取决于这 20 天了。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

不过,对于意大利来说,这已经不是第一次对 AI 聊天机器人采取此类行动了。

在 2 月份,监管机构就禁止了聊天机器人应用程序 Replika.ai。Replika 曾因一些用户与机器人建立的亲密关系而「臭名昭著」,后来 Replika 取消了色情角色扮演的选项,有用户甚至需要自杀热线的援助。

是否应该限制 AI 工具?

ChatGPT 发布后,虽然写论文、写代码的能力让人眼花缭乱,但它对错误信息的传播、对就业的影响,以及对整个人类社会更广泛的风险,都让很多人忧心忡忡,发出预警。

最近,封禁 GPT 技术的浪潮,更是一波接一波。

不仅图灵奖得主 Yoshua Bengio、马斯克、马库斯等千名大佬联名签署公开信,呼吁全球所有 AI 实验室暂停训练比 GPT-4 更强大的 AI 模型。

而且消费者权益保护组织 BEUC,也在近日呼吁欧盟和国家当局调查 ChatGPT。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

此外,很多专家也表示,由于 AI 对国家安全、就业和教育的潜在影响,需要制定新的法规来管理 AI。

欧盟委员会发言人称:「我们希望所有在欧盟活跃的公司都尊重欧盟的数据保护规则。执行通用数据保护条例是欧盟数据保护当局的责任。」

欧盟委员会执行副主席 Margrethe Vestager 在推特上表示,正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能。

「无论我们使用哪种技术,都必须保护自身的权利。这就是为什么我们不规范 AI 技术,而是规范 AI 的使用。」

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

在美国,非营利组织人工智能与数字政策中心(CAIDP)也要求联邦贸易委员会(FTC)调查 OpenAI 是否违反了消费者保护规则,并禁止其进一步发布 GPT-4。

毕竟,有了千名大佬的联名信这个先例,CAIDP 的申诉看起来也似乎更加顺理成章。而且,CAIDP 主席 Marc Rotenberg 好不意外地也签署了那封信。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

文件地址:cdn.arstechnica.net/wp-content/…

整体来说,CAIDP 申诉的内容与那封信一致,都是呼吁放慢生成式 AI 模型的发展,并实施更严格的政府监督。

不过,CAIDP 更进一步地认为,ChatGPT「存在偏见、具有欺骗性,并且对公共安全构成风险」。

虽然 OpenAI 已经公开指出 AI 生成文本的潜在威胁,但 CAIDP 认为,GPT-4 已经远远越线了,为了保护消费者,应该采取监管行动。

CAIDP 表示,GPT-4 模型具有许多重大的潜在威胁,比如 GPT-4 可以产生恶意代码,和高度定制宣传的方式,而它有偏见的训练数据,可能导致在招聘等方面形成刻板印象,或不公平的种族和性别偏好。

CAIDP 认为,OpenAI 的行为违反了 FTC 法案第 5 条,这一条令禁止不公平和欺骗性的贸易行为。

其中,AI 模型的幻觉,信口开河胡说八道的问题,在 CAIDP 看来都是欺骗。它警告 ChatGPT「宣传具有欺骗性的商业声明和广告」,这些都可能纳入 FTC 的权限范围。

意大利成首个封禁ChatGPT的国家!OpenAI CEO回应:我觉得没违规

在申诉中,CAIDP 要求 FTC 停止 GPT 模型所有进一步的商业部署,并要求在未来推出任何模型之前,都要对模型进行独立评估。它还要求提供一种可公开访问的举报工具,类似于允许消费者提出欺诈投诉的那种。

CAIDP 主席 Lina Khan 表示,CAIDP 在寻找大型科技公司试图垄断竞争的迹象,而对 AI 军备竞赛的主要参与者之一 OpenAI 的调查,标志着调查的重大升级。

有分析认为,虽然 CAIDP 的申诉在短时间内不会让 FTC 有所行动,但未来很有可能会出现相关的监管,并可能让 GPT-5 的发布推迟。

最后,只能说,谷歌一直担心的「声誉风险」,终于来了。

参考资料:

www.reuters.com/technology/…

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

美团外部投放多场景建模的探索与实践

2023-11-18 21:29:14

AI教程

AI代码补全工具使用体验分享,程序员的福音!

2023-11-18 21:37:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索