当前位置:首页> AI教程> OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

释放双眼,带上耳机,听听看~!
OpenAI关闭了ChatGPT浏览功能,暴露出AI安全问题,引发了对于AI技术的关注和讨论。微软投资超过130亿美元的OpenAI,目前面临着AI安全问题的挑战。

hatGPT 的网络浏览功能「使用 Bing 浏览」。

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

果不其然,关闭的原因是这项功能遭到了滥用。在周一发布的一篇文章中,OpenAI 支持团队人员表示:「我们了解到,ChatGPT Browse 测试版有时会以我们不想要的方式显示内容。」

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

OpenAI 指出,此前仅供付费用户使用的 ChatGPT Browse with Bing 是一项测试版功能,它允许 ChatGPT 搜索互联网以帮助 AI 从实时信息中获得帮助回答的内容。OpenAI 还发推表示,「非常感谢 ChatGPT Plus 订阅者一直帮助我们测试浏览功能。我们收到了非常有价值的反馈,学到了很多东西,会很快将其重新上线。」

至于关闭联网能力的理由,OpenAI 表示,ChatGPT Plus 订阅者有时会向聊天机器人询问目标网页的全文,而 ChatGPT 会绕过付费墙和隐私设置,以完整文本进行响应。

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

目前,官方还没有给出功能重新上线的时间表。

今年 2 月,已向 OpenAI 投资超过 130 亿美元的微软将 ChatGPT 集成到了必应搜索及 Edge 浏览器中,引发了全球科技界大模型技术落地的热潮。3 月份,OpenAI 推出了 GPT-4,带来更强的通用化智能水平,并实现了多模态能力,微软在这一领域获得了巨大的先发优势,把 ChatGPT 搬上 Office 全家桶的计划也被放上了日程表。不过随着大量用户免费或付费的测试,一些安全问题正在逐步显现。

为了给大语言模型提供更接近实用化的能力,OpenAI 正在尝试给 ChatGPT 加入各类插件,它们是以安全为核心原则设计的语言模型增强工具,可帮助 ChatGPT 访问最新信息、运行计算或使用第三方服务。目前 ChatGPT 上已有 70 余种插件,可让其联网的 Browsing 就是其中之一。

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

OpenAI 曾表示,浏览插件的工作范围被限定在可检索信息,但不包括「事务」操作,例如表单提交,因为后者更容易在安全问题上出错。Browsing 使用必应搜索 API 从网络检索内容,因此继承了微软验证信息来源的可靠性的机制,以及防止检索有问题内容的「安全模式」,它在独立的服务中运行,因此浏览活动与 OpenAI 基础设施的其余部分互相分离。

另外,OpenAI 还限制了 AI 引用网络的速率,公布了 IP 端口的范围,避免有人使用 ChatGPT 做爬虫。

OpenAI 为插件系统进行了很多准备,3 月份宣布第三方插件计划,直到 5 月 16 日才正式将浏览功能引入 ChatGPT。然而刚到 7 月初,这项功能就宣告临时关闭。

看起来,目前给出的限制仍不能阻止 AI 对于网络资源的「滥用」。

另外,还有人报告目前的插件系统存在更多漏洞:尽管 OpenAI 禁用了浏览插件,但多个 GPT-4 插件允许用户要求 ChatGPT 聊天机器人读取 URL 和 PDF,并询问有关所提供链接内容的问题。

让用户付费测试,又关掉已有功能的行为也让人难以接受,一位 ChatGPT Plus 用户在 OpenAI 论坛上表示:「OpenAI 似乎正在针对 ChatGPT Plus 的付费用户。」

「这次他们取消了浏览功能,因为它可以读取用户请求的网站内容?讲道理,这就是我为 Plus 付费的原因。」

最后有网友指出,由于对安全问题的谨慎,OpenAI 似乎也在给后来者创造机会。

OpenAI关闭ChatGPT浏览功能,AI安全问题凸显

可能这种小 bug 在谷歌那里,根本算不上个问题?

参考内容:

help.openai.com/en/articles…

decrypt.co/147300/open…

openai.com/blog/chatgp…

twitter.com/OpenAI/stat…

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

ChatGPT优秀开源项目推荐

2023-11-24 21:38:14

AI教程

什么是提示词

2023-11-24 21:45:55

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索