当前位置:首页> AI教程> Anthropic推出的AI助手Claude:安全、有用、无害

Anthropic推出的AI助手Claude:安全、有用、无害

释放双眼,带上耳机,听听看~!
Anthropic推出了自己的AI助手Claude,号称比ChatGPT更安全的聊天机器人,符合3H构建人工智能系统的价值观。本文简单介绍了Claude的特点和与之对话的方式。

如果网上发起一个投票,票选一下最近半年人工智能方面最令人印象深刻的公司,那第一名非OpenAI莫属。这家成立于2015年12月的初创公司,凭借ChatGPT、GPT-4这两个大杀器,目前稳坐人工智能公司里的第一把交椅。

其实,在2021年的时候,有一些在人工智能安全与对话系统研发经验的人从OpenAI出走,创建了Anthropic。这家公司,在今年早些时候推出了自己的AI助手——Claude,一种号称比ChatGPT更安全的聊天机器人。这篇文章,就简单介绍一下Claude。

关于Claude的文章,其实早在2022年4月,Authropic就在Arxiv上上传了一篇文章——Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback,这篇文章中论述的方法,其实与InstructGPT的方法十分类似,并在有用性和无害性方面的讨论很有启发性。关于这篇论文的讲解,推荐大家观看李沐老师在B站的视频——Anthropic LLM 论文精读

出于对大语言模型(LLM)安全性的考虑,Anthropic到今年才发布了Claude,在官方页面的FAQ上,有一个词——3H,Anthropic称之为构建符合人们兴趣的人工智能系统的三个组成部分,这三个H的含义分别如下:

  • Helpful,即结果的有用性
  • Honest,即结果的真实性
  • Harmless,即结果的无害性

通过3H的解释,也可以看出在Anthropic的价值观中,安全性是非常重要的。

目前还需要通过申请才能获取Claude对应的API。不过,Anthropic在Slack上提供了Claude的bot。我们可以简单的将Slack理解成钉钉,用户可以将Claude直接添加到自己的频道中进行一对一的聊天。具体方法可以参考Claude in Slack

与访问ChatGPT的重重困难相比,目前与Claude进行对话可以说是相当简单了。只要能正常登录Slack,你就能够正常的与Claude进行对话。

关于对话质量,直观感觉还是可以媲美ChatGPT的。简单举例如下:

Anthropic推出的AI助手Claude:安全、有用、无害

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

Optaplanner Tennis Club Scheduling案例分析

2023-12-9 11:14:14

AI教程

ChatGPT: 互联网从业者的革命与挑战

2023-12-9 11:22:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索