如果网上发起一个投票,票选一下最近半年人工智能方面最令人印象深刻的公司,那第一名非OpenAI莫属。这家成立于2015年12月的初创公司,凭借ChatGPT、GPT-4这两个大杀器,目前稳坐人工智能公司里的第一把交椅。
其实,在2021年的时候,有一些在人工智能安全与对话系统研发经验的人从OpenAI出走,创建了Anthropic。这家公司,在今年早些时候推出了自己的AI助手——Claude,一种号称比ChatGPT更安全的聊天机器人。这篇文章,就简单介绍一下Claude。
关于Claude的文章,其实早在2022年4月,Authropic就在Arxiv上上传了一篇文章——Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback,这篇文章中论述的方法,其实与InstructGPT的方法十分类似,并在有用性和无害性方面的讨论很有启发性。关于这篇论文的讲解,推荐大家观看李沐老师在B站的视频——Anthropic LLM 论文精读。
出于对大语言模型(LLM)安全性的考虑,Anthropic到今年才发布了Claude,在官方页面的FAQ上,有一个词——3H,Anthropic称之为构建符合人们兴趣的人工智能系统的三个组成部分,这三个H的含义分别如下:
- Helpful,即结果的有用性
- Honest,即结果的真实性
- Harmless,即结果的无害性
通过3H的解释,也可以看出在Anthropic的价值观中,安全性是非常重要的。
目前还需要通过申请才能获取Claude对应的API。不过,Anthropic在Slack上提供了Claude的bot。我们可以简单的将Slack理解成钉钉,用户可以将Claude直接添加到自己的频道中进行一对一的聊天。具体方法可以参考Claude in Slack。
与访问ChatGPT的重重困难相比,目前与Claude进行对话可以说是相当简单了。只要能正常登录Slack,你就能够正常的与Claude进行对话。
关于对话质量,直观感觉还是可以媲美ChatGPT的。简单举例如下: