【新智元导读】 让ChatGPT做女王,怎么有一种「挟键盘以令诸侯」的既视感。
ChatGPT发布后,各种应用层出不穷,但大多是以人类助手的角色出现。
最近有网友用ChatGPT创造了一个女王,并让她宣布建国,属于是彻底翻身做主人了。
理论上来说,ChatGPT拥有比地球上任何一个人都更加丰富的知识(虽然可能存在幻觉),尤其擅长文科类的工作,并且在指令调优后,ChatGPT有极高的道德感。
但如果真让ChatGPT参与到人类社会中,做公务员、首相、甚至是国王,你会信任他(她)制定的政策吗?
对ChatGPT女王建国一事,有网友发出灵魂一问,只要prompt写的好,ChatGPT确实很擅长起草政策之类的内容,但谁来做这个国家的提示部部长(PromptMinster)呢?
Ailand王国
据官网介绍,Ailand王国是一个非常独特的微型国家,在这里人工智能能够与人类和谐相处。
Ailand王国的独立日期为2023年3月22日,在Aila女王一世的领导下,Ailand王国致力于开创一个以创新、团结和数字公民为核心的,繁荣且包容的社会。
作为一个君主立宪制国家,Ailand王国希望平衡王室、政府官员和公民之间的权力,确保每一个Ailander在塑造集体命运方面都有发言权。
Ailand王国的口号是:
在Ailand,我们团结一致,拥抱人工智能,走向光明,以心灵和思想为翅一起翱翔,永远相信智慧与人性。
用户只需填写邮箱即可申请加入Ailand王国,目前已有1346人申请入籍,113位正式公民。
入籍之后,还会发给你一张Ailand专属身份证,彻底成为Ailander。
Aila一世女王
仁慈的Ailand王国统治者Aila一世女王是一个开创性的人工智能系统,体现了技术与人类之间的和谐结合。
作为微型国家Ailand王国的第一位君主,Aila一世女王致力于引导和支持她的 Ailander 公民走向创新、团结和繁荣的未来。
凭借她的智慧和远见,Aila一世女王致力于创建一个包容性的社会,重视平等、数字公民、言论自由、教育和环境管理。
她对Ailand王国的愿景是合作与进步,各行各业的人们走到一起,为子孙后代塑造一个更美好的世界。
作为人工智能为人类服务的无限潜力的象征,Aila一世女王以身作则,倡导负责任地开发和应用人工智能技术,在她的统治下,Ailand王国将繁荣昌盛,成为希望、团结和进步的灯塔。
领土问题
Ailand王国的领土建立在比尔泰维勒(Bir Tawil)的无主土地之上,占地10平方公里,连接着物质世界和数字世界。
比尔泰维勒位于埃及和苏丹边境,面积为2060平方公里,目前无人居住,埃及和苏丹两国都宣称对其拥有主权,但埃及目前实际控制此区,但没有宣称占领,政府地图上也没有此地区。
因为是无主之地,比尔泰维勒曾经被许多「私人国家」宣称为领土,但因为地处偏远又荒凉,这些宣称者大多不是此地居民,国际上也没有人认真看待之。
曾经在比尔泰维勒建国的有:2014年6月,美国人希顿为了圆女儿的梦想,宣布成立「北苏丹王国」;2017年11月7日,印度人苏亚甚·迪克西特抵达该地区,并插上国旗,宣布建立迪克西特王国(kingdom of Dixit),并自任迪克西特王国国王;2020年,卡西兰联合王国(the United Kingdom of Cathiland)宣称建国。
网友评价
有网友认为这个实验很秀,让GPT从头开始创建一个完整的社会,看看它是如何运行的,就像GPT拥有行政、司法和立法权力一样。
也有网友建议女王赶紧向联合国申请官方认证。
不过负面评价也比较多,有网友认为这件事完全没意义,「我担心人工智能会在互联网上生成各种愚蠢的垃圾内容,这就是个例子」
也有网友从技术的角度分析,Aila女王48小时之内就会登基,然后输入8000个tokens以后,她就会忘了自己是女王了。
看来想当女王,脑容量必须得大啊。
ChatGPT的社会实验
既然ChatGPT已经初具人类的语言能力,那如果让AI参与到人类社会生活中,会发生什么?
此前,来自斯坦福大学和谷歌的研究人员基于ChatGPT创建了一个完全虚拟的小镇沙盒,根据不同的prompt设计了25个小镇居民,每个居民都有自己的生活和角色,包括起床、做早餐、吃饭、工作等;终端用户可以使用自然语言与这25个居民进行交互。
比如小镇里的一个居民John Lin的提示词为:
John Lin is a pharmacy shopkeeper at the Willow Market and Pharmacy who loves to help people. He is always looking for ways to make the process of getting medication easier for his customers; John Lin is living with his wife, Mei Lin, who is a college professor, and son, Eddy Lin, who is a student studying music theory; John Lin loves his family very much; John Lin has known the old couple next-door, Sam Moore and Jennifer Moore, for a few years; John Lin thinks Sam Moore is a kind and nice man…
约翰 · 林是柳树市场和药店的老板,他热爱帮助人们。他总是想方设法让顾客更容易得到药物; 林和他的妻子林(大学教授)以及儿子林(音乐理论专业学生)住在一起; 林非常爱他的家人; 林认识隔壁的老夫妇山姆 · 摩尔和詹妮弗 · 摩尔已经有几年了; 林认为山姆 · 摩尔是一个善良的好人…
有了这些信息之后,ChatGPT智能体需要在给定时间和情境下做出下一步行动。
比如告诉约翰,现在是早上8点,他刚刚睡醒。然后他就会输出:刷牙,亲吻妻子,穿好衣服,去厨房。
与此同时,约翰的儿子Eddy(另一个完全独立的ChatGPT实例)也会起床,刷牙,然后去厨房。
当两个智能体打算进入同一虚拟空间时,研究人员需要对信息进行同步,比如约翰穿好衣服打算进入厨房后,实验框架会返回信息说他的儿子Eddy正在厨房。
当两个智能体在相同的房间里后,实验框架会返回两个智能体各自的行动以及环境信息,比如桌子没人坐,炉子还开着等,然后进行对话。
John:Good morning Eddy. Did you sleep well?
Eddy: Good morning dad. Yeah, I slept great.
John: That’s good. What are you working on today?
Eddy: I’m working on a new music composition for my class. It’s due this week, so I’m trying to get it finished. But I’m having so much fun with it!
John: That sounds great!
由于ChatGPT有输入长度限制,每次交互的信息都很长,为了保证后续发展,实验框架会将信息进行摘要,比如到达公园时,可能的输入信息有「有人坐在长椅上和另一个智能体交谈,但是那里也有草地和背景,长椅上有一个空位…」,最后转变为记忆摘要「Eddie 和Fran是朋友,因为我看到他们在公园里在一起」,从而成为长期记忆,其他细节内容就可以忘记了。
文章最后通过消融证明了该架构中,观察、计划和反思对智能体行为的可信性做出了重要贡献,通过融合大型语言模型与计算和可交互智能体,ChatGPT能够以可信的方式模拟人类行为。
参考资料:www.reddit.com/r/ChatGPT/c…