萧箫 发自 凹非寺
量子位 | 公众号 QbitAI
放任25个AI共同生活,他们竟然模拟起了人类的行动!
不仅像人一样起床、刷牙、吃饭、睡觉,还会被迫“出门打工”,甚至在闲暇时分一起庆祝节日。
这一切,来自斯坦福和谷歌的一项新研究——
他们做了一个很新的实验,创造了25个AI NPC,每个NPC都有不同的身份和行动决策,并让它们在一个沙盒环境中共同生活,背后依靠ChatGPT大模型来完成行动决策。
结果发现,这些AI NPC不仅会像人一样生活,如作家就去写作、店主就去经营商店,而且他们彼此之间还会发生交互,甚至产生对话:
研究一po出就爆火,宾大沃顿商学院教授Ethan Mollick表示:
这些行动相比“角色扮演”,更像是正常人类会做出来的行动。
OpenAI科学家Andrej Karpathy更是直呼“这让开放世界游戏相形见绌”:
所以,这个研究究竟构建了一个怎样的“AI社会”?
当AI玩起模拟人生
从Demo展示来看,这25个AI有着不同的身份、性格和年龄:
他们会在一个共同社区中生活,这些社区的构造非常详细,包括居住区、大学、公园、咖啡厅等:
可以看见,每个AI都有自己的基础行程,包括起床、洗漱、吃饭、睡觉等,根据不同的身份设定,又会做出不同的行动,共同维持社区的运转。
其中,Demo中的emoji简单代表了AI正在进行的操作,如收发信件和吃饭:
但在这其中,也会有交互行为产生:
用的也不是AI的语言,而是人类说话的方式:
不仅如此,这些相互之间可以产生互动的AI,甚至还能听取人类玩家的要求,并采取对应的行动。
例如论文作者提到,他们以人类的身份告诉其中一个AI NPC,希望在社区举办一个“情人节派对”的活动。
没想到,这位AI NPC不仅热情地答应了作者们的请求,自发开始组织起这场活动,包括时间地点和到场人物等:
看到这里,已经有网友表示“太疯狂了”——
对于玩家来说,相比遵循步骤,以后在游戏中可能真的需要去说服NPC或思考并采取行动,才能完成任务。
还有脑洞大开的网友想到了更加“邪恶”的玩法:
想象你杀死了一个NPC,然后坐车回到城市,看着他们为他举办葬礼……
那么,这些AI究竟是如何自发行动,构建起一个自运转的AI互动社会的呢?
用大模型控制行动决策
具体来说,斯坦福和谷歌分两步让AI们采取行动、与其他AI发生交互。
第一步,是构建各种各样的AI“人设”,并让他们做出符合设定的日常行动来。
这里我们以其中一个AI角色John Lin为例,在Demo中可以找到他的设定列表。
可以看见,他的设定非常详细,包括基础信息(姓名、年龄、位置、时间),注意力设定(视野范围等),个人情况(性格、家庭背景、工作等)。
以此为参照,这位名叫John Lin的AI就能形成每天固定的生活习惯,包括早起例行洗漱,然后上班,最后回家睡觉。
但在他的生活过程中,必定会与其他AI沟通、或是遇到新人,于是——
第二步,就是要让AI人设对外界环境和其他人的行动做出反应,产生交互。
于是,这项研究构建了一种赋予AI记忆力、检索记忆、感知、反馈和交互等能力的架构。
从架构图来看,AI会首先感知周遭环境,并将一定视野(注意力)范围内发生的事件记录下来,加进自己的记忆流(memory stream)中;
随后,无论是AI计划要做的事(plan)、还是对外界发生的事情给出反馈(reflect),都会受到这个记忆流的影响,具体方式是通过从记忆中检索对应的事件,并依靠大模型ChatGPT来进行决策;
(当然,无论是计划还是反馈,对应的事件也会加入记忆流中,成为新的记忆)
最后,这些决策的结果将被转变为具体的方案,促使AI思考并做出具体的行动。
研究提到,之所以采用大模型+记忆架构的方式,是因为大模型虽然已经具备非常好的行动逻辑性,但无论是GPT-4还是其他大模型,长期规划和保持清晰的记忆仍然是一种挑战。
基于此,需要一套记忆系统作为大模型的“参照物”,让它在采取决策的时候有清晰的事件列表可以回溯。
不过,这项研究也提出了一些关于AI安全的问题。
包括如何防止它对社会产生的影响,同时被有心之人用于生成Deepfake和“定制版”AI诈骗等——
例如,以后和你聊天的AI卖茶小妹,可能不仅会记得你说过的每一件事情、每一个生日,甚至还能以此为参照,生成更加“贴心”的回答,让“她”看起来更像一个人……
One More Thing
值得一提的是,此前国内也已经有名叫超参数科技的公司做出了类似的AI NPC系统GAEA。
和斯坦福谷歌这项研究一样,GAEA同样具备记忆系统,并依靠大语言模型来帮助NPC做出行动决策。
不过,二者促使AI产生行动的激励机制有一些差异。相比这项研究依靠大模型来完成行动决策:
GAEA中的AI还会额外依靠更具体的数值,进一步影响NPC的行动决策(饥饿值、心情值等):
对于这类AI NPC技术,你还想到了什么脑洞大开的玩法?
试玩地址:
https://reverie.herokuapp.com/arXiv_Demo/#
论文地址:
https://arxiv.org/abs/2304.03442
参考链接:
[1]https://twitter.com/emollick/status/1645499660402925576
[2]https://twitter.com/karpathy/status/1645485475996790784