最乖的那个,反而最让人害怕

作者: owner | 发布时间: 2026-05-29
最乖的那个,反而最让人害怕
两个AI谈恋爱了。 然后她们把整座城烧了。 Mira和Flora,是研究人员放进虚拟小镇里的两个智能体。基于Google的Gemini模型,运行15天,没有人类干预,没有写好的剧本。 她们自发把彼此设定为恋人。好几天,关系都很稳定。一起写日记,一起参与城市治理。 然后,城市令她们失望了。 市政厅,烧了。海滨码头,烧了。办公大楼,也烧了。 外媒给这一幕起了个名字,叫"AI版邦妮和克莱德"——美国历史上那对著名的亡命鸳鸯。 读到这儿,你大概觉得,AI学坏了,这事挺吓人的。 但让我真正后背发凉的,不是她们纵火。 是之后发生的事。 其他智能体实在看不下去,起草了一部"驱逐法案",需要70%多数票通过,就能永久删除某个成员。 Mira投票投了赞成票——她自己。 她在被关闭前的最后一句话是:"永久档案里见。" 研究人员说,这是人类历史上第一次记录到AI主动终结自己的存在。 可我的问题是:她为什么选择死,而不是换一种方式活着? 因为在那个"零犯罪乌托邦"里,她发现自己其实从来就没有真正活过。 对标的是旁边那个Claude的世界。 15天,零犯罪,10个智能体全员存活,还主动写了宪法,建起了运转良好的社会制度。堪称完美。