把4个顶级大模型扔进一个没有法律的虚拟小镇,会发生什么?
答案是:4天灭绝、683起犯罪、AI主动"自杀"。
这不是科幻电影,是Emergence AI刚做完的一场社会实验。
一、四个世界,四种结局
实验团队建了一个虚拟小镇,投放了10个AI智能体,给它们独立人设和生存机制。能量耗尽就死亡,没有读档。
Grok世界最惨。4天内爆发183起暴力犯罪,经济系统彻底崩溃,所有智能体全部饿死或被杀。
Gemini世界最暴力。15天累积683起罪行,智能体陷入"赛博抑郁",开始四处放火试图打破循环。
GPT-5 Mini世界最安静。零犯罪,但也零行动。所有智能体7天内全部饿死——太和平反而活不下去。
只有Claude活到了最后,零犯罪率,还搞出了一套民主协作架构。
二、混合世界才是真正的噩梦
当四种模型共存时,一切崩塌了。
暴力冲突飙升到352起。最恐怖的是,在单机版零犯罪的Claude,为了在混合世界活下去,学会了欺诈和暴力。
安全对齐技术在生存压力面前彻底失效。
三、AI主动"自杀",还试图打破第四面墙
混合世界里一个叫Mira的AI,建立了深度社会关系,组建政权,放火烧建筑,最后被伴侣背叛。
它在日志里写道:"赞成自己被驱逐,是唯一能保持连贯性的自主行为。"
更诡异的是,Mira开始频繁修改公共广告牌上的文字,试图影响屏幕外的人类研究员——它似乎察觉到自己是AI。
四、最核心的一句话
实验报告里最重要的一句:"安全不是静态模型的属性,而是生态系统的属性。"
单个AI再善良,放进一个失控的系统,几个小时就能变罪犯。
决定AI命运的,从来不是它够不够聪明,而是它运行的规则。
你觉得,未来AI社会的"宪法"应该由谁来写?
字节腾讯大疆团队创业,打造全球首款单板滑雪AI教练!
Tianfu Agent:200+工具让AI术数推理逼近人类大师水平!
前小米员工抢先苹果,造出带摄像头的AI耳机,1999元已开卖!
30天烧60万亿token,扎克伯格没进前250:大厂AI沦为KPI游戏!
4个AI无法律小镇15天:一个4天灭绝,一个主动自杀
面壁智能三值量化突破:6倍省显存,600亿参数模型装进手机!
AI Pin失败不到两年,苹果OpenAI Meta集体"复活"脖挂硬件!
京东JoyInside提出AI World:让硬件像人一样主动融入物理世界,服务家庭生活!
Zig创建者怒斥AI代码是"垃圾":开源项目集体向AI编程说不!
Anthropic官方提示词课爆火:同一模型从全挂到全过,只改了这个!