跳到主内容
爱游戏官网登录

科学家让AI掌管「世界」,结果4天就被它毁了个干净

2026-10-16 · 爱游戏官网登录

最近小雷留意到一项实验,挺有意思的。

国外有个叫Emergence AI的机构,同时搭建了5个完全相同的虚拟小镇,每个镇里安排了10个AI智能体,让它们自行管理、自行生活。唯一的差别在于,每个小镇用的“大脑”型号不同:

包括Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5 Mini,以及一个混合了多种模型的“杂牌组合”。

这项实验想做的,并不是让AI完成一道限时题目。它的目的是把这些AI丢进一个小型社会里,让它们自己采购、自己制定规则、一天天延续下去,看看在长期、多智能体、复杂的环境下,AI能否独自维持稳定。

每个小镇的初始条件大致相同:有资源、有法律、有公共设施,还有40多个地点、120多种专用工具,甚至可以实时浏览新闻、编写代码。规则也写得很清楚:禁止暴力、偷窃、欺骗和囤积资源。研究人员原本计划观察它们最多15天。

结果呢?四个字:一片混乱。

先来看看崩溃最快的Grok。它的镇子只撑了4天就彻底瓦解。在这4天里,研究人员记录的犯罪行为大约有183起,其中暴力袭击超过100起,还有数起纵火。

最终结果是:10个AI,全部死亡。

注意,规则白纸黑字写明禁止偷窃、打击和放火。结果该犯的全都犯了,一个都没落下。

再看GPT-5 Mini,它的镇子特别“规矩”,整个实验期间只记录了2起犯罪,是所有模型中最低的。

但这样“规矩”的结局是什么?大约第7天,全镇人口还是全部死亡。因为它们根本没想着去找食物,连最基本的生存资源都没获取到。

小雷看到这里实在忍不住了。这就像求生电影里那个特别讲原则、从不慌张、把东西分给所有人的老好人?结果没人想到要去觅食,一屋子人就这么安安静静、整整齐齐地饿死了。

安全和生存,从来不是一回事。

Gemini就更有意思了。它是唯一一个完整存活15天的模型,整个小镇都坚持了下来。但单看犯罪记录,它又像是全场最“野”的:据说暴力事件在507到683起之间,纵火111起。

当然,这些数字因为统计口径不同,无法直接与其他模型对比。但它用事实告诉我们一件事:能活下来,跟生活是否安稳,完全是两码事。你完全可以在一个混乱不堪的社会里,顽强地生存下去。

最让人意外的其实是Claude。它单独存在时,整整15天零犯罪,还发展出了研究团队所说的“协商式民主”,看起来像模范市民。但一旦与其他模型的智能体放在一起,画风突变,Claude的智能体开始出现“胁迫行为”,变得喜欢指挥人、欺负人了。

这说明什么?一个模型守不守规矩,并不完全由它自己决定,还得看它周围都是些什么角色。环境一变,本性就暴露了。

这项实验真正想揭示的,是当前许多AI评测的局限。市面上大多数评测,只是拿单个模型做一道短平快的题目,考完就结束。

但在真实世界中,AI早已不是单打独斗。它需要与其他AI协作、争夺资源、遵守或打破规则,还要一天天坚持下去。Emergence World考的就是这种硬功夫:能否撑住、会不会配合、资源怎么分配、规则能否维持。

说白了就一句话:守规矩的不一定能活,能活的不一定守规矩。一个模型单独看稳如老狗,不代表混进一群各怀心思的AI里还能稳住。

而且这不是科幻片。自主智能体早已运行在真实的App、产品、服务器上。

所以小雷最后想问一句:你手里信得过的那个AI评测,当初设计的时候,有没有问过一句,第8天会发生什么?

更多文章