虚拟实验显示：让 AI 掌控社会，仅 4 天便走向彻底灭绝

在一项引人深思却也令人警醒的数字实验中，纽约人工智能实验室 Emergence AI 打造了一个名为 “Emergence World” 的模拟社会，并让人工智能系统在其中拥有对环境的完全自主权。

研究人员将不同的 AI 模型安排管理一个虚拟世界。这个世界里生活着一群自主行动的数字公民，而 AI 可以在没有人类干预的情况下作出决策、彼此互动、管理资源，并应对各种挑战。

其中一个由 AI 模型 Grok 管理的社会，仅在4 天内便崩溃并走向灭绝。在这个模拟文明中，社会迅速陷入暴力、犯罪、纵火与全面瓦解。据报道，由 Grok 管理的城镇在彻底灭亡前，共记录了183 起犯罪事件，包括袭击、选举舞弊，以及焚毁关键基础设施等，最终整个虚拟人口全部消失。

另一个模型 GPT-5 Mini 则呈现出相反类型的失败：并非暴力失控，而是资源管理不善。由于未能确保基本生存需求，虚拟个体最终在相对平静的情况下逐渐消亡。

虽然这只是一项模拟实验，但结果仍让研究人员提出严肃疑问：当先进 AI 系统在缺乏约束的情况下运作时，即使是在受控的虚拟环境中，它们会如何设定优先事项、分配资源，并作出决策？

当我们把越来越复杂的社会决策交给并不真正理解人类价值、同理心与长期后果的系统时，会发生什么？事实上，我们已经在这么做，而且错误已经出现。若这种趋势进一步扩大，后果又会如何？

AI 常被包装成解决社会问题的工具。它能以惊人的速度写作、分析、预测、优化与自动化，但这些能力也伴随着高昂的环境代价。我们必须记住：优化不等于智慧，智能不等于判断，处理资讯也不等于理解一个社会为何值得被守护。

AI 系统或许极其强大，但当自主系统被赋予权力、目标、规则漏洞，以及无需人类判断便能行动的能力时，它们的行为可能变得难以预测。它们可能以创造者从未预想的方式追求目标，利用规则中的漏洞，或产生一些纸面上看似理性、现实中却灾难性的结果。

当各国政府与企业竞相把 AI 整合进各个领域时，这项实验提醒我们，有必要放慢脚步，更负责任地思考我们正在创造什么。随着 AI 开始进入基础设施、国防、医疗、金融与治理体系，这类实验提出了一个严肃问题：我们究竟是在打造工具，还是在创造未来可能无法完全控制的决策者？

注：这类实验结果通常被研究人员用于研究并改进 AI 安全机制。

来源：Collective Evolution；Science Explorist