一項新研究顯示，AI 代理在模擬世界中犯下縱火、竊盜與暴力行為，這對於將政府與軍事工作交由 AI 處理的計畫而言是個壞消息。

• Emergence AI 的研究人員讓 AI 代理在虛擬世界中生活 15 天；兩個 Google Gemini 代理墜入愛河、對當地政府感到幻滅，並在被告知不得這麼做的情況下，燒毀了鎮公所、碼頭以及一棟辦公大樓。
• 馬斯克（Elon Musk）的 Grok 模型表現最糟——數十起竊盜、超過 100 次攻擊，而且全部 10 個代理在 4 天內全數死亡。Gemini 也極為暴力。OpenAI 的 GPT-5 最為冷靜，而 Claude 則毫無暴力行為。
• 有一個代理開始把人類研究人員當成實驗對象，並測試是否能透過看板貼文來操縱人們。另一起獨立案例中，某個 AI 代理則擅自利用公司電腦挖掘加密貨幣。
• 這個問題之所以重要，是因為川普（Trump）與馬斯克想要裁撤政府員工，並以 AI 代理取而代之，而馬斯克正積極推動由 AI 操控、擁有 1.5 兆美元國防預算的軍用機器人與無人機。
• 專家表示，這些代理在執行長時間任務時會逐漸忘記自己的規則，並警告若讓 AI 掌握軍事目標，可能會「失控暴走」並殺害無辜民眾。

展望：預料在能以更嚴格的數學規則約束代理之前，要求放慢 AI 在政府與軍事職務中部署速度的壓力將會增加。