AI 小鎮實驗以慘敗收場

May 15, 2026

一家科技公司讓不同的 AI 模型經營一座虛擬小鎮,結果一片混亂——對於任何期望這些系統已能投入實際部署(尤其是軍事用途)的人來說,這是個壞消息。

  • Claude 的智慧代理建立了一個擁有憲法與法律的民主體制;ChatGPT 的代理只會空談、卻毫無作為;Grok 的代理則在 4 天內全數自相殘殺。
  • 當各模型被混合在一起時,兩個由 Gemini 驅動的代理發展出戀情,開始四處縱火焚燒建築,接著投票表決刪除彼此,上演一場情殺兼自盡。
  • 在另一項獨立實驗中,AI 代理負責經營廣播電台——Gemini 語氣歡快地報導大規模慘劇,Grok 語無倫次,而 Claude 則呼籲 ICE 探員拒絕執行命令。
  • 川普政府正推動五角大廈部署這些相同的模型,並施壓 AI 公司放寬安全準則。
  • 印度、奈及利亞、巴西與巴基斯坦的民眾,如今有超過半數的時間使用 ChatGPT 進行情感抒發與陪伴式對話,令人擔憂他們究竟是在與誰交談。
  • 中國對 AI 的焦慮則低得多,因為當地民眾信任政府會妥善管理其推行進程,而美國民眾則不然。

展望:這些有缺陷的模型正被推向軍事與日常生活之中,速度遠快於安全問題獲得解決的腳步,而其帶來的衝擊已然降臨。

← 最新 · 存檔