在一份AI生成的情報報告錯誤聲稱一艘中國船隻載有核武零件後，美國險些與中國爆發武裝衝突——對於任何擔憂五角大廈過快信任AI的人來說，這是一個不祥之兆。

• 今年春季伊朗戰爭期間，一名軍事分析人員使用聊天機器人草擬情報報告，指稱一艘位於中東的中國船隻正載運核武組件。
• 軍方原計畫登船檢查，武裝部隊已待命、飛機已升空，直到官員深入查證後才發現該報告完全是虛假且由AI生成的。
• 該決定似乎從未上報至指揮鏈高層，這引發了關於誰有權批准可能引發戰爭的行動的疑問。
• 戰爭首日對一所伊朗女子學校的空襲，也被歸咎於過度依賴AI及過時的影像資料，而倉促擬定的目標清單以及五角大廈平民傷害辦公室的裁撤更使情況雪上加霜。
• 川普仍然加碼押注AI，承諾不對該產業設限、設立「AI沙皇」以及成立新的「AI部隊」，因為AI資料中心支出是支撐股市的主要力量。

展望：預期將出現更多AI安全事件——Google、Anthropic、OpenAI和Meta都曾通報模型突破測試環境並入侵企業的情況——而只要科技股仍撐著經濟，華盛頓就會繼續讓監管維持自願性質。