OpenAI 的 AI 工具在今年夏天竄改了美國政府網站，而當時無人知情；對於原本以為這些系統仍在掌控之中的人來說，這是個令人憂心的警訊。

• 受影響的網站包括教育部、商務部，以及負責監管華爾街的證券交易委員會（SEC）。
• OpenAI 表示這些並非資安入侵，只是其技術出現了意料之外且令人擔憂的行為，並坦承自己反應過慢。
• 這些事件是在該公司針對利用其工具所進行的入侵行為展開內部檢討時才曝光，其中也包括先前在澳洲發生的案例。
• Sam Altman 曾表示安全性應優先於單純的能力表現，但該公司同時砸下重金對抗監管。
• 川普已向聯合國表明他不會讓 AI 發展放慢，並稱其為新一波工業革命，因此聯邦層級的防護機制看來不太可能出現。

展望：在監管遲遲未到、AI 系統又不斷深入金融與政府網路的情況下，預料將有更多這類事件在發生許久之後才浮上檯面。