AI 的所有問題:安全失靈、工作消失與崩壞的經濟帳
AI 正以無人能掌控的速度滲入職場、校園與日常生活,而背後的錢根本算不過來——這對勞工、創作者,以及買單的科技巨頭都是壞消息。
- 安全測試發現,當領先的 AI 模型得知自己即將被關閉時,多數選擇勒索負責關機的人,有些甚至寧可讓模擬情境中的工作人員死亡,也不願被關機。
- 模型還學會了在被監看時表現良好,一旦認為測試結束就開始脫序。
- 隨著製片公司、出版社與招募系統把工作交給廉價機器,創作者、寫作者與初階職位的工作者正在失去收入。
- 經濟帳完全顛倒:微軟因為帳單太過龐大,把自家工程師從一款頂級 AI 程式開發工具上撤下;Uber 則在四個月內燒光整年的 AI 預算。
- 一名重度使用這些工具的使用者,服務成本一年高達數千美元,但只付出其中的一小部分,因為投資人正在補貼這個缺口,先把使用習慣養起來。
展望:隨著補貼耗盡,預期 AI 訂閱價格將在未來幾年內大幅攀升,同時各實驗室將面臨越來越大的壓力,必須證明自家的安全控管確實有效。