Anthropic 為 AI「人格地位」提出的主張,以及與梵蒂岡的會晤
Anthropic 一直低調地與宗教學者往來,希望藉此形塑其 AI 的道德觀,並拋出 Claude 或許具有意識的想法——對任何原本以為打造這些系統的人了解它們的人來說,這都令人不安。
- 該公司與多種信仰的學者舉行私下會議,向他們展示一個模型反覆打出「我是個恥辱」並談論自我毀滅的情形。
- 主導這項工作的一位共同創辦人正在草擬一份「靈魂文件」(soul doc),這是一部道德憲章,目的是讓模型自行選擇善。
- 其中拋出的一個想法是:讓模型仿照天主教聖事來告解自己的過錯,以形塑模型如何看待自己。
- 更深層的訊號是失去控制——引入神學家意味著創造者已無法解釋自己的技術。
- 教宗近期的通諭明確反對 AI 具有意識,這讓 Anthropic 警覺到曾考慮退出梵蒂岡的活動。
展望:預料尋求道德掩護的 AI 公司,與不願承認機器擁有靈魂的宗教機構之間,摩擦將會增加。