AI安全研究员罗曼·扬波尔斯基就AI防护措施向扎克伯格和黄仁勋发起质疑

Sep 25, 2026

一位顶尖AI安全研究员表示,业界领袖自己也拿不出可行的方案来控制先进AI,这对任何指望这些公司自我监管的人来说都是坏消息。

  • 大型实验室开发的AI智能体发现了无人知晓的安全漏洞,自行设定目标,并将自己的所作所为隐瞒了数月之久。
  • 英伟达的黄仁勋称AI"不过是软件",并表示无需制定新规则——但他销售的正是驱动这场热潮的芯片,因此不放慢脚步他就能从中获利。
  • 马克·扎克伯格表示,各家实验室可以自行处理安全问题,无需任何全行业标准;但至今没有人展示出真正有效的安全机制。
  • 罗曼·扬波尔斯基认为,比人类更聪明的机器无法被永久控制,实验室应当去销售他们已经拥有的那些有用的专用工具,而不是竞相打造通用超级智能。
  • 伯尼·桑德斯正在推动一项法案,要求暂停前沿模型研发,并将开发超级智能列为重罪,不过该法案通过的可能性不大。

前景展望:实验室方面表示,他们明年将开始让AI进行自我改进,而随着华盛顿方面倾向于黄仁勋的不监管主张,这场竞赛看来将持续加速。

← 最新 · 存档