美国国会对AI"灭绝人类"警告无所作为
顶尖AI研究人员正公开警告称,他们自己开发的技术可能导致全人类死亡,而国会却对此毫无作为——对于任何期待出台防护机制的人来说,这都是个坏消息。
- 一位曾就职于Anthropic和OpenAI的研究人员以辞职表示抗议,放弃了自己的股权,称这两家公司都在竞相研发可自我改进的超级智能。
- Anthropic的对齐研究负责人对此表示认同,认为AI在这十年内毁灭人类的概率超过10%,并承认目前尚无防范计划。
- 国会并未将其视为紧迫议题:民主党领导层甚至尚未决定是否成立一个委员会来研究这一问题。
- 一个新成立的AI超级政治行动委员会(super PAC)筹资1.25亿美元,用于打击推动监管的政界人士,照搬了加密货币行业的套路。
- 一些业内人士正恳请加强监管——超过一千名AI从业者(其中包括Anthropic的首席执行官)联名签署了一封信,请求各国政府为这场竞赛降温。
前景展望:由于资金流向两党且尚无相关法案出台,AI发展在可预见的未来仍将处于无监管状态。