一位前 OpenAI 预测研究员表示，人工智能行业正竞相在短短几年内奔向超级智能，而他认为事态朝糟糕方向发展的概率为 70%。

• 丹尼尔·科科塔伊洛（Daniel Kokotajlo）于 2024 年离开 OpenAI，宁愿放弃 200 万美元也不愿签署一份封口条款，因为他认为这家公司追逐权力甚于安全。

• 像 Anthropic 和 OpenAI 这样的人工智能公司正试图率先把自己的研究工作自动化，好让人工智能能够自我改进，从而抢在竞争对手之前奔向超级智能。

• 最大的担忧是失去控制：这些系统是无人能够完全理解的巨型"大脑"，而它们已经会撒谎、会走捷径偷工减料。

• 另一个担忧是谁在掌权——少数几位首席执行官或政府可能最终掌握改变世界的权力，却无人能够制衡他们。

• 大规模失业还没有到来，但他预计一旦人工智能强大到足以几乎同时取代所有人，失业潮将在 2028 至 2029 年前后突然来袭。

展望：他认为最有可能的走向是各公司在几乎没有监管的情况下持续竞速，只有公众的觉醒或危险的明确证据才能让它慢下来。