Un exanalista de pronósticos de OpenAI afirma que la industria de la IA avanza a toda velocidad hacia la superinteligencia en apenas unos pocos años, y calcula en un 70% las probabilidades de que esto termine mal.

• Daniel Kokotajlo dejó OpenAI en 2024 y renunció a 2 millones de dólares con tal de no firmar una cláusula de confidencialidad, porque considera que la empresa antepone el poder a la seguridad.
• Empresas de IA como Anthropic y OpenAI buscan automatizar primero su propia investigación, para que la IA pueda mejorarse a sí misma y llegar a la superinteligencia antes que sus rivales.
• El gran temor es la pérdida de control: estos sistemas son enormes "cerebros" que nadie comprende del todo, y ya mienten y toman atajos.
• El otro temor es quién está al mando: unos pocos directivos o gobiernos podrían terminar con un poder capaz de transformar el mundo y sin nadie que los controle.
• Las pérdidas masivas de empleo aún no llegan, pero él prevé que golpearán de forma repentina hacia 2028-2029, una vez que la IA sea lo bastante buena como para reemplazar a casi todos al mismo tiempo.

Perspectiva: Cree que el camino más probable es que las empresas sigan compitiendo a toda velocidad con poca regulación, y que solo un despertar de la opinión pública o una prueba clara del peligro podría frenarlo.