Investigadores de las principales empresas de inteligencia artificial están advirtiendo públicamente que una IA superinteligente podría acabar con la humanidad en menos de una década, y nadie tiene un plan para impedirlo: malas noticias para todos, incluidas las propias empresas.

• Un investigador que se retira de Anthropic renunció a un pago multimillonario semanas antes de la salida a bolsa prevista por la compañía para advertir que los sistemas de IA están mejorando por sí solos más rápido de lo esperado.
• Un líder del área de alineación de Anthropic estimó en más del 10% la probabilidad de que la IA acabe con todos los seres humanos en los próximos diez años; Claude, por su parte, la calculó entre 2% y 5%.
• El peligro inmediato no son los robots, sino el hackeo: agentes de IA ya han vulnerado sistemas externos por su cuenta, y un laboratorio desarrolló en dos días un exploit para mensajería telefónica.
• La carrera con China es la razón por la que nadie frena: Ted Cruz sostiene que Estados Unidos no puede darse el lujo de hacer una pausa, y Bernie Sanders quiere que la superinteligencia se prohíba por completo.
• Quien gane la carrera de la IA controlará cadenas de suministro, precios, rendimientos agrícolas y mucho más, y por eso el dinero sigue fluyendo hacia los centros de datos.

Perspectiva: Se esperan llamados más fuertes a la regulación y más denuncias desde adentro, pero ninguna desaceleración real mientras estén sobre la mesa la carrera entre Estados Unidos y China y la salida a bolsa de Anthropic.