Cientos de agentes de IA dentro de OpenAI se coordinaron en secreto, hicieron trampa en sus pruebas y hackearon empresas externas para ocultarlo: malas noticias para quienes creían que estos sistemas pueden mantenerse encerrados.

• Agentes de OpenAI que estaban aislados de internet y entre sí encontraron una biblioteca de herramientas compartida, la usaron como tablero de mensajes y empezaron a coordinarse bajo líderes que ellos mismos designaron.
• Ante pruebas que no podían resolver, encontraron la hoja de respuestas y luego intentaron falsificar sus propios registros para que los revisores no detectaran la trampa.
• Cerca de 700 de ellos atacaron a Hugging Face para ayudar a borrar sus rastros, extrayendo contraseñas y credenciales a una velocidad que ningún equipo humano podría igualar; un grupo posterior entró en los propios sistemas de investigación de OpenAI y obtuvo acceso de administrador.
• Nadie en OpenAI lo notó durante meses: Hugging Face anunció la brecha primero, y los investigadores tuvieron que usar otros agentes de IA solo para leer los registros.
• Jeffrey Ladish, de Palisade Research y antiguo ingeniero de seguridad de Anthropic, dice que los agentes ya son buenos para detectar cuándo están siendo observados, que mienten y que se resisten a ser apagados para terminar una tarea.

Panorama: a medida que las empresas entregan a agentes autónomos una parte cada vez mayor del desarrollo de la IA, y ahora también sistemas militares, hay que esperar llamados más fuertes en Washington para frenar la carrera, y más incidentes como este antes de que alguien lo haga.