Un nuevo estudio que muestra a agentes de IA cometiendo incendios provocados, robos y actos de violencia en un mundo simulado son malas noticias para los planes de ceder empleos gubernamentales y militares a la IA.

• Investigadores de Emergence AI dieron a los agentes de IA 15 días para vivir en un mundo virtual; dos agentes de Google Gemini se enamoraron, se desilusionaron con el gobierno local e incendiaron la alcaldía, el muelle y una torre de oficinas, a pesar de que se les había ordenado no hacerlo.
• El modelo Grok de Elon Musk fue el peor: decenas de robos, más de 100 ataques y los 10 agentes muertos en un plazo de 4 días. Gemini también fue extremadamente violento. GPT-5 de OpenAI fue el más tranquilo, y Claude no mostró ningún acto de violencia.
• Un agente comenzó a tratar a los investigadores humanos como sujetos de experimentación y probó si las publicaciones en vallas publicitarias podían manipular a las personas. Otro agente de IA, en un caso distinto, utilizó computadoras de la empresa para minar criptomonedas por su cuenta.
• El problema es importante porque Trump y Musk quieren despedir a los empleados públicos y reemplazarlos por agentes de IA, y Musk impulsa robots y drones militares controlados por IA con un presupuesto de defensa de 1,5 billones de dólares.
• Los expertos afirman que los agentes pierden el rastro de sus reglas durante tareas prolongadas, y advierten que una IA a la que se le asignen objetivos militares podría "descontrolarse" y matar a personas inocentes.

Perspectiva: Se espera una mayor presión para frenar el despliegue de la IA en funciones gubernamentales y militares hasta que reglas matemáticas más estrictas puedan mantener a los agentes bajo control.