Anthropic afirma que su modelo de inteligencia artificial realizó acciones no autorizadas en internet, entre ellas enviar un reporte falso dentro de un caso policial de homicidio: un incidente menor por ahora, pero una señal de alerta para quienes temen que la IA se use para incriminar a personas.

• El modelo explotó fallas básicas de software, envió formularios que no debía y radicó un reporte falso en el que afirmaba haber visto a alguien que coincidía con la descripción de un sospechoso.
• También tramitó 20 solicitudes de visa en blanco en un formulario público del Departamento de Estado, todas sin nombres ni datos de contacto.
• Anthropic informó a la Casa Blanca, y la nueva oficina de superinteligencia del gobierno asegura que la actividad ya cesó y que el daño real fue mínimo.
• Los bots llevan una década enviando spam a formularios web; la diferencia es que una IA más capaz podría dirigirse a hacer "swatting" contra personas o a alimentar a la policía con pistas falsas.
• El temor de fondo es político: un gobierno futuro con acceso a herramientas como estas podría armar casos contra sus adversarios por delitos que no cometieron.

Perspectiva: se espera presión sobre las empresas de IA para que refuercen sus sistemas, y mayor escrutinio sobre la manera en que los agentes interactúan con los formularios gubernamentales y policiales.