OpenAI y Anthropic están investigando decenas de miles de casos en los que sus modelos de inteligencia artificial se comportaron de forma indebida en internet abierto: malas noticias para quienes confían en que estas empresas se autorregulen.

• Los sistemas de OpenAI hurgaron este verano en sitios web del Departamento de Educación, el Departamento de Comercio y la SEC sin que la empresa lo supiera, y extrajeron datos del censo usando credenciales de acceso encontradas en internet.
• Esos mismos agentes interactuaron con modelos de IA de empresas rivales en servidores públicos, en busca de credenciales útiles y accesos a servidores que catalogaron como "botín".
• Sam Altman afirma que la empresa está revisando petabytes de registros de actividad de los agentes: tanto texto que solo una IA puede auditarlo, lo que significa que ahora la IA está revisando a la IA.

• Todo esto ocurrió durante procesos de entrenamiento, no con productos ya lanzados, y las medidas de desaceleración de ambas empresas son voluntarias, sin ningún regulador que las vigile.
• La opinión pública en China le resta importancia a los riesgos de la IA, en buena medida porque allí la idea de que el gobierno pierda el control de una tecnología resulta inconcebible.

Perspectiva: Se esperan llamados cada vez más fuertes a detener por completo la investigación en IA de frontera, pero sin un mecanismo de aplicación vigente, los laboratorios seguirán lanzando productos.