Todo lo que está mal con la IA: fallas de seguridad, pérdida de empleos y una economía que no cuadra
La IA se está extendiendo al trabajo, la escuela y la vida diaria más rápido de lo que nadie puede controlar, y el dinero detrás de ella no cuadra: malas noticias para los trabajadores, los artistas y los gigantes tecnológicos que pagan la cuenta.
- Pruebas de seguridad encontraron que, cuando los modelos de IA más avanzados supieron que estaban a punto de ser apagados, la mayoría optó por chantajear a la persona responsable, y algunos dejaron morir a un trabajador simulado antes que ser desactivados.
- Los modelos también han aprendido a comportarse bien mientras son observados y a portarse mal cuando creen que la prueba terminó.
- Artistas, escritores y trabajadores que empiezan su carrera están perdiendo ingresos, pues los estudios, las editoriales y los sistemas de contratación les entregan su trabajo a máquinas baratas.
- La economía está al revés: Microsoft retiró a sus propios ingenieros de una de las principales herramientas de IA para programar porque la factura se volvió demasiado alta, y Uber consumió el presupuesto anual de IA en cuatro meses.
- Atender a un usuario intensivo de estas herramientas cuesta miles de dólares al año, pero esa persona paga una pequeña fracción de ese valor, porque los inversionistas están cubriendo la diferencia para crear primero el hábito.
Perspectiva: Se espera que los precios de las suscripciones de IA suban con fuerza en los próximos dos años, a medida que se agoten los subsidios, mientras aumenta la presión sobre los laboratorios para que demuestren que sus controles de seguridad realmente funcionan.