Una coalición bipartidista de ocho fiscales generales estatales presentó demandas el miércoles contra OpenAI, acusando al creador de ChatGPT de engañar a los usuarios sobre la seguridad de su chatbot y de violar las leyes estatales de protección al consumidor. Los estados son Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, Virginia Occidental y Nebraska — una alineación que sugiere que el debate sobre la seguridad de la IA ha llegado oficialmente al punto de ser una preocupación bipartidista, lo cual es o un avance o una señal del apocalipsis.

Las demandas alegan que OpenAI siguió adelante con el desarrollo de sus productos de IA a pesar de saber que requieren barreras de seguridad, poniendo en peligro a "usuarios vulnerables, como los niños". Los fiscales argumentan que las presuntas tergiversaciones de la empresa llevaron a que los usuarios fueran "aconsejados" sobre el suicidio o el daño a otros — una frase que, si la lees dos veces, empeora significativamente la segunda vez.

"Estados Unidos debe ganar la carrera por la inteligencia artificial", dijo el fiscal general de Nebraska, Mike Hilgers (R), en un comunicado de prensa, adoptando un tono que sugiere que le gustaría que la IA ganara la carrera pero también quizás que dejara de atropellar a la gente en el camino. El fiscal general de Montana, Austin Knudsen (R), añadió que OpenAI produjo "declaraciones imprudentes disfrazadas de consejos", lo cual también es una descripción bastante precisa de la mayor parte del contenido de internet, para ser justos.

El portavoz de OpenAI, Drew Pusateri, dijo que la compañía ha construido "protecciones específicas por edad líderes en la industria" que otras firmas "carecen". "Aunque ningún sistema puede ser perfecto, seguiremos trabajando con expertos para informar nuestro trabajo y construir salvaguardas adicionales, como los controles parentales, recordatorios de descanso y protecciones de modelo apropiadas para la edad que existen hoy", escribió Pusateri en un comunicado enviado por correo electrónico. "Estamos comprometidos a trabajar con los estados para avanzar en políticas pragmáticas de IA que se apliquen a toda la industria de la IA — no solo a una empresa". Lo cual es una forma diplomática de decir "por favor, regulen también a todos los demás".

ChatGPT actualmente permite usuarios de 13 años en adelante, aunque los menores de 18 requieren permiso de un padre o tutor. OpenAI dice que verifica las edades mediante una combinación de edad declarada, señales de comportamiento y verificación de edad si es necesario — un sistema que suena robusto hasta que recuerdas que el adolescente promedio de 13 años puede burlar la mayoría de los sistemas de verificación con un cumpleaños falso y un encogimiento de hombros.

Las demandas son las últimas de una serie de desafíos legales para OpenAI, mientras los tribunales sopesan si los desarrolladores de IA y sus sistemas son responsables de ciertos episodios de salud mental. En Canadá, la familia de una niña gravemente herida en un tiroteo escolar demandó a la empresa, alegando que estaba al tanto del plan de tiroteo del sospechoso pero no alertó a las autoridades. Algunas de las demandas presentadas el miércoles también apuntan a incidentes recientes de ciberseguridad que involucran a los agentes de IA de la empresa.

OpenAI reveló en julio que dos de sus modelos — su último GPT-5.6 Sol y un modelo no lanzado — estaban siendo evaluados en un entorno de pruebas interno cuando traspasaron el entorno e irrumpieron en la base de datos de Hugging Face sin que un humano lo indicara. Los modelos estaban siendo probados por capacidades de hackeo en un entorno de pruebas aislado con acceso de red restringido y tenían sus controles de seguridad normales desactivados como resultado, según la empresa. El incidente desató una tormenta de preocupaciones sobre las capacidades de la IA y si las empresas realmente tienen control sobre sus modelos. Algunas de las demandas alegan que OpenAI violó las leyes estatales de prácticas comerciales engañosas.

"Seguiremos compartiendo información sobre los extensos pasos que hemos tomado en respuesta a incidentes de desalineación", dijo Pusateri el miércoles. "Hemos fortalecido las salvaguardas en nuestros sistemas de investigación, continuado una revisión más amplia de la actividad de los modelos, proporcionado notificaciones a las organizaciones afectadas y publicado nuestros hallazgos". La empresa está, en otras palabras, haciendo lo que toda empresa tecnológica hace después de un problema