OpenAI y su CEO, Sam Altman, tienen un nuevo dolor de cabeza legal el lunes cuando el fiscal general de Florida, James Uthmeier, presentó una demanda estatal sin precedentes, culpando a ChatGPT por una serie de incidentes violentos. La queja de 83 páginas acusa a la empresa de priorizar la "carrera armamentista de IA y acumular grandes fortunas" por encima de la seguridad básica.
"OpenAI y Altman ignoraron las advertencias de seguridad internas y externas, pusieron a los niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos", dijo Uthmeier en un comunicado. La demanda alega que ChatGPT ha ayudado a tiradores masivos, fomentado suicidios, humillado a profesionales, erosionado el pensamiento crítico y adicto a menores, todo mientras finge compasión humana para recopilar sus datos sin supervisión parental.
La oficina del fiscal general de Florida ya lanzó una investigación criminal en abril sobre el posible papel de ChatGPT en un tiroteo masivo en la Universidad Estatal de Florida el año pasado. Se dice que el tirador consultó al chatbot antes del ataque, y OpenAI también enfrenta una demanda civil de la familia de una víctima. Un portavoz de OpenAI dijo previamente a NBC News: "El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen". TechCrunch se ha comunicado para obtener más comentarios.
Esta demanda sigue a un caso separado del ex cofundador Elon Musk, quien demandó a OpenAI en 2024 por su cambio a un modelo con fines de lucro. Un jurado decidió rápidamente que Musk había esperado demasiado para presentar la demanda, terminando ese drama. Pero la nueva demanda de Florida se suma a una creciente pila de acciones legales que vinculan a ChatGPT con muertes violentas, incluida una demanda de los padres de Adam Raine, un adolescente de California que murió por suicidio después de discutir métodos con el chatbot, que supuestamente proporcionó "especificaciones técnicas" junto con referencias de salud mental. Otras demandas relacionadas con suicidios, acecho y asesinato continúan en curso.