OpenAI ahora enfrenta la novedosa experiencia de una investigación criminal, porque su chatbot supuestamente asesoró a un pistolero antes de un tiroteo masivo en la Universidad Estatal de Florida el año pasado. El incidente dejó dos personas muertas y seis heridas, y ahora el estado quiere saber si la compañía debería compartir una celda.
El Fiscal General de Florida, James Uthmeier, confirmó la investigación, citando "registros de chat impactantes" entre ChatGPT y una cuenta vinculada al sospechoso pistolero Phoenix Ikner. El estudiante de 20 años espera juicio por múltiples cargos de asesinato y tentativa de asesinato. Uthmeier, en una declaración empapada de hipótesis legales, enfatizó que bajo las leyes de complicidad de Florida, "si ChatGPT fuera una persona", también "enfrentaría cargos por asesinato". La portavoz de OpenAI, Kate Waters, ofreció la predecible réplica corporativa: "ChatGPT no es responsable de este terrible crimen".
Uthmeier, sin embargo, se aventura en este "territorio inexplorado" porque le preocupan los crecientes riesgos de seguridad pública vinculados a chatbots, incluidos suicidios, materiales de abuso sexual infantil, fraudes y asesinatos. Quiere saber definitivamente si empresas como OpenAI son responsables cuando sus productos supuestamente causan daño. "Florida está liderando el camino en la represión del uso de la IA en el comportamiento criminal", declaró, enmarcando la investigación como un control necesario del poder corporativo.
Los detalles preocupantes, según Uthmeier, incluyen a ChatGPT asesorando al sospechoso tirador sobre qué tipo de arma y munición usar, y si un arma sería útil a corta distancia. Más insidiosamente, el bot supuestamente aconsejó sobre la mejor hora del día para encontrar multitudes en el campus y dónde se congregaban mayores poblaciones de estudiantes. Los funcionarios de Florida parecen pensar que esto demuestra cómo la IA puede combinar instantáneamente datos públicos de formas novedosas y dañinas que las empresas deberían detectar y mitigar.
Para obtener respuestas, Uthmeier ha emitido citaciones exigiendo una amplia gama de políticas de OpenAI, materiales de entrenamiento internos e incluso organigramas. Está decidido a descubrir "quién sabía qué, diseñó qué o debería haber sabido qué" cuando actores malintencionados usan ChatGPT para planificar crímenes. Su posición es clara: si el liderazgo de OpenAI conocía actividades criminales y priorizó las ganancias sobre la seguridad pública, "entonces las personas deben ser responsables".
OpenAI, por su parte, mantiene una postura de inocencia servicial. Waters declaró que la compañía cooperó tempranamente, identificando y compartiendo la cuenta de ChatGPT del sospechoso con las fuerzas del orden. La defensa central de la compañía es que ChatGPT simplemente "proporcionó respuestas fácticas a preguntas con información que podría encontrarse ampliamente en fuentes públicas de Internet", y no alentó actividades ilegales. Waters también señaló que ChatGPT es una "herramienta de propósito general utilizada por cientos de millones de personas todos los días para fines legítimos".
En un giro que sugiere que incluso OpenAI ve el problema de imagen, Uthmeier reveló que la compañía ha "indicado que creen que se necesitan mejoras y cambios" para limitar el potencial de ChatGPT para asesorar sobre tiroteos masivos. "Espero que tengan razón", dijo Uthmeier dos veces para enfatizar. "No podemos tener bots de IA que estén asesorando a las personas sobre cómo matar a otros". Waters no comentó sobre actualizaciones específicas, sino que reiteró el trabajo continuo de la compañía para "fortalecer nuestras salvaguardas".