Siete familias de víctimas mortales o heridas en un tiroteo masivo en Canadá han presentado demandas contra OpenAI y su CEO Sam Altman en un tribunal de California, acusándolos de ignorar las preocupantes interacciones del tirador con ChatGPT.
Ocho personas murieron, incluidos seis niños, cuando Jessie Van Rootselaar, de 18 años, abrió fuego en una escuela secundaria en Tumbler Ridge, Columbia Británica, en febrero. Desde entonces, informes de medios han revelado que la actividad de Van Rootselaar en ChatGPT fue señalada por el equipo de seguridad de OpenAI meses antes del ataque por referencias a violencia armada, pero la compañía no alertó a la policía local.
La semana pasada, Altman se disculpó con las familias de las víctimas. "Lamento profundamente que no hayamos alertado a las autoridades", escribió Altman en una carta abierta publicada por el medio local Tumbler RidgeLines. "Aunque sé que las palabras nunca son suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que su comunidad ha sufrido".
En un comunicado respondiendo a las demandas, un portavoz de OpenAI dijo que la compañía tiene "una política de tolerancia cero para usar nuestras herramientas para ayudar a cometer violencia" y que "ya ha fortalecido nuestras salvaguardas", incluyendo una mejor evaluación y escalamiento de "posibles amenazas de violencia". La compañía también publicó un blog el martes describiendo cómo OpenAI responde a usuarios que muestran comportamiento potencialmente peligroso en ChatGPT.
Las nuevas acciones legales fueron presentadas en un tribunal de California el miércoles por un equipo legal conjunto de EE. UU. y Canadá. Reemplazarán una demanda previa presentada en un tribunal canadiense por la familia de una víctima sobreviviente, Maya Gebala, de 12 años, que se retira voluntariamente. Gebala sigue hospitalizada después de recibir tres disparos, en la cabeza, el cuello y la mejilla.
Jay Edelson, el abogado que representa a las familias y miembros de la comunidad en las nuevas demandas, dijo que espera presentar más de dos docenas de acciones legales relacionadas con el tiroteo contra OpenAI. Agregó que solicitará juicios con jurado en cada caso. "Nos sentimos muy cómodos presentando un caso frente a un jurado", dijo a la BBC. Para el caso de Gebala, los abogados buscarán más de $1 mil millones (£740 millones) en daños, y Edelson dijo que espera que el jurado "otorgue cantidades históricas".
Las demandas acusan a OpenAI y su alta dirección, incluido Altman, de negligencia y de complicidad en el tiroteo masivo de Tumbler Ridge al no alertar a las autoridades de las actividades del sospechoso en ChatGPT antes del ataque. Una demanda que nombra a Gebala y su familia alega que OpenAI "tenía conocimiento real" de la intención del tirador de llevar a cabo un ataque a través de conversaciones con ChatGPT, donde el tirador describió "escenarios que involucran violencia armada".
Las conversaciones fueron señaladas por un equipo de seguridad de 12 personas en OpenAI, quienes recomendaron que el sospechoso fuera reportado a la Real Policía Montada de Canadá (RCMP), dijo Edelson. Sin embargo, la alta dirección de OpenAI vetó esa decisión, alega la demanda. Además, sostiene que la alta dirección de OpenAI tomó la decisión de no alertar a la policía para proteger la valoración y reputación de la compañía de $850 mil millones (£630 mil millones). "Hicieron los cálculos y decidieron que la seguridad de los niños de Tumbler Ridge era un riesgo aceptable", afirma la demanda.
También alega que OpenAI mintió sobre la prohibición del sospechoso en la plataforma después de que se señalara la actividad preocupante, argumentando que la compañía facilita que los usuarios creen nuevas cuentas. El sospechoso, según la demanda, creó otra cuenta con el mismo nombre y "continuó usando ChatGPT para planificar el ataque". En un comunicado a la BBC, OpenAI refutó esto y dijo que revoca el acceso a sus servicios de usuarios prohibidos, lo que puede incluir deshabilitar su cuenta y tomar medidas para evitar que abran nuevas cuentas.
El sospechoso murió en el ataque del 10 de febrero por una herida de bala autoinfligida. Edelson dijo a la BBC que ha solicitado los registros de chat del sospechoso a OpenAI pero se le negó el acceso, aunque cree que