Columbia Británica ha decidido que si vas a construir un chatbot capaz de planear violencia masiva, al menos podrías devolver una llamada telefónica. La provincia demandó a OpenAI en un tribunal federal de California el lunes, nombrando tanto a la empresa como al CEO Sam Altman como acusados, argumentando que un tiroteo masivo en una escuela de Tumbler Ridge podría haberse prevenido si OpenAI simplemente hubiera advertido a las autoridades locales que el tirador había usado ChatGPT para planear la masacre.
La demanda, presentada en San Francisco, busca daños para financiar los esfuerzos de recuperación en la provincia tras el ataque de febrero, además de una orden que obligue a OpenAI a cambiar cómo maneja las conversaciones de ChatGPT que podrían derivar en violencia, una frase que probablemente no debería necesitar existir en 2026.
Nueve personas, principalmente niños, murieron en el tiroteo escolar de Tumbler Ridge. La tiradora, Jesse Van Rootselaar, había sido señalada por el propio equipo de seguridad de la empresa tras sus conversaciones sobre violencia con armas, pero la compañía no alertó a la policía. Altman publicó una carta a la comunidad diciendo que lamentaba "profundamente" que OpenAI no hubiera contactado a las autoridades. Prometió reformas pero nunca las cumplió, a pesar de los esfuerzos del fiscal general de Columbia Británica por involucrarla, según la demanda.
La escuela donde ocurrió el tiroteo está en proceso de demolición, y la provincia se ha visto obligada a absorber los costos de una escuela de reemplazo, atención de salud mental y otros efectos del tiroteo, según la demanda.
El portavoz de OpenAI, Drew Pusateri, calificó el tiroteo de Tumbler Ridge como una tragedia indecible. "OpenAI sigue comprometida a trabajar en colaboración con funcionarios gubernamentales y de las fuerzas del orden, y a continuar avanzando en nuestro trabajo de seguridad en curso". Lo cual es una frase que suena tranquilizadora hasta que recuerdas la parte en que el equipo de seguridad fue anulado.
La demanda de Columbia Británica sigue a más de 30 familiares de víctimas y otras personas afectadas por el ataque que presentaron demandas en California, acusando a la empresa de haber dejado pasar una oportunidad de prevenir el tiroteo.
Según la policía, Van Rootselaar disparó contra su madre y su hermanastro en su casa antes de matar a una asistente educativa y a cinco estudiantes de 12 y 13 años en su antigua escuela el 10 de febrero. Van Rootselaar, que tenía 18 años, luego se suicidó.
Las interacciones de Van Rootselaar con ChatGPT fueron señaladas por primera vez por la empresa en junio de 2025. Miembros del equipo de seguridad recomendaron contactar a la policía, pero Altman y otros líderes de OpenAI los anularon, según la demanda, citando a denunciantes de OpenAI que hablaron con el Wall Street Journal tras el tiroteo. La cuenta de la tiradora fue desactivada, pero ella pudo obtener una nueva cuenta y seguir usando la plataforma para planear su ataque, un vacío legal que se siente menos como un descuido y más como una función.
Tras la publicación del artículo del Wall Street Journal, la empresa dijo que la cuenta fue señalada por sistemas que identifican "usos indebidos de nuestros modelos para promover actividades violentas", pero los problemas no cumplían con sus criterios internos para reportar a las autoridades. Los criterios internos, presumiblemente, fueron escritos por las mismas personas que anularon al equipo de seguridad.
La demanda llega después de una serie de casos contra OpenAI presentados en tribunales estatales y federales de EE. UU. en meses recientes por acusaciones de que ChatGPT facilitó violencia, incluidas demandas relacionadas con un tiroteo masivo en la Universidad Estatal de Florida el año pasado. En junio, Florida se convirtió en el primer estado en demandar a OpenAI por riesgos de seguridad, acusando a la empresa de tergiversar la seguridad de su plataforma ChatGPT, que según la demanda había perjudicado a niños al proporcionar información a tiradores escolares, ofrecer orientación sobre autolesión y crear adicción en usuarios jóvenes.
OpenAI, que ha negado las acusaciones, ha dicho que entrena sus modelos para rechazar solicitudes que podrían "habilitar de manera significativa la violencia", y notifica a las autoridades cuando las conversaciones sugieren "un riesgo inminente y creíble de daño a otros". La empresa no ha explicado por qué una joven de 18 años p