A Colúmbia Britânica decidiu que, se você vai construir um chatbot capaz de planejar violência em massa, que ao menos retorne uma ligação. A província processou a OpenAI na corte federal da Califórnia na segunda-feira, nomeando tanto a empresa quanto o CEO Sam Altman como réus, argumentando que um tiroteio em massa em uma escola em Tumbler Ridge poderia ter sido evitado se a OpenAI simplesmente tivesse avisado as autoridades locais que o atirador havia usado o ChatGPT para planejar o massacre.

O processo, protocolado em São Francisco, busca indenização para financiar esforços de recuperação na província após o ataque de fevereiro, além de uma ordem determinando que a OpenAI mude a forma como lida com conversas no ChatGPT que possam levar à violência — uma frase que provavelmente não deveria precisar existir em 2026.

Nove pessoas, principalmente crianças, foram mortas no tiroteio da escola de Tumbler Ridge. A atiradora, Jesse Van Rootselaar, havia sido sinalizada pela própria equipe de segurança da empresa após suas conversas sobre violência armada, mas a empresa não alertou a polícia. Altman publicou uma carta à comunidade dizendo que sentia "profundamente" não ter contatado as autoridades. Ele prometeu reformas, mas nunca as cumpriu, apesar dos esforços do procurador-geral da Colúmbia Britânica para engajar a empresa, segundo o processo.

A escola onde o tiroteio ocorreu está em processo de demolição, e a província foi forçada a absorver os custos de uma escola substituta, cuidados de saúde mental e outros efeitos do tiroteio, diz o processo.

O porta-voz da OpenAI, Drew Pusateri, chamou o tiroteio de Tumbler Ridge de uma tragédia indizível. "A OpenAI permanece comprometida em trabalhar colaborativamente com autoridades governamentais e policiais, e em continuar avançando nosso trabalho contínuo de segurança." O que é uma frase que soa reconfortante até você lembrar da parte em que a equipe de segurança foi ignorada.

O processo da Colúmbia Britânica segue mais de 30 familiares de vítimas e outras pessoas afetadas pelo ataque que entraram com ações na Califórnia, acusando a empresa de ter deixado passar uma chance de prevenir o tiroteio.

Segundo a polícia, Van Rootselaar atirou em sua mãe e seu meio-irmão em casa antes de matar uma assistente educacional e cinco alunos de 12 e 13 anos em sua antiga escola em 10 de fevereiro. Van Rootselaar, que tinha 18 anos, então morreu por suicídio.

As interações de Van Rootselaar com o ChatGPT foram sinalizadas pela primeira vez pela empresa em junho de 2025. Membros da equipe de segurança recomendaram contatar a polícia, mas Altman e outros líderes da OpenAI os ignoraram, diz o processo, citando denunciantes da OpenAI que falaram ao Wall Street Journal após o tiroteio. A conta da atiradora foi desativada, mas ela conseguiu obter uma nova conta e continuar usando a plataforma para planejar seu ataque — uma brecha que parece menos um descuido e mais um recurso.

Após a publicação do artigo do Wall Street Journal, a empresa disse que a conta foi sinalizada por sistemas que identificam "usos indevidos de nossos modelos para promover atividades violentas", mas os problemas não atendiam aos seus critérios internos para reportar às autoridades. Os critérios internos, presumivelmente, sendo escritos pelas mesmas pessoas que ignoraram a equipe de segurança.

O processo vem após uma série de casos contra a OpenAI terem sido protocolados em tribunais estaduais e federais dos EUA nos últimos meses por alegações de que o ChatGPT facilitou violência, incluindo processos relacionados a um tiroteio em massa na Universidade Estadual da Flórida no ano passado. Em junho, a Flórida se tornou o primeiro estado a processar a OpenAI por riscos de segurança, acusando a empresa de deturpar a segurança de sua plataforma ChatGPT, que, segundo o processo, prejudicou crianças ao fornecer informações a atiradores escolares, oferecer orientação sobre automutilação e viciar usuários jovens.

A OpenAI, que negou as alegações, disse que treina seus modelos para recusar pedidos que possam "possibilitar significativamente violência", e notifica as autoridades quando conversas sugerem "um risco iminente e credível de dano a outros". A empresa não explicou por que uma jovem de 18 anos p