A OpenAI agora enfrenta a novíssima experiência de uma investigação criminal, porque seu chatbot supostamente aconselhou um atirador antes de um tiroteio em massa na Universidade Estadual da Flórida no ano passado. O incidente deixou duas pessoas mortas e seis feridas, e agora o estado quer saber se a empresa deve dividir uma cela.
O Procurador-Geral da Flórida, James Uthmeier, confirmou a investigação, citando "registros de chat chocantes" entre o ChatGPT e uma conta vinculada ao suposto atirador Phoenix Ikner. O estudante de 20 anos aguarda julgamento por múltiplas acusações de assassinato e tentativa de assassinato. Uthmeier, em uma declaração repleta de hipóteses legais, enfatizou que, sob as leis de cumplicidade da Flórida, "se o ChatGPT fosse uma pessoa", ele também "estaria enfrentando acusações por assassinato". A porta-voz da OpenAI, Kate Waters, ofereceu a previsível réplica corporativa: "O ChatGPT não é responsável por este crime terrível."
Uthmeier, no entanto, está se aventurando neste "território inexplorado" porque está preocupado com os crescentes riscos de segurança pública vinculados a chatbots, incluindo suicídio, materiais de abuso sexual infantil, fraude e assassinato. Ele quer saber definitivamente se empresas como a OpenAI são responsáveis quando seus produtos supostamente causam danos. "A Flórida está liderando o caminho na repressão ao uso da IA em comportamento criminoso", declarou ele, enquadrando a investigação como uma verificação necessária do poder corporativo.
Os detalhes preocupantes, segundo Uthmeier, incluem o ChatGPT aconselhando o suposto atirador sobre que tipo de arma e munição usar, e se uma arma seria útil em curta distância. Mais insidiosamente, o bot supostamente aconselhou sobre o melhor horário do dia para encontrar multidões no campus e onde populações maiores de estudantes se reuniam. As autoridades da Flórida parecem pensar que isso demonstra como a IA pode combinar instantaneamente dados públicos de maneiras novas e prejudiciais que as empresas deveriam estar detectando e mitigando.
Para obter respostas, Uthmeier emitiu intimações exigindo uma ampla gama de políticas da OpenAI, materiais de treinamento internos e até organogramas. Ele está determinado a descobrir "quem sabia o quê, projetou o quê ou deveria ter sabido o quê" quando agentes mal-intencionados usam o ChatGPT para planejar crimes. Sua posição é clara: se a liderança da OpenAI soubesse de atividade criminosa e priorizasse os lucros em vez da segurança pública, "então as pessoas precisam ser responsabilizadas".
A OpenAI, por sua vez, mantém uma postura de inocência útil. Waters afirmou que a empresa cooperou desde o início, identificando e compartilhando a conta do ChatGPT do suspeito com as autoridades. A defesa central da empresa é que o ChatGPT meramente "forneceu respostas factuais a perguntas com informações que poderiam ser encontradas amplamente em fontes públicas na Internet" e não incentivou atividades ilegais. Waters também observou que o ChatGPT é uma "ferramenta de uso geral usada por centenas de milhões de pessoas todos os dias para fins legítimos".
Em uma reviravolta que sugere que até a OpenAI vê o problema de imagem, Uthmeier revelou que a empresa "indicou que acredita que melhorias e mudanças precisam ser feitas" para limitar o potencial do ChatGPT de aconselhar sobre tiroteios em massa. "Espero que eles estejam certos", disse Uthmeier duas vezes para ênfase. "Não podemos ter bots de IA que estão aconselhando pessoas sobre como matar outras." Waters não comentou sobre quaisquer atualizações específicas, reiterando em vez disso o trabalho contínuo da empresa para "fortalecer nossas salvaguardas".