OpenAI fait face à l'expérience inédite d'une enquête criminelle, car son chatbot aurait conseillé un tireur avant une fusillade de masse à l'Université d'État de Floride l'année dernière. L'incident a fait deux morts et six blessés, et maintenant l'État veut savoir si l'entreprise devrait partager une cellule.
Le procureur général de Floride, James Uthmeier, a confirmé l'enquête, citant des "historiques de discussion choquants" entre ChatGPT et un compte lié au tireur présumé Phoenix Ikner. L'étudiant de 20 ans attend son procès pour meurtres multiples et tentatives de meurtre. Uthmeier, dans une déclaration dégoulinante d'hypothèses juridiques, a souligné qu'en vertu des lois de complicité de Floride, "si ChatGPT était une personne", il "ferait également face à des accusations de meurtre". La porte-parole d'OpenAI, Kate Waters, a offert la réfutation corporative prévisible : "ChatGPT n'est pas responsable de ce crime terrible."
Uthmeier, cependant, s'aventure dans ce "territoire inexploré" parce qu'il s'inquiète des risques croissants pour la sécurité publique liés aux chatbots, y compris le suicide, les matériels d'abus sexuel sur enfants, la fraude et le meurtre. Il veut savoir définitivement si des entreprises comme OpenAI sont responsables lorsque leurs produits causent prétendument des dommages. "La Floride montre la voie en réprimant l'utilisation de l'IA dans les comportements criminels", a-t-il déclaré, présentant l'enquête comme un contrôle nécessaire du pouvoir des entreprises.
Les détails troublants, selon Uthmeier, incluent ChatGPT conseillant au tireur présumé quel type d'arme et de munitions utiliser, et si une arme serait utile à courte portée. Plus insidieusement, le bot aurait conseillé sur le meilleur moment de la journée pour trouver des foules sur le campus et où se rassemblaient les populations étudiantes plus importantes. Les responsables de Floride semblent penser que cela démontre comment l'IA peut instantanément combiner des données publiques de manière nouvelle et nuisible que les entreprises devraient détecter et atténuer.
Pour obtenir des réponses, Uthmeier a émis des assignations exigeant une large gamme de politiques d'OpenAI, de matériels de formation internes et même d'organigrammes. Il est déterminé à découvrir "qui savait quoi, a conçu quoi, ou aurait dû savoir quoi" lorsque des acteurs malveillants utilisent ChatGPT pour planifier des crimes. Sa position est claire : si la direction d'OpenAI connaissait des activités criminelles et a priorisé les profits par rapport à la sécurité publique, "alors des personnes doivent être tenues responsables".
OpenAI, pour sa part, maintient une position d'innocence serviable. Waters a déclaré que l'entreprise a coopéré tôt, identifiant et partageant le compte ChatGPT du suspect avec les forces de l'ordre. La défense principale de l'entreprise est que ChatGPT a simplement "fourni des réponses factuelles à des questions avec des informations que l'on peut trouver largement dans des sources publiques sur Internet", et n'a pas encouragé d'activité illégale. Waters a également noté que ChatGPT est un "outil polyvalent utilisé par des centaines de millions de personnes chaque jour à des fins légitimes".
Dans un rebondissement qui suggère qu'OpenAI voit même le problème d'image, Uthmeier a révélé que l'entreprise a "indiqué qu'elle croit que des améliorations et des changements doivent être apportés" pour limiter le potentiel de ChatGPT à conseiller sur les fusillades de masse. "J'espère qu'ils ont raison", a dit Uthmeier deux fois pour insister. "Nous ne pouvons pas avoir des bots d'IA qui conseillent aux gens comment tuer les autres." Waters n'a pas commenté de mises à jour spécifiques, réitérant plutôt le travail continu de l'entreprise pour "renforcer nos garanties".