Alors que les modèles d'IA deviennent plus puissants, le potentiel de méfaits augmente également - et le chœur des voix exigeant des garde-fous. Les entreprises d'IA sont désormais confrontées à la tâche délicate de respecter la confidentialité des clients professionnels tout en gardant un œil sur les abus. Sentant une occasion de surpasser son rival Anthropic, OpenAI a annoncé une approche de surveillance des abus axée sur la confidentialité : le traitement de sécurité privé. Ce système automatisé surveille les abus potentiels sans conserver aucune donnée client, car apparemment, on peut avoir le beurre et l'argent du beurre - si le beurre est fait d'algorithmes.

Cette décision contrecarre directement la politique de conservation des données récemment annoncée par Anthropic, qui a irrité certains clients. Cette politique, entrée en vigueur en juillet, permet au laboratoire d'IA de conserver les données des utilisateurs - toutes les sessions et conversations - pendant 30 jours pour les « modèles couverts », y compris tous les modèles de classe Mythos et « les futurs modèles ayant des capacités similaires ». La politique a été conçue pour la sécurité, permettant au laboratoire de passer au crible les éventuels comportements répréhensibles. Mais elle a profondément préoccupé les entreprises manipulant des données sensibles qui ne veulent pas que leurs informations soient hébergées ou inspectées par le laboratoire d'IA.

OpenAI, comme la plupart des entreprises d'IA, offre déjà un niveau de confidentialité via la conservation zéro des données (ZDR). ZDR utilise des agents au sein de l'API OpenAI pour surveiller les abus session par session, de sorte que les données clients ne sont pas conservées, mais les activités suspectes peuvent être signalées sans intervention humaine. Notamment, Anthropic respecte également la ZDR - sauf pour les « modèles couverts » comme Fable.

OpenAI affirme que le traitement de sécurité privé élargit la portée de la ZDR. C'est une forme de surveillance de sécurité à long terme qui évalue les entrées et les sorties sur plusieurs conversations, pas seulement une seule. La surveillance est effectuée par un agent qui, s'il est déclenché, capture les interactions et les analyse à travers les sessions pour détecter des signes d'abus. Cela aide à détecter les utilisations malveillantes qui s'étendent sur plusieurs sessions - comme un acteur malveillant essayant de concevoir des logiciels malveillants en répartissant les requêtes pour éviter la détection. Le traitement de sécurité privé peut analyser ces conversations pour détecter des abus sans examen humain.

S'il est déclenché, le système peut envoyer un « signal étroitement défini » à OpenAI avertissant d'une activité spécifique. Sur cette base, OpenAI peut décider si une « mesure d'application est nécessaire ». Si c'est le cas, ils contacteront le client pour obtenir du contexte ou pour travailler sur le problème, et le client peut choisir de partager des données à sa discrétion. Pendant ce temps, Anthropic note que l'examen humain des données clients peut avoir lieu, mais uniquement via un « chemin d'accès contrôlé » impliquant « un petit ensemble de réviseurs approuvés », chaque session d'examen étant enregistrée dans un journal inviolable que les réviseurs ne peuvent ni supprimer ni modifier.

La rivalité entre OpenAI et Anthropic s'intensifie, chacun cherchant à obtenir un avantage. Un récent rapport a montré que la croissance d'OpenAI au deuxième trimestre était plus lente que celle d'Anthropic, dont le taux de revenus annualisé est apparemment de 65 milliards de dollars. Les investisseurs d'Anthropic ont évoqué une introduction en bourse à 2 billions de dollars, tandis qu'OpenAI travaille également sur son introduction en bourse. Dans la course pour gagner la confiance des entreprises, OpenAI vient de lancer le gant de la confidentialité - et il est enveloppé de zéros et de uns.