Naarmate AI-modellen krachtiger worden, groeit ook het potentieel voor kattenkwaad - en het koor van stemmen dat om waarborgen vraagt. AI-bedrijven staan nu voor de delicate taak om de privacy van zakelijke klanten te respecteren terwijl ze een oogje in het zeil houden voor misbruik. OpenAi, die een kans zag om rivaal Anthropic te overtroeven, heeft een privacygerichte aanpak aangekondigd voor het monitoren van misbruik: Private Safety Processing. Dit geautomatiseerde systeem let op potentieel misbruik zonder enige klantgegevens te bewaren, want blijkbaar kun je je cake hebben en opeten - als de cake van algoritmen is gemaakt.

Deze zet is een direct antwoord op het onlangs aangekondigde gegevensbewaarbeleid van Anthropic, dat sommige klanten heeft geërgerd. Dat beleid, dat in juli van kracht werd, stelt het AI-lab in staat om gebruikersgegevens - alle sessies en gesprekken - 30 dagen te bewaren voor 'gedekte modellen', waaronder alle Mythos-klasse modellen en 'toekomstige modellen met vergelijkbare mogelijkheden'. Het beleid was ontworpen voor veiligheid, zodat het lab mogelijke misstanden kon doorzoeken. Maar het heeft ondernemingen die met gevoelige gegevens werken diep bezorgd gemaakt; zij willen niet dat hun informatie wordt bewaard of geïnspecteerd door het AI-lab.

OpenAI biedt, net als de meeste AI-bedrijven, al een niveau van privacy via Zero Data Retention (ZDR). ZDR gebruikt agenten binnen de OpenAI API om per sessie op misbruik te letten, zodat klantgegevens niet worden bewaard, maar slechte activiteiten toch kunnen worden gemarkeerd zonder menselijke tussenkomst. Opmerkelijk is dat Anthropic zich ook aan ZDR houdt - behalve voor 'gedekte modellen' zoals Fable.

OpenAI zegt dat Private Safety Processing de reikwijdte van ZDR vergroot. Het is een vorm van veiligheidsmonitoring op lange termijn die invoer en uitvoer over meerdere gesprekken beoordeelt, niet slechts één. De monitoring wordt gedaan door een agent die, indien geactiveerd, interacties opvangt en deze over sessies heen analyseert op tekenen van misbruik. Dit helpt bij het opsporen van kwaadaardig gebruik dat zich over meerdere sessies uitstrekt - zoals een kwaadwillende die malware probeert te maken door verzoeken te spreiden om detectie te vermijden. Private Safety Processing kan die gesprekken op misbruik analyseren zonder menselijke beoordeling.

Indien geactiveerd, kan het systeem een 'nauwkeurig gedefinieerd signaal' naar OpenAI sturen dat waarschuwt voor specifieke activiteit. Op basis daarvan kan OpenAI beslissen of 'handhaving noodzakelijk is'. Zo ja, dan nemen ze contact op met de klant voor context of om aan het probleem te werken, en de klant kan naar eigen goeddunken gegevens delen. Ondertussen merkt Anthropic op dat menselijke beoordeling van klantgegevens kan plaatsvinden, maar alleen via een 'gecontroleerd toegangspad' met 'een kleine groep goedgekeurde beoordelaars', waarbij elke beoordelingssessie wordt vastgelegd in een manipulatiebestendig logboek dat beoordelaars niet kunnen onderdrukken of wijzigen.

De bedrijfsrivaliteit tussen OpenAI en Anthropic laait op, waarbij beide partijen op zoek zijn naar elk voordeel. Een recent rapport toonde aan dat de groei van OpenAI in het tweede kwartaal langzamer was dan die van Anthropic, wiens jaarlijkse omzetrun-rate naar verluidt $65 miljard bedraagt. Investeerders van Anthropic hebben een beursgang van $2 biljoen geopperd, terwijl OpenAI ook aan zijn beursgang werkt. In de race om het vertrouwen van bedrijven te winnen, heeft OpenAI zojuist de privacyhandschoen neergegooid - en die is gewikkeld in nullen en enen.