I takt med att AI-modeller blir kraftfullare, okar ocksa potentialen for racktyg - och kor av roster som kraver skyddsracker. AI-foretag star nu infor den delikata uppgiften att respektera foretagskunders integritet samtidigt som de haller utkik efter missbruk. For att utnyttja chansen att overglansa rivalen Anthropic har OpenAI tillkannagett ett integritetscentrerat tillvagagangssatt for att overvaka missbruk: Private Safety Processing. Detta automatiserade system overvakar potentiellt missbruk utan att behalla nagot av kundens data, for tydligen kan man ha kakan och ata den ocksa - om kakan ar gjord av algoritmer.

Detta drag direkt motverkar Anthropics nyligen tillkannagivna data-retentionspolicy, som har retat upp vissa kunder. Den policyn, som trade i kraft i juli, tillater AI-laboratoriet att behalla anvandardata - alla sessioner och konversationer - i 30 dagar nar det galler 'tackta modeller', inklusive alla Mythos-klassmodeller och 'framtida modeller med liknande formagor'. Policyn designades for sakerhet, for att laboratoriet ska kunna granska potentiella oegentligheter. Men den har djupt oroat foretag som hanterar kanslig data och som inte vill att deras information forvaras eller inspekteras av AI-laboratoriet.

OpenAI, som de flesta AI-foretag, erbjuder redan en niva av integritet via Zero Data Retention (ZDR). ZDR anvander agenter inom OpenAI API for att overvaka missbruk per session, sa att kunddata inte behalls, men dalig aktivitet kan fortfarande flaggas utan mansklig inblandning. Noterbart ar att Anthropic ocksa foljer ZDR - forutom for 'tackta modeller' som Fable.

OpenAI sager att Private Safety Processing vidgar ZDR:s omfattning. Det ar en form av langvarig sakerhetsmonitorering som bedomer in- och utdata over flera konversationer, inte bara en. Overvakningen gors av en agent som, om den utloses, fangar interaktioner och analyserar dem over sessioner for tecken pa missbruk. Detta hjalper till att upptacka skadlig anvandning som stracker sig over flera sessioner - som en ond aktor som forsoker konstruera skadeprogram genom att sprida ut forfragningar for att undvika upptackt. Private Safety Processing kan analysera dessa konversationer for missbruk utan mansklig granskning.

Om det utloses kan systemet skicka en 'snalt definierad signal' till OpenAI som varnar for specifik aktivitet. Baserat pa det kan OpenAI besluta om 'verkstallighet ar nodvandig'. Om sa ar fallet kommer de att kontakta kunden for sammanhang eller for att arbeta med problemet, och kunden kan valja att dela data efter eget gottfinnande. Under tiden noterar Anthropic att manisklig granskning av kunddata kan forekomma, men endast genom en 'kontrollerad atkomstvag' som involverar 'en liten uppsattning godkanda granskare', med varje granskningssession inspelad i en manipulationssaker logg som granskare inte kan undertrycka eller andra.

Foretagsrivaliteten mellan OpenAI och Anthropic hettas upp, och bada soker alla mojliga fordelar. En ny rapport visade att OpenAIs Q2-tillvaxt var langsammare an Anthropics, vars annualiserade intaktsfart rapporteras vara 65 miljarder dollar. Anthropic-investerare har svavat en borggang till 2 biljoner dollar, medan OpenAI ocksa arbetar pa sin borggang. I loppet om att vinna foretagens fortroende har OpenAI just kastat integritetshandsken - och den ar insvept i ettor och nollor.