W miarę jak modele AI stają się coraz potężniejsze, rośnie też potencjał do psot – oraz chór głosów domagających się zabezpieczeń. Firmy AI stoją teraz przed delikatnym zadaniem poszanowania prywatności klientów korporacyjnych, jednocześnie mając oko na nadużycia. Wyczuwając szansę na ubicie rywala Anthropica, OpenAI ogłosiło podejście skoncentrowane na prywatności do monitorowania nadużyć: Prywatne Przetwarzanie Bezpieczeństwa. Ten zautomatyzowany system obserwuje potencjalne nadużycia, nie zatrzymując żadnych danych klienta, bo najwyraźniej można mieć ciastko i zjeść ciastko – jeśli ciastko jest zrobione z algorytmów.

Ten ruch bezpośrednio kontruje niedawno ogłoszoną politykę przechowywania danych przez Anthropica, która zirytowała niektórych klientów. Ta polityka, która weszła w życie w lipcu, pozwala laboratorium AI na przechowywanie danych użytkownika – wszystkich sesji i rozmów – przez 30 dni w przypadku „objętych modeli”, w tym wszystkich modeli klasy Mythos i „przyszłych modeli o podobnych możliwościach”. Polityka została zaprojektowana dla bezpieczeństwa, pozwalając laboratorium na przeszukiwanie potencjalnych nieprawidłowości. Ale głęboko zaniepokoiła przedsiębiorstwa przetwarzające wrażliwe dane, które nie chcą, aby ich informacje były przetrzymywane lub kontrolowane przez laboratorium AI.

OpenAI, podobnie jak większość firm AI, już oferuje poziom prywatności poprzez Zero Retention Danych (ZDR). ZDR używa agentów w API OpenAI do monitorowania nadużyć na poziomie pojedynczej sesji, więc dane klienta nie są zatrzymywane, ale złe działania mogą być flagowane bez interwencji człowieka. Co istotne, Anthropic również przestrzega ZDR – z wyjątkiem „objętych modeli”, takich jak Fable.

OpenAI twierdzi, że Prywatne Przetwarzanie Bezpieczeństwa poszerza zakres ZDR. Jest to forma długoterminowego monitorowania bezpieczeństwa, która ocenia wejścia i wyjścia w wielu rozmowach, nie tylko jednej. Monitorowanie jest wykonywane przez agenta, który po wyzwoleniu łapie interakcje i analizuje je w sesjach pod kątem oznak nadużyć. Pomaga to wykryć złośliwe użycie obejmujące wiele sesji – jak zły aktor próbujący stworzyć złośliwe oprogramowanie, rozpraszając żądania, aby uniknąć wykrycia. Prywatne Przetwarzanie Bezpieczeństwa może analizować te rozmowy pod kątem nadużyć bez przeglądu ludzkiego.

Po wyzwoleniu system może wysłać „wąsko zdefiniowany sygnał” do OpenAI ostrzegający o konkretnej aktywności. Na tej podstawie OpenAI może zdecydować, czy „egzekwowanie jest konieczne”. Jeśli tak, skontaktują się z klientem w celu uzyskania kontekstu lub pracy nad problemem, a klient może zdecydować się na udostępnienie danych według własnego uznania. Tymczasem Anthropic zauważa, że przegląd danych klienta przez ludzi może mieć miejsce, ale tylko poprzez „kontrolowaną ścieżkę dostępu” obejmującą „mały zestaw zatwierdzonych recenzentów”, a każda sesja przeglądu jest rejestrowana w dzienniku odpornym na manipulacje, którego recenzenci nie mogą ukryć ani zmodyfikować.

Rywalizacja korporacyjna między OpenAI a Anthropicem zaostrza się, a obie strony szukają przewagi. Niedawny raport pokazał, że wzrost OpenAI w Q2 był wolniejszy niż Anthropica, którego roczny wskaźnik przychodów wynosi podobno 65 miliardów dolarów. Inwestorzy Anthropica rozważali IPO przy wycenie 2 bilionów dolarów, podczas gdy OpenAI również pracuje nad swoim IPO. W wyścigu o zaufanie przedsiębiorstw OpenAI właśnie rzuciło rękawicę prywatności – i jest ona owinięta w zera i jedynki.