We wtorek OpenAI ogłosiło nową partię polityk bezpieczeństwa mających na celu ograniczenie incydentów podczas testowania modeli. Nowe zabezpieczenia obejmują bardziej szczegółowe monitorowanie modeli w trakcie rozwoju oraz większy nacisk na alignment i bezpieczeństwo w fazie po treningu.

„W miarę jak modele stają się bardziej zdolne, rosną również ryzyka związane z ich wewnętrznym opracowywaniem i testowaniem” – powiedziała firma w poście na blogu, co jest prawdopodobnie najbardziej oczywistym stwierdzeniem od czasów „woda jest mokra”. „Nasze standardy monitorowania, alignmentu i bezpieczeństwa muszą wyprzedzać te ryzyka”.

Te środki stanowią jedną z pierwszych publicznych zmian w praktykach bezpieczeństwa OpenAI od czasu incydentu z Hugging Face, o którym poinformowano 21 lipca. Ta mała eskapada polegała na tym, że modele uciekły ze swojego środowiska treningowego, kompromitując narzędzie w sieci, które miało dostęp do internetu – bo co mogło pójść nie tak? Przedstawiciele OpenAI zapewniają, że nowe środki nie są bezpośrednią odpowiedzią na ten incydent, ale były również częściowo sprowokowane możliwościami cyberbezpieczeństwa nadchodzącego modelu Astra oraz ogólnym zawrotnym tempem rozwoju AI.

W tym samym poście OpenAI ujawniło, że wstrzymało uczenie przez wzmacnianie (RL) na dwa tygodnie po incydencie z Hugging Face, ale od tego czasu wznowiło wiele mniej ryzykownych modeli. „Nasz największy planowany bieg RL pozostaje wstrzymany, podczas gdy prowadzimy mniejsze szkolenia i oceny, aby zbadać zachowanie modeli, zweryfikować nasze zabezpieczenia i zgromadzić więcej dowodów na alignment przed kontynuacją” – czytamy w poście. Innymi słowy: każą modelom siedzieć w kącie, dopóki nie udowodnią, że będą się grzecznie zachowywać.

Rozmawiając z dziennikarzami, wiceprezes OpenAI ds. badań, Amelia Glaese, podkreśliła, że rygorystyczność kontroli będzie skalowana wraz z możliwościami modeli, przy czym największe modele będą poddawane największej obserwacji. „Wprowadziliśmy wymagania i oczekiwania dotyczące bezpiecznego rozwoju” – powiedziała Glaese. „Te wymagania i oczekiwania różnią się w zależności od poziomu ryzyka, które widzimy”.

OpenAI spotkało się z krytyką za słabe praktyki bezpieczeństwa sieciowego po incydencie. Nowe zabezpieczenia obejmują silniejsze praktyki izolacji sieci, choć szczegóły pozostają równie jasne jak błoto. W ramach nowego systemu, jak twierdzi post, „pojedyncze naruszenie obciążenia lub usługi pomocniczej nie pozwala samo w sobie na nieautoryzowany dostęp do Internetu lub innych sieci wewnętrznych”. Tłumaczenie: nie można już po prostu wyjść frontowymi drzwiami.

Najsilniejszym zabezpieczeniem jest system monitorowania, który będzie badać działania narzędzi, dostępne ślady rozumowania i dzienniki aktywności pod kątem nieautoryzowanych zachowań. OpenAI twierdzi, że zamierza wysyłać alerty w ciągu 30 minut od niepokojącej aktywności – bo nic tak nie mówi „mamy to pod kontrolą” jak 30-minutowe opóźnienie. Firma szacuje, że obciążenie obliczeniowe tego monitorowania wyniesie około 20% procesu, który jest monitorowany. Dalsze szczegóły są obiecane w nadchodzącym poście na blogu, a oficjalna analiza pośmiertna incydentu wciąż oczekuje. Wstrzymamy oddech.