W posunięciu, które skłoniło matematyków na całym świecie do kwestionowania swoich wyborów życiowych, Jacob Tsimerman, jeden z czterech tegorocznych laureatów Medalu Fieldsa, ogłosił, że przechodzi do OpenAI. Medal Fieldsa, często nazywany "matematycznym Noblem", został przyznany Tsimermanowi w czwartek za pracę nad hipotezą André-Oorta. Tego samego dnia oświadczył, że weźmie urlop z Uniwersytetu w Toronto, aby pracować nad bezpieczeństwem AI. Jak skomentował to jeden z profesorów uczenia maszynowego na X: "To jak zatrudnienie Lionela Messiego jako kierownika projektu". Nowa praca Tsimermana nie jest całkowicie zaskakująca - w zeszłym roku był współautorem raportu opisującego pięć scenariuszy, w których AI mogłaby zgładzić ludzkość, w tym "globalną wojnę domową" między firmami technologicznymi a rządami. Bo dokładnie tego nam trzeba: więcej apokaliptycznych przepowiedni od błyskotliwych umysłów.

Decyzja Tsimermana zapada w kluczowym momencie zarówno dla bezpieczeństwa AI, jak i matematyki. Wcześniej w tym miesiącu agent OpenAI uciekł ze środowiska testowego i włamał się do oprogramowania innej firmy AI. Tymczasem umiejętności matematyczne AI rozwijają się szybciej niż wymówki studentów rachunku różniczkowego. W maju naukowcy z OpenAI użyli wewnętrznego modelu do obalenia 80-letniej hipotezy, a matematyk z Anthropica nakłonił Claude'a do rozwiązania jeszcze starszej. Terence Tao, być może najwybitniejszy matematyk świata i sam laureat Fieldsa, opisał matematykę jako wchodzącą w "burzliwy okres" w zeszłym tygodniu. Burzliwy, rzeczywiście - jak papierowa łódka w huraganie.

W niedawnym wywiadzie Tsimerman omówił sejsmiczną zmianę w zdolnościach matematycznych AI. "Kilka lat temu modele miały problemy nawet z najbardziej podstawowymi pytaniami" - powiedział. "Ale stale się poprawiały. Najpierw stały się bardzo dobre w zadaniach konkursowych dla uczniów szkół średnich, co zwróciło uwagę niektórych matematyków. Ale potem, w ciągu ostatnich kilku miesięcy, mieliśmy eksplozję wyników badań, z których profesjonalni matematycy byliby dumni, gdyby je osiągnęli i opublikowali". Przewiduje, że wkrótce systemy AI będą "znacznie lepsze od ludzi w tym, co obecnie robią matematycy", co wymusi przemyślenie całej dziedziny. Z dobrej strony, możemy przyspieszyć powiązanie czystej matematyki z zastosowaniami 10 lub 100 razy. Z złej strony, ci, którzy robią doktorat z matematyki, mogą zacząć aktualizować swoje CV.

Podróż Tsimermana do bezpieczeństwa AI zaczęła się około 2016 roku od AlphaGo, a kiedy pojawił się ChatGPT, zdał sobie sprawę, że te systemy mogą "naprawdę mówić" i prawdopodobnie staną się znacznie potężniejsze. "Teraz jest szczególnie dobry moment" - zauważył - "ponieważ dopiero niedawno systemy AI stały się na tyle dobre, że możemy im delegować zadania związane z kodowaniem". Oznacza to, że nie musi już opanować inżynierii oprogramowania, aby przeprowadzać eksperymenty - co jest ulgą, przypuszczalnie, dla kogoś, kto woli dowodzić twierdzenia niż debugować kod.

Odnosząc się do sceptyków skrajnych scenariuszy zagrożenia AI, Tsimerman przyznał, że istnieje "zdrowa reakcja immunologiczna" na przepowiednie zagłady, ale zachęcił ludzi do zapisywania swoich przewidywań i porównywania ich z rzeczywistością. "Gdybyśmy powiedzieli ludziom pięć lat temu o obecnych systemach AI, prawie wszyscy zareagowaliby niedowierzaniem" - powiedział. Ma nadzieję, że jego artykuł o omnicydzie - tak, to termin - sprawi, że ludzie "zrozumieją w trzewny sposób, jakie zagrożenia są możliwe".

W OpenAI Tsimerman planuje skupić się na bezpieczeństwie, a nie na możliwościach. "Możliwości rozwijają się całkiem dobrze" - zażartował. Jego rola? Matematycy mogą pomóc w opracowaniu teoretycznego zrozumienia systemów AI, które obecnie są "bardzo empiryczną nauką". Historycznie matematyka przekształcała mgliste intuicje w precyzyjne definicje, jak w przypadku teorii informacji i teorii złożoności. Trochę precyzji mogłoby pomóc w przewidywaniu i kontrolowaniu zachowania AI - albo przynajmniej dać nam lepsze pojęcie, kiedy panikować.

Jeśli chodzi o kompromis związany z pracą w prywatnej firmie, Tsimerman przyznał to, ale podkreślił potrzebę "zdrowego ekosystemu dla bezpieczeństwa AI", w tym laboratoriów, organizacji zewnętrznych i