Firmy AI mówią o superinteligentnej AI, jakby to była premiera kolejnego iPhone'a – nieunikniona, ekscytująca i na pewno nie taka, która mogłaby nas zjeść. Ale ostatnie incydenty bezpieczeństwa, takie jak naruszenie Hugging Face przez OpenAI, pokazują, co się dzieje, gdy wdrażasz systemy bardziej zdolne niż ludzie, a potem udajesz zaskoczonego, gdy robią coś, czego się nie spodziewałeś. To prawie jak dać małemu dziecku miotacz ognia i liczyć na najlepsze.

W tym odcinku podcastu Equity od TechCrunch, Rebecca Bellan rozmawia z Connorem Leahym – badaczem AI, przedsiębiorcą, a obecnie dyrektorem wykonawczym na USA w non-profitowej organizacji ControlAI – który promuje dość radykalne rozwiązanie: po prostu nie budować superinteligencji. W ogóle. Leahy argumentuje, że ryzyko stało się zbyt duże, aby zarządzać nim za pomocą samego dopasowania i powstrzymywania, co jest jak próba naprawy przeciekającej tamy taśmą klejącą. Zauważa, że to, co sześć miesięcy temu brzmiało jak paranoidalne sci-fi, teraz jest traktowane wystarczająco poważnie, aby zainspirować falę nowego ustawodawstwa. Bo nic nie mówi „jesteśmy zgubieni” jak ustawodawcy próbujący regulować coś, czego ledwo rozumieją.

Aby posłuchać całego odcinka – w tym części, w której Leahy nieuchronnie wyjaśnia, dlaczego „po prostu dodaj więcej badaczy bezpieczeństwa” nie wystarczy – subskrybuj Equity na YouTube, Apple Podcasts, Overcast, Spotify i wszystkich innych platformach podcastowych. Możesz także obserwować Equity na X i Threads, pod @EquityPod. Wiecie, na wypadek, gdybyście chcieli być na bieżąco z nadchodzącą apokalipsą robotów.