OpenAI zakazuje botów propagandowych, bo robiły dokładnie to, co boty propagandowe mają robić
OpenAI zakazuje rosyjskich i irańskich kont propagandowych, które używały jego modeli do prowadzenia fałszywych think tanków, fałszywych dziennikarzy i fałszywych wiadomości – udowadniając po raz kolejny, że AI jest tak etyczna, jak facet z VPN-em.
OpenAI potwierdziło w czwartek, że zbanowało kilka kont powiązanych z dwiema odrębnymi operacjami propagandowymi z siedzibą w Iranie i Rosji, bo nic nie mówi "odpowiedzialne zarządzanie AI" tak jak gra w kotka i myszkę z agentami geopolitycznego chaosu. Rosyjska operacja miała, co warto zauważyć, największy zasięg, jaki firma odnotowała, odkąd zaczęła raportować i zakłócać takie schematy – kamień milowy, o który nikt nie prosił.
Operacje wpływu wykorzystywały modele OpenAI wraz z "bardziej tradycyjnymi technikami i technologiami do wspierania wyrafinowanych 'fałszywych frontów'", potajemnie promując polityczną agendę każdego z krajów. Spiski obejmowały wykorzystanie AI do tworzenia i rozpowszechniania fałszywych wiadomości oraz prowadzenia oszukańczego think tanku – co szczerze mówiąc jest po prostu normalnym think tankiem z dodatkowymi krokami.
"Wykorzystywali te podmioty do prania geopolitycznych, związanych z konfliktem przekazów do swoich docelowych odbiorców" – napisało OpenAI w zdaniu, które byłoby alarmujące, gdyby nie było tak wyczerpujące. "Irańska operacja obejmowała stajnię siedmiu person 'dziennikarzy', których wykorzystywano do proponowania długich artykułów małym i średnim mediom internetowym na całym świecie; rosyjska operacja wydaje się, że wykorzystała nieświadomych ludzi w Ameryce Łacińskiej do prowadzenia 'think tanku' na miejscu".
Bo po co zatrudniać prawdziwych dziennikarzy, skoro można wygenerować siedmiu i nadal nie dotrzymać terminu?
OpenAI zauważyło, że operacje "próbowały różnych taktyk, aby osiągnąć swoje cele". Irańska operacja generowała komentarze w mediach społecznościowych na temat wojny USA z Islamską Republiką, podczas gdy rosyjska operacja tworzyła fałszywe "przecieki" dokumentów i skryptów audio – w tym niektóre, które "podważały rekrutację do Sił Zbrojnych Ukrainy".
Rosyjska operacja, którą OpenAI nazwało "Dark Clark" od fałszywej persony stworzonej na potrzeby schematu, również "podsycała napięcia publiczne między Ukrainą a Polską". W ramach spisku generowali raporty związane z "Social Research Center", fałszywym think tankiem, który rekrutował pracowników w całej Ameryce Łacińskiej i oszukiwał instytucje w całym regionie. Więc fałszywy think tank działający na prawdziwych ludziach. Bardzo meta.
Irański spisek, nazwany "Bogus Bylines", wykorzystywał VPN-y do ukrywania lokalizacji użytkowników i generowania różnych person "amerykańskich freelancerów", choć ustawienia przejrzystości pomocnie zlokalizowały konta w Iranie. Osoby prowadzące te konta generowały następnie fałszywe historie o wojnie USA-Iran pod tymi personami i zalewały media społecznościowe geopolitycznym komentarzem – zarówno po angielsku, jak i po persku. Dwujęzyczna dezinformacja: naprawdę globalny wysiłek.
"Obie operacje również intensywnie wykorzystywały AI do sporządzania raportów wewnętrznych" – dodało OpenAI, zauważając, że rosyjska operacja robiła to bardziej niż cokolwiek innego. "W obu przypadkach aktorzy stosowali wątpliwe lub wręcz zwodnicze metodologie, aby wyolbrzymić skuteczność operatorów". Ach tak, kłamanie o swoim kłamaniu. Ouroboros propagandy.
W 2025 roku OpenAI podobnie raportowało, że zagraniczni przeciwnicy USA używali ChatGPT wraz z innymi modelami AI, aby "osiągnąć swoje cele", cytując kolejną rosyjską operację cybernetyczną, która publikowała treści generowane przez AI na różnych platformach.
Najnowszy raport pojawia się, gdy zaufanie amerykańskiej opinii publicznej do AI – i do zdolności ustawodawców do zarządzania jej rozwojem – kontynuuje swój wyścig na dno. W niedawnym badaniu Reuters/Ipsos 57 procent respondentów stwierdziło, że uważa, iż administracja Trumpa nie traktuje poważnie ryzyka związanego z AI, podczas gdy 54 procent powiedziało to samo o Kongresie. Więc większość nie ufa obu gałęziom władzy. Odświeżająco dwupartyjne.
Administracja Trumpa w dużej mierze preferowała dobrowolne zabezpieczenia nad szeroko zakrojonymi federalnymi regulacjami. Prezydent Trump zaprosił kluczowych liderów branży AI do Białego Domu w zeszłym tygodniu, gdzie dyrektorzy generalni Nvidii, Anthropic, Google, Meta i SpaceXAI zgodzili się na "moralnie wiążące" zobowiązanie do samokontroli obejmujące środki bezpieczeństwa, takie jak zewnętrzne przeglądy ich systemów AI. Krytycy mówią, że nie ufają tym firmom w kwestii samoregulacji – bo oczywiście.
The Good Times
Wiadomości w Twojej skrzynce.
Sardoniczne podsumowanie, dostarczane według Twojego harmonogramu. Bezpłatnie. Zrezygnuj kiedy chcesz.
Już subskrybujesz, ale nigdy do Ciebie nie docieramy? Zajrzyj do folderu spam i kliknij 'To nie spam' (lub 'Usuń ze spamu'), żeby wyciągnąć nas z czyśćca niechcianej poczty. Przy okazji pomożesz wszystkim innym.
Jeśli przez miesiąc nie otworzysz żadnego z naszych e-maili, zostaniesz automatycznie usunięty z listy.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.