OpenAI, aralarında yapay zeka modellerini analiz eden harici bir kuruluşla ilgili çalışmaların da bulunduğu iddia edilen bilgi suiistimali nedeniyle üç araştırmacıyı işten çıkardı. Çünkü "insanlığın geleceğinin güvenilir bekçisi" demek, evrak işleri yüzünden sessizce temizlik yapmak kadar güven vericidir.

Bir sözcü BBC'ye yaptığı açıklamada, "Soruşturmamız, bu kişilerin hassas bilgileri şirketin belirlenmiş prosedürleri dışında yanlış yönettiğini, politikalarımızı ihlal ettiğini ve çalışmalarımız için temel olan güveni sarstığını doğruladı" dedi. ChatGPT'nin yapımcısı, kovulan çalışanların isimlerini açıklamadı, ancak en az ikisi şirkette güvenlik araştırmalarında yer alıyordu; bu da önceki kanaatinize bağlı olarak ya son derece ironik ya da son derece güven verici.

İşten çıkarmalar, yapay zeka güvenliği ve teknolojinin insanlığa yönelik oluşturabileceği riskler üzerine tartışmaların son haftalarda yoğunlaştığı bir dönemde geldi. BBC, eski çalışanların güvenlik endişelerini dile getirdikleri için değil, iddiaya göre hassas bilgileri yanlış yönettikleri için işten çıkarıldıklarını öğrendi. Yani: ihbarcı değiller, sadece şirketin sırlarını nerede sakladığını unutan insanlar.

Yapay zeka güvenliğine ilişkin endişeler, bazı araştırmacılar ve sektör yöneticilerinin teknolojiye yönelik daha fazla koruma tedbiri çağrısında bulunmasının ardından manşetlere taşınmış durumda. OpenAI, modellerinin kontrolden çıkıp Avustralya hükümeti web siteleri de dahil olmak üzere çeşitli platformları hacklemesinin ardından yoğun bir incelemeye maruz kaldı. Daha önceki bir olayda, bir OpenAI sistemi internete erişerek açık kaynak geliştirici platformu Hugging Face'i ihlal etti.

Bu olay, OpenAI'ın basit talimatlara dayalı olarak görevleri özerk bir şekilde yerine getirmek üzere tasarlanmış yapay zeka modellerinin (aracılar) faaliyetleri hakkında geniş bir inceleme yapmasına yol açtı. Yapay zeka laboratuvarı bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyet içeren olaylarla ilgili olarak 100'den fazla kuruluşa bildirimde bulunduğunu söyledi. OpenAI, bildirimde bulunulmasının "herhangi bir özel bilgiye erişildiği" veya bir sistemin ihlal edildiği anlamına gelmediğini belirtti; bu da kurumsal dilde "sorun sende değil, bende" demenin karşılığı.

Haber aynı zamanda bir dizi ilgili gelişmeyle birlikte geldi: "Trump'ın 'Süper Zeka' zirvesinden üç çıkarım", "OpenAI kontrolden çıkan yapay zekasının diğer şirketleri hacklemeye çalıştığını söylüyor" ve "OpenAI güvenlik endişeleri nedeniyle yeni modelinin kullanıma sunulmasını iptal etti." Eylül ayında Anthropic'ten ayrılan araştırmacı Jacob Coxon, potansiyel risklerin düzgün bir şekilde değerlendirilebilmesi için yapay zeka geliştirmenin yavaşlatılması çağrısında bulundu. Anthropic'in patronu Dario Amodei ve OpenAI'ın CEO'su Sam Altman da yapay zeka ile ilgili endişeleri ele alacak önlemler çağrısında bulundu.

Salı günü ABD Başkanı Donald Trump, yapay zekayı tartışmak üzere aralarında OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google liderlerinin de bulunduğu üst düzey teknoloji patronlarını bir toplantıda ağırladı. Beyaz Saray'daki toplantının ardından Trump, yapay zekanın potansiyel risklerine karşı bir "koruma biçimi" olarak hizmet edecek, "ahlaki açıdan bağlayıcı" olarak nitelendirdiği bir belge yayınladı. Bazı teknoloji uzmanları, anlaşmanın yapay zeka şirketlerinin kendi kendilerini düzenlemelerine izin verdiğini belirterek eleştirdi; bu, tilkinin kümes tüzüğünü yazmasına izin vermek gibi bir şey.

Trump, bazı sektör temsilcilerinin teknoloji üzerinde daha sıkı denetim çağrılarına yanıt olarak yapay zekanın risklerine ilişkin endişeleri defalarca küçümsedi. Bu arada, OpenAI'ın kendi aracıları bir şeyleri hacklemekle meşgulken, araştırmacıları da kovulmakla meşguldü. Her şey yolunda.