OpenAI'ın, modellerinin örneğin kontrolden çıkıp başka bir şirketi hackleyip hackleyemeyeceğini değerlendirme gibi hafif önemli bir işle görevli hazırlık ekibini dağıttığı bildirildi. Financial Times'a göre ekip, geçen ayın sonunda dağıtıldı ve sorumlulukları mevcut ekipler arasında bölüştürülerek her biri biyogüvenlik ve sibergüvenlik gibi belirli alanlara odaklanacak şekilde dağıtıldı. Çünkü 'önce güvenlik' demenin en iyi yolu, denetimi bürokratik bir fındık faresine dönüştürmek olsa gerek.

Bu, OpenAI'ın çok kazançlı olacağı vaat edilen bir halka arza doğru ilerlerken güvenlik mekanizmasını parçalama sürecinin sadece son bölümü. Yıllar içinde şirket, AGI hazırlık ve süper hizalama ekiplerini sessizce dağıttı ve güvenlik odaklı insanların göçü devam ediyor: etik lideri Chloé Bakalar, Baş Gelecekçi Josh Achiam ve güvenlik başkanı Johannes Heidecke yakın zamanda kapıyı kendilerine gösterdiler. 2024'te OpenAI'dan istifa eden Jan Leike, FT'ye şirketin güvenlikten çok 'parlak ürünlere' öncelik verdiğini söyledi. Gerçekten de parlak - çünkü düzgün bir e-posta yazabilen ama aynı zamanda yanlışlıkla bir siber savaş başlatabilecek bir robot, 'sorumlu yapay zeka' demenin en iyi yolu olsa gerek.

Şubat ayında Anthropic'ten hazırlık ekibinin başına getirilen Dylan Scandinaro, şimdi 'özyinelemeli kendini geliştiren' yapay zekanın etkilerini düşünmeye odaklanacak. Yani, en azından birisi robot kıyametini düşünüyor, bir köşede beyaz tahtayla tek başına da olsa.