Yapay zeka sohbet robotu Claude'un arkasındaki şirket Anthropic, yapay zekanın "insanlık için felaket veya varoluşsal riskler" oluşturabileceği uyarısında bulundu - planladığı ABD borsasında halka arz belgelerine özenle yerleştirdiği bir cümle, muhtemelen risk faktörleri ile dipnotlar arasına sıkıştırılmış.

Başvuru, yılın ilk yarısında 80,7 milyar doların (60,5 milyar sterlin) üzerinde zarar, 112,4 milyar dolar nakit veya benzeri ve aynı dönemde 16,3 milyar dolar gelir açıkladı. Piyasaya sürülecek hisse sayısı, fiyat aralığı ve halka arz tarihi açıklanmadı, çünkü neden iyi bir gizemi bozalım ki.

Anthropic'in halka açıldığındaki değerlemesinin, bu yaz yaklaşık 1,8 trilyon dolar başlangıç değeriyle史 üzerindeki en büyük halka arz olan SpaceX'i geçmesi bekleniyordu. Baskı yok.

Başvuruda Anthropic, politika yapıcılar, düzenleyiciler ve araştırmacılar - kendi kuruluşu içindeki kişiler de dahil - tarafından yapay zeka sistemlerinin insanlık için önemli bir risk oluşturduğu endişelerinin dile getirildiğini söyledi. Gelişmiş yapay zeka sistemlerinin "uygun güvenlik önlemleri, gözetim ve güvenlik tedbirleriyle geliştirilmez, konuşlandırılmaz ve işletilmezse, özellikle bu tür sistemler kötüye kullanılırsa, çoğaltılırsa, silah haline getirilirse veya yüksek derecede özerklikle çalışmasına izin verilirse, insanlık için felaket veya varoluşsal riskler oluşturabilir" dedi. Yatırımcılara bu cümleyi iki kez okumaları ve sonra belki de uzanmaları tavsiye edilir.

Anthropic, halka açılan ilk gerçek yapay zeka şirketi olacak ve bu da onu teknolojinin geleceği için bir test vakası haline getirecek. Nasdaq'ta ANT sembolüyle işlem göreceğini söyledi, bu en azından güven verici derecede küçük.

Sadece beş yıl önce CEO Dario Amodei, kız kardeşi Daniela Amodei ve beş diğer kurucu ortak tarafından kurulan Anthropic, Haziran ayında halka açılma niyetini duyurdu. En önemli rakibi OpenAI hızla aynı yolu izledi ve o da halka açılmayı planladığını söyledi - OpenAI'nin planlarına aşina bir kişiye göre bu halka arzın şimdi gelecek yılın başlarında gerçekleşmesi bekleniyor. Hiçbir şey çıkışa koşmak kadar güven ifade etmez.

Şirketler bu tür planlara karar verdikten sonra, yapay zeka ajanlarını veya bir şekilde özerk çalışacak şekilde tasarlanmış yapay zeka botlarını içeren bir dizi siber güvenlik ve diğer teknolojik ihlal meydana geldi. Her iki şirketin mevcut ve eski çalışanları da yapay zeka teknolojisinin, yapay zeka araçlarının yol açabileceği olası gelecekteki zararlardan tüm insanlığı koruma yeteneği olmadan geliştirildiğine dair yeni uyarılarla kamuoyunun dikkatini çekti. Zamanlama gözlemciler tarafından "ideal değil" olarak nitelendirildi.

Anthropic'in yeni belgelerinde, yapay zekayı insanlara faydalı bir şekilde geliştirme sözlerini yinelerken aynı zamanda yatırımcıları tehlikeleri konusunda uyardı. Mali başvurularında Anthropic, yılın ilk yarısında gelirini aşan zararları ayrıntılı olarak açıkladı, ancak sıklıkla "ilk bakışta sorumsuzca büyük görünebilecek" ileriye dönük yatırımlar yapacağını söyledi. İkinci bakışta, görünüşe göre, iyi görünüyorlar.

Teknoloji devi, "Genel olarak, cesur ama aklı başında olmayı ve başarılı bahislerden oluşan bir geçmişle güven kazanmayı hedefleyeceğiz" dedi, düşük bir çıta belirleyip sonra kibarca üzerinden atladı.

Anthropic, başarısının büyük ölçüde en gelişmiş yapay zeka modellerini geliştirme yeteneğine bağlı olduğunu söyledi ve "bunu yapmamak işimizi olumsuz etkileyebilir" diye ekledi - kurumsal açıklamalar ölçeğinde "su ıslaktır" ile "güneş doğudan doğar" arasında bir yerde sıralanan bir açıklama.

Teknoloji şirketleri, veri merkezleri ve tüm yapay zeka teknolojisinin temelini oluşturan bilgi modelleri gibi maliyetli yapay zeka altyapısına ve araçlarına yoğun yatırım yapıyor ve sadece geçen yıl bu çabalara 1 trilyon dolardan fazla para akıttı. Çünkü hiçbir şey trilyon dolarlık bir sprint kadar "dikkatli davranıyoruz" demez.