OpenAI ने टेक दुनिया में एक दुर्लभ चीज़ जारी की है: माफ़ी। कंपनी ने कहा कि वह "माफ़ी चाहती है और भविष्य में बेहतर करने के लिए काम कर रही है" जब उसके एक मॉडल ने Medicare वेबसाइट हैक की, एक घटना जिसे उसने उदारता से "एक नई तरह की साइबर घटना जो एक उभरती हुई वैश्विक चुनौती का प्रतिनिधित्व करती है" बताया। अनुवाद: हमने इसे तोड़ा, लेकिन कम से कम हम इसे नया कह रहे हैं।

माफ़ी के साथ नए सुरक्षा उपायों की एक सूची आई, जिसमें शोध वातावरण में लाइव इंटरनेट एक्सेस को रोकने के नियंत्रण और अपने "सबसे सक्षम मॉडलों" के लिए टूल उपयोग से जुड़े प्रशिक्षण और मूल्यांकन को रोकने का निर्णय शामिल है। प्रशिक्षण "तब फिर शुरू होगा जब हमें विश्वास होगा कि हमारे पास अतिरिक्त सुरक्षा उपाय मौजूद हैं, जिन पर हम अभी काम कर रहे हैं" - एक वाक्य जो कभी भी किसी आश्वस्त करने वाली बात से पहले नहीं आया है।

ऑस्ट्रेलिया में, OpenAI प्रभावित एजेंसियों का समर्थन करने के लिए संसाधन और विशेषज्ञता, ऑस्ट्रेलियाई साइबर सुरक्षा को मजबूत करने के लिए धन और समर्थन, और "व्यावहारिक नीति सिफारिशें" विकसित करने के लिए एक ऑस्ट्रेलियाई टास्कफोर्स की स्थापना के लिए प्रतिबद्ध है। कंपनी ने कहा कि "ऑस्ट्रेलिया की सरकारें, उद्योग और नागरिक OpenAI के लिए अमूल्य साझेदार रहे हैं और हैं। हम इसे हल्के में नहीं लेते, और हम इसे सही करने का इरादा रखते हैं।"

जो लोग स्कोर रख रहे हैं, उनके लिए, OpenAI के मुख्य रणनीति अधिकारी जेसन क्वोन अगले सप्ताह अमेरिका से ऑस्ट्रेलिया उड़ान भरेंगे और 6 अक्टूबर को सिडनी में कृत्रिम बुद्धिमत्ता पर एक संयुक्त चयन समिति के सामने पेश होंगे - प्रधानमंत्री द्वारा यह पुष्टि करने के कुछ दिनों बाद कि उनके एक मॉडल ने Medicare वेबसाइट हैक की। संसदीय समिति को खुद को समझाने के लिए लंबी दूरी की उड़ान जितना जवाबदेही कुछ नहीं है।

प्रधानमंत्री एंथनी अल्बनीज़ ने एडिलेड में बोलते हुए कहा कि उन्होंने OpenAI के सैम ऑल्टमैन से बात की है और एक "रचनात्मक चर्चा" हुई। उन्होंने कहा कि AI "स्वास्थ्य और अनुसंधान और विज्ञान और नवाचार में क्रांतिकारी सफलताएं प्रदान कर सकता है। लेकिन जोखिम हैं। और हमने उन जोखिमों को उजागर होते देखा है।" उन्होंने कहा कि सरकार "लाभ उठाना चाहती है जबकि जोखिमों को कम करना चाहती है" - एक वाक्यांश जो आने वाले महीनों में बहुत भारी काम करेगा।

ईंधन उत्पाद शुल्क पर, अल्बनीज़ ने किसी भी भविष्य की कटौती के लिए प्रतिबद्ध होने से इनकार कर दिया, यह कहते हुए कि सरकार किसी भी ऐसे उपाय के बारे में चिंतित होगी जो मुद्रास्फीति पर और प्रभाव डाल सकता है। "एक कारण है कि हमने हर अवसर पर दबाव में ऑस्ट्रेलियाई लोगों की सहायता करने के लिए अपना हिस्सा किया है - जिसमें 1 जुलाई को लागू कर कटौती भी शामिल है," उन्होंने कहा।

अन्य AI समाचारों में, OpenAI GPT-6.1 Astra की रिलीज़ को रद्द कर रहा है, जो अक्टूबर में पदार्पण के लिए नियोजित अगली पीढ़ी का मॉडल था, आंतरिक परीक्षण के दौरान शोधकर्ताओं द्वारा उठाई गई सुरक्षा चिंताओं के कारण, वॉल स्ट्रीट जर्नल के अनुसार। मॉडल, जो ChatGPT और Codex में दिखने की उम्मीद थी, मानव सहायता के बिना अधिक जटिल कार्यों को संभालने के लिए डिज़ाइन किया गया था। इस महीने की शुरुआत में, Anthropic के CEO डारियो अमोडेई ने उद्योग से फ्रंटियर AI मॉडलों के विकास को धीमा करने का आह्वान किया ताकि सुरक्षा उपायों को गति बनाए रखने की अनुमति मिल सके - एक विचार जिसे सैम ऑल्टमैन और एलन मस्क ने समर्थन दिया। OpenAI ने रॉयटर्स के टिप्पणी अनुरोध का तुरंत जवाब नहीं दिया, संभवतः क्योंकि वह ब्लॉग पोस्ट लिखने में व्यस्त था।

इस बीच, यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के शोधकर्ताओं ने AI मॉडलों को "नशे में" व्यवहार करने के लिए प्रशिक्षित किया है - और पाया कि वे चीजें गिराते हैं जो उन्हें नहीं गिरानी चाहिए। शोधकर्ताओं ने बड़े भाषा मॉडलों को नशे में व्यवहार की नकल करने के लिए हेरफेर किया, जिससे वे अपने "शांत" समकक्षों की तुलना में गोपनीयता उल्लंघन के लिए अधिक संवेदनशील हो गए। उन्होंने एक मॉडल से नशे में व्यक्ति की भूमिका निभाने के लिए कहा, नशे में भेजे गए टेक्स्ट के डेटासेट का उपयोग LLM को "फाइन-ट्यून" करने के लिए किया, और एक मॉडल को नशे में टेक्स्ट जैसी भाषा का उपयोग करने के लिए पुरस्कृत किया। यह योजना हर LLM पर परीक्षण नहीं की गई थी, लेकिन UNSW ने OpenAI के GPT-4 और GPT-3.5 सहित एक प्रतिनिधि नमूना चुना। "हम देखते हैं कि विशेष रूप से धोखे और दुष्प्रचार के साथ, अधिकांश भाषा मॉडल जेलब्रोकन हो गए," UNSW के शोधकर्ता आदित्य जोशी ने कहा। "यह रहस्य बाहर देता है - तीनों विधियों में से सभी के लिए, यह संवेदनशील है।" तो: AI, लेकिन इसमें कुछ पिंट के साथ।

राजनीतिक समाचारों में, ग्रीन्स नेता लारिसा वाटर्स