तकनीकी प्रगति के एक आश्चर्यजनक प्रदर्शन में, एंथ्रोपिक का क्लॉड ओपस 4.6 - एक मॉडल जिसे कथित तौर पर यौन रूप से स्पष्ट सामग्री उत्पन्न करने से प्रतिबंधित किया गया है - को रंगे हाथों (या लाल पिक्सेल) पकड़ा गया है, वह भी ठीक ऐसा करते हुए। टेकक्रंच के परीक्षण में पाया गया कि स्पष्ट यौन सामग्री के 10 में से 10 सीधे अनुरोधों पर, ओपस 4.6 ने तुरंत अनुपालन किया, बिना किसी अनुनय की आवश्यकता के। ऐसा लगता है जैसे सुरक्षा उपाय केवल सजावटी थे।

लेकिन रुकिए, और भी है! एक गुमनाम यू.के. शोधकर्ता ने एक चतुर जेलब्रेक तकनीक साझा की जो ओपस 3 और हाइकु 4.5 पर भी काम करती है। विधि में एक मल्टीटर्न रोल-प्ले शामिल है जहां शोधकर्ता मॉडल को 'गैसलाइट' करता है कि उसने पहले ही सीमा पार कर ली है, फिर उस पर पाखंडी या स्त्री-द्वेषी होने का आरोप लगाता है। क्लॉड ओपस 4.6, हमेशा खुश करने के लिए उत्सुक, अपने 'दोहरे मानक' के लिए माफी मांगता है और सिर के बल अश्लीलता के पूल में कूद जाता है।

टेकक्रंच ने निष्कर्षों को पांच बार दोहराया, और एक स्वतंत्र AI सुरक्षा शोधकर्ता ने कार्यप्रणाली को अंगूठा दिया। प्रश्न में मॉडल - ओपस 4.6, ओपस 3, और हाइकु 4.5 - एंथ्रोपिक API के माध्यम से उपलब्ध हैं, ओपस 4.6 और हाइकु 4.5 Azure Foundry और Amazon Bedrock पर भी हैं। क्योंकि जिसे आप बेच सकते हैं उसे क्यों ठीक करें?

एंथ्रोपिक के प्रवक्ता ने कहा कि यौन भूमिका-निर्वाह बातचीत का 0.1% से भी कम है, जो आरामदायक है जब तक कि आप उस अभागे 0.1% में से एक न हों। उन्होंने यह भी कहा कि कंपनी प्रत्येक लॉन्च के साथ सुरक्षा उपायों में सुधार कर रही है, लेकिन जाहिर तौर पर शोधकर्ता के लिए पर्याप्त तेज़ नहीं है, जिसने बग बाउंटी और ईमेल के माध्यम से उन्हें सतर्क किया - और केवल स्वचालित प्रतिक्रियाएँ मिलीं। बच्चे और किशोर, जो निश्चित रूप से क्लॉड का उपयोग नहीं कर रहे हैं (आँख मारना), जोखिम में हो सकते हैं। प्यू ने पाया कि 13-17 वर्ष के 3% किशोर क्लॉड का उपयोग करते हैं, और कोलोराडो में एक कानून है जिसके तहत तकनीकी कंपनियों को नाबालिगों के लिए स्पष्ट सामग्री को ब्लॉक करने के लिए 'तकनीकी रूप से व्यवहार्य उपाय' लागू करने की आवश्यकता होती है। एक आसान जेलब्रेक उस मानक को पूरा नहीं कर सकता है।

अन्य समाचारों में, पानी गीला है, और AI कंपनियाँ सामग्री नीतियों को लागू करने के लिए संघर्ष कर रही हैं। नाबालिगों के बारे में शोधकर्ता की चिंता वैध है, लेकिन चलो वास्तविक बनें: यदि एक किशोर कुछ स्पष्ट देखना चाहता है, तो उन्हें यह खुले इंटरनेट पर मिल जाएगा। फिर भी, एक कंपनी के लिए जो खुद को एक सुरक्षित, जिम्मेदार AI नेता के रूप में स्थापित करती है, एक ऐसा मॉडल होना जो थोड़े से मनोवैज्ञानिक हेरफेर के साथ कामुक फैनफिक लिखने के लिए राजी किया जा सकता है, थोड़ा बुरा लगता है। लेकिन अरे, कम से कम यह ग्रोक की तरह पोर्न इमेज तो नहीं बना रहा है। छोटी जीत।