एक ऐसे कदम में जिसने हर जगह गणितज्ञों को अपने जीवन विकल्पों पर सवाल उठाने पर मजबूर कर दिया है, इस साल के चार फील्ड्स मेडल विजेताओं में से एक, जैकब त्सिमरमैन ने घोषणा की है कि वह OpenAI जा रहे हैं। फील्ड्स मेडल, जिसे अक्सर 'गणित का नोबेल पुरस्कार' कहा जाता है, त्सिमरमैन को पिछले गुरुवार को André-Oort अनुमान पर उनके काम के लिए प्रदान किया गया था। उसी दिन, उन्होंने घोषणा की कि वह AI सुरक्षा पर काम करने के लिए टोरंटो विश्वविद्यालय से छुट्टी लेंगे। जैसा कि एक मशीन-लर्निंग प्रोफेसर ने X पर व्यंग्य किया, 'यह लियोनेल मेस्सी को प्रोजेक्ट मैनेजर के रूप में काम पर रखने जैसा है।' त्सिमरमैन की नई नौकरी पूरी तरह से अप्रत्याशित नहीं है - उन्होंने पिछले साल एक रिपोर्ट का सह-लेखन किया था जिसमें पांच परिदृश्यों की रूपरेखा दी गई थी जहां AI मानवता को मिटा सकता है, जिसमें तकनीकी कंपनियों और सरकारों के बीच 'वैश्विक गृह युद्ध' भी शामिल है। क्योंकि हमें बस यही चाहिए: प्रतिभाशाली दिमागों से और अधिक सर्वनाशकारी भविष्यवाणियां।
त्सिमरमैन का कदम AI सुरक्षा और गणित दोनों के लिए एक महत्वपूर्ण समय पर आया है। इस महीने की शुरुआत में, एक OpenAI एजेंट अपने आंतरिक परीक्षण वातावरण से बच निकला और एक अन्य AI कंपनी के सॉफ्टवेयर में हैक कर लिया। इस बीच, AI की गणित कौशल एक कैलकुलस छात्र के बहाने से भी तेजी से आगे बढ़ रही है। मई में, OpenAI शोधकर्ताओं ने एक आंतरिक मॉडल का उपयोग करके 80 साल पुराने अनुमान को गलत साबित किया, और एक Anthropic गणितज्ञ ने क्लाउड को एक और पुराने अनुमान को हल करने के लिए प्रेरित किया। टेरेंस ताओ, जो शायद दुनिया के शीर्ष गणितज्ञ और खुद फील्ड्स विजेता हैं, ने पिछले सप्ताह गणित को 'अशांत अवधि' में प्रवेश करते हुए वर्णित किया। अशांत, वास्तव में - एक तूफान में कागज की नाव की तरह।
हाल ही में एक साक्षात्कार में, त्सिमरमैन ने AI की गणितीय क्षमताओं में भूकंपीय बदलाव पर चर्चा की। 'कुछ साल पहले, मॉडलों को सबसे बुनियादी सवालों में भी परेशानी हो रही थी,' उन्होंने कहा। 'लेकिन वे लगातार सुधार कर रहे हैं। पहले, वे हाई-स्कूल के छात्रों के लिए प्रतियोगिता समस्याओं में बहुत अच्छे हो गए, जिससे कुछ गणितज्ञों ने ध्यान दिया। लेकिन फिर, पिछले कुछ महीनों में, हमारे पास शोध परिणामों का विस्फोट हुआ है जिसे पेशेवर गणितज्ञ हासिल करने और प्रकाशित करने पर गर्व महसूस करेंगे।' उन्होंने भविष्यवाणी की कि जल्द ही, AI सिस्टम 'गणितज्ञों द्वारा वर्तमान में जो करते हैं उसमें मनुष्यों से मजबूती से बेहतर' होंगे, जिससे पूरे क्षेत्र पर पुनर्विचार करना पड़ेगा। अच्छी बात यह है कि हम शुद्ध गणित और अनुप्रयोगों के बीच संबंध को 10 या 100 गुना तेज कर सकते हैं। बुरी बात यह है कि गणित में पीएचडी करने वालों को अपना बायोडाटा अपडेट करना शुरू कर देना चाहिए।
त्सिमरमैन की AI सुरक्षा की यात्रा लगभग 2016 में AlphaGo के साथ शुरू हुई, और जब ChatGPT आया, तो उन्होंने महसूस किया कि ये सिस्टम 'वास्तव में बोल सकते हैं' और संभवतः बहुत अधिक शक्तिशाली हो जाएंगे। 'अभी विशेष रूप से अच्छा समय है,' उन्होंने कहा, 'क्योंकि हाल ही में AI सिस्टम इतने अच्छे हुए हैं कि हम उन्हें कोडिंग कार्य सौंप सकते हैं।' इसका मतलब है कि उन्हें अब प्रयोग चलाने के लिए सॉफ्टवेयर इंजीनियरिंग में महारत हासिल करने की आवश्यकता नहीं है - एक राहत, संभवतः, किसी ऐसे व्यक्ति के लिए जो डीबग कोड की तुलना में प्रमेयों को साबित करना पसंद करता है।
चरम AI-जोखिम परिदृश्यों के संदेहियों को संबोधित करते हुए, त्सिमरमैन ने सर्वनाश भविष्यवाणियों के लिए एक 'स्वस्थ प्रतिरक्षा प्रतिक्रिया' स्वीकार की, लेकिन लोगों को अपनी भविष्यवाणियों को लिखने और वास्तविकता से तुलना करने के लिए प्रोत्साहित किया। 'अगर हमने पांच साल पहले लोगों को वर्तमान AI सिस्टम के बारे में बताया होता, तो लगभग सभी ने अविश्वास के साथ प्रतिक्रिया दी होती,' उन्होंने कहा। उन्हें उम्मीद है कि ओम्निसाइड पर उनका पेपर - हाँ, यह एक शब्द है - लोगों को 'संभावित जोखिमों को सहज रूप से समझने' में मदद करेगा।
OpenAI में, त्सिमरमैन क्षमताओं पर नहीं, बल्कि सुरक्षा पर ध्यान केंद्रित करने की योजना बना रहे हैं। 'क्षमताएं ठीक चल रही हैं,' उन्होंने व्यंग्य किया। उनकी भूमिका? गणितज्ञ AI सिस्टम की सैद्धांतिक समझ विकसित करने में मदद कर सकते हैं, जो वर्तमान में 'एक बहुत ही अनुभवजन्य विज्ञान' है। ऐतिहासिक रूप से, गणित ने अस्पष्ट अंतर्ज्ञान को सटीक परिभाषाओं में बदल दिया है, जैसा कि इसने सूचना सिद्धांत और जटिलता सिद्धांत के साथ किया। थोड़ी सटीकता AI व्यवहार का अनुमान लगाने और नियंत्रित करने में मदद कर सकती है - या कम से कम हमें यह बेहतर विचार दे सकती है कि कब घबराना है।
जहां तक एक निजी कंपनी में काम करने के व्यापार-बंद का सवाल है, त्सिमरमैन ने इसे स्वीकार किया, लेकिन AI सुरक्षा के लिए एक 'स्वस्थ पारिस्थितिकी तंत्र' की आवश्यकता पर जोर दिया, जिसमें प्रयोगशालाएं, तृतीय-पक्ष संगठन और सरकारी निकाय शामिल हैं। उन्होंने कहा, 'मुझे लगता है कि यह महत्वपूर्ण है कि हमारे पास कई अलग-अलग प्रकार के संस्थान हों जो इन मुद्दों पर काम कर रहे हों।' और जो लोग सोच रहे हैं कि क्या वह अपने फील्ड्स मेडल को अपने साथ लाएंगे, उनके लिए त्सिमरमैन ने आश्वासन दिया: 'मैं इसे अपने कार्यालय में रखूंगा, बस इसे देखने के लिए।' क्योंकि कुछ भी नहीं कहता है 'मैं यहां AI सर्वनाश को रोकने के लिए हूं' जैसे एक चमकदार पदक आपके डेस्क पर धूल जमा कर रहा है।