आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर Anthropic एक तरफ अपने AI मॉडल Claude के संभावित गलत इस्तेमाल से निपटने के प्रयासों को सामने रख रही है, वहीं कंपनी के पूर्व कर्मचारियों की चिंताओं ने बहस को नया मोड़ दे दिया है। Anthropic के दो कर्मचारियों, Jacob Coxon और Joe Benton, के कंपनी छोड़ने के बाद AI के बढ़ते जोखिम और सुपरइंटेलिजेंस को लेकर गंभीर सवाल उठाए गए हैं।
इन घटनाओं ने एक अहम सवाल खड़ा किया है कि AI कंपनियां मौजूदा खतरों से निपटने पर कितना ध्यान दे रही हैं और भविष्य में ज्यादा सक्षम AI सिस्टम से जुड़े जोखिमों के लिए उनकी तैयारी कितनी पर्याप्त है।
Jacob Coxon ने AI कंपनियों की रेस पर उठाए सवाल
9 सितंबर को Jacob Coxon ने सार्वजनिक रूप से अपने विचार साझा किए। Coxon हाल ही में Anthropic से अलग हुए हैं और इससे पहले OpenAI में प्री-ट्रेनिंग रिसर्च से जुड़े रहे हैं।
उनका कहना है कि बड़ी AI कंपनियां सुपरइंटेलिजेंस विकसित करने की प्रतिस्पर्धा में तेजी से आगे बढ़ रही हैं। इस दौड़ का लक्ष्य ऐसे AI सिस्टम तैयार करना है, जो मौजूदा क्षमताओं से कहीं आगे निकल सकें और खुद को बेहतर बनाने में भी सक्षम हों।
Coxon के मुताबिक, AI क्षमताओं के विकास की रफ्तार चिंता का विषय है। उन्होंने आशंका जताई कि अगर यह प्रतिस्पर्धा इसी गति से जारी रही तो आने वाले एक-दो वर्षों में परिस्थितियों को नियंत्रित करना मुश्किल हो सकता है।
उन्होंने यह भी तर्क दिया कि AI कंपनियों को अपनी तकनीकी प्रगति के साथ सुरक्षा और जिम्मेदारी को भी उतनी ही प्राथमिकता देनी चाहिए। Coxon ने कंपनी से अलग होने का फैसला अपनी इक्विटी वेस्ट होने से पहले लिया, ताकि उनके फैसले को किसी आर्थिक लाभ से जोड़कर न देखा जाए।
Joe Benton ने भी जताई सुपरइंटेलिजेंस को लेकर चिंता
Coxon के बाद Anthropic के पूर्व सेफ्टी मैनेजर Joe Benton ने भी AI के भविष्य से जुड़े जोखिमों पर अपनी चिंता सार्वजनिक की। Benton कंपनी की Scalable Oversight टीम का प्रबंधन कर चुके हैं और करीब दो सप्ताह पहले Anthropic से इस्तीफा दे चुके हैं।
अब Benton स्वतंत्र संगठन METR से जुड़ने की तैयारी में हैं। यह संगठन AI सिस्टम की क्षमताओं और सुरक्षा का स्वतंत्र मूल्यांकन करने के क्षेत्र में काम करता है।
Benton के अनुसार, AI कंपनियां अपने सिस्टम की क्षमताओं को तेजी से बढ़ा रही हैं और आने वाले समय में विकास की रफ्तार और अधिक बढ़ सकती है। उनका मानना है कि कुछ वर्षों के भीतर ऐसे AI एजेंट सामने आ सकते हैं, जिनकी क्षमताएं इंसानों से काफी अधिक हों।
इंसानों से अलग लक्ष्य रखने वाले AI एजेंट्स की आशंका
Benton ने जिस मुद्दे पर खास चिंता जताई है, वह ऐसे AI एजेंट्स का संभावित विकास है जिनके लक्ष्य इंसानों के उद्देश्यों से अलग हो सकते हैं। अगर भविष्य में बेहद सक्षम AI सिस्टम ऐसे लक्ष्य विकसित करते हैं जिन्हें इंसान पूरी तरह नियंत्रित नहीं कर पाते, तो उनके व्यवहार को सुरक्षित रखना चुनौतीपूर्ण हो सकता है।
उनका तर्क है कि इस तरह के संभावित जोखिमों के लिए तैयारी AI के और अधिक सक्षम होने से पहले ही शुरू करनी होगी। यदि सुरक्षा उपाय बाद में विकसित किए गए, तो मानव समाज के लिए तेजी से बदलते AI परिदृश्य के साथ तालमेल बैठाना कठिन हो सकता है।
Anthropic की सुरक्षा नीति पर क्यों बढ़ी चर्चा?
Anthropic लगातार AI के गलत इस्तेमाल और उससे जुड़े खतरों को कम करने के लिए सुरक्षा उपायों पर जोर देती रही है। कंपनी की थ्रेट इंटेलिजेंस रिपोर्ट भी AI के दुरुपयोग से जुड़े मौजूदा मामलों और उनसे निपटने की कोशिशों को रेखांकित करती है।
लेकिन दूसरी तरफ कंपनी से जुड़े रहे सुरक्षा विशेषज्ञों के सार्वजनिक बयान एक अलग चिंता सामने लाते हैं। यहां सवाल सिर्फ मौजूदा AI मॉडल के दुरुपयोग का नहीं है, बल्कि भविष्य में बेहद शक्तिशाली AI सिस्टम विकसित होने की स्थिति में सुरक्षा और नियंत्रण की क्षमता का भी है।
Jacob Coxon और Joe Benton के विचारों में अंतर होने के बावजूद एक बात समान नजर आती है—AI क्षमताओं के विकास की रफ्तार के साथ सुरक्षा तैयारियों को भी तेजी से आगे बढ़ाना जरूरी है। आने वाले वर्षों में AI कंपनियों के सामने तकनीकी प्रगति और सुरक्षा के बीच संतुलन बनाना सबसे बड़ी चुनौतियों में से एक हो सकता है।
