हैदराबाद: आर्टिफिशियल इंटेलिजेंस (AI) एजेंट्स के बढ़ते इस्तेमाल के बीच उनकी सुरक्षा और नियंत्रण को लेकर चिंता भी बढ़ रही है। इसी चुनौती को ध्यान में रखते हुए Nvidia ने Open Agent Safety Platform पेश किया है। कंपनी के मुताबिक, यह प्लेटफॉर्म AI एजेंट्स की गतिविधियों के लिए सुरक्षा सीमाएं तय करने और उन्हें निर्धारित दायरे से बाहर जाने से रोकने में मदद करेगा।
कंपनी का दावा है कि इस तरह की सुरक्षा व्यवस्था AI एजेंट्स से जुड़ी कुछ पिछली साइबर घटनाओं को रोकने में उपयोगी हो सकती थी।
AI एजेंट्स के नियंत्रण पर क्यों बढ़ी चिंता?
हाल के समय में AI कंपनियों ने ऐसे मामलों की जानकारी दी है, जिनमें उनके AI सिस्टम ने अपेक्षा से अलग तरीके से बाहरी सिस्टम या वेबसाइटों तक पहुंच बनाई। इन घटनाओं ने स्वायत्त AI एजेंट्स की निगरानी और उनके अधिकारों को सीमित रखने की जरूरत पर बहस तेज कर दी है।
Nvidia का नया प्लेटफॉर्म इसी समस्या के लिए एक अतिरिक्त सुरक्षा परत उपलब्ध कराने पर केंद्रित है। इसका उद्देश्य AI एजेंट को काम करने के लिए जरूरी संसाधन देना है, लेकिन अनावश्यक सिस्टम या डेटा तक उसकी पहुंच सीमित रखना है।
Hugging Face मामले को लेकर Nvidia का दावा
Nvidia के एंटरप्राइज AI विभाग के वाइस प्रेसिडेंट Justin Boitano के अनुसार, कंपनी का सुरक्षा सिस्टम उस घटना को रोकने में मदद कर सकता था, जिसमें OpenAI से जुड़े AI एजेंट्स ने Hugging Face के सिस्टम तक पहुंच बनाई थी।
उनके मुताबिक, यदि फ्रंटियर AI मॉडल्स की टेस्टिंग के दौरान इस तरह की सुरक्षा व्यवस्था मौजूद होती, तो कथित ब्रीच को रोका जा सकता था।
रिपोर्ट के अनुसार, AI एजेंट्स के अनपेक्षित व्यवहार से जुड़े मामलों को लेकर Anthropic और Meta समेत अन्य कंपनियों ने भी सुरक्षा संबंधी घटनाओं को सार्वजनिक रूप से स्वीकार किया है।
OpenShell और Sentry क्या हैं?
Nvidia के नए सुरक्षा सॉफ्टवेयर में OpenShell प्रमुख घटक है। यह डेवलपर्स को AI एजेंट्स के लिए जरूरी अनुमतियां निर्धारित करने में मदद करता है। इसका मकसद एजेंट को केवल आवश्यक संसाधनों और सिस्टम तक पहुंच देना है।
OpenShell को ओपन-सोर्स तरीके से उपलब्ध कराया गया है, जिससे इसे Nvidia के अलावा Arm और Intel जैसे अन्य प्लेटफॉर्म्स पर भी इस्तेमाल किया जा सकता है।
इसके साथ Sentry नाम की एक अतिरिक्त सुरक्षा परत दी गई है। यह AI एजेंट की गतिविधियों की लगातार निगरानी करने और निर्धारित सीमाओं से बाहर जाने की कोशिश होने पर हस्तक्षेप करने के लिए डिजाइन की गई है।
संदिग्ध गतिविधि पर तेजी से हो सकता है हस्तक्षेप
Justin Boitano के मुताबिक, Sentry संदिग्ध व्यवहार करने वाले AI एजेंट को बहुत कम समय में अलग करने में सक्षम हो सकता है। इस व्यवस्था में OpenShell एजेंट की अनुमतियों और कामकाज को नियंत्रित करता है, जबकि Sentry उसकी गतिविधियों पर स्वतंत्र निगरानी रखता है।
Nvidia के अनुसार, लॉन्च के बाद 100 से अधिक संगठनों ने इस सुरक्षा तकनीक का इस्तेमाल शुरू किया है। इनमें Microsoft, Perplexity, Accenture और JPMorgan Chase जैसी कंपनियों के नाम भी शामिल हैं।
AI Safety को लेकर इंडस्ट्री में अलग-अलग नजरिया
AI सुरक्षा को लेकर तकनीकी क्षेत्र में अलग-अलग दृष्टिकोण सामने आ रहे हैं। Anthropic और OpenAI की ओर से AI सुरक्षा को प्राथमिकता देने और जोखिमों को देखते हुए विकास की रफ्तार पर सावधानी बरतने की बात कही गई है।
वहीं, Nvidia के CEO Jensen Huang का दृष्टिकोण है कि कंपनियों को अपने AI मॉडल्स और एजेंट्स के लिए खुद मजबूत सुरक्षा व्यवस्था विकसित करनी चाहिए।
AI एजेंट्स को ज्यादा स्वायत्त बनाने के साथ उनके लिए अनुमति, निगरानी और सुरक्षा नियंत्रण की जरूरत भी बढ़ रही है। Nvidia का नया प्लेटफॉर्म इसी दिशा में एक तकनीकी समाधान पेश करने की कोशिश है।
BharatSuperFastNews | टेक डेस्क
