नई दिल्ली: Google के AI मॉडल Gemini को लेकर साइबर सिक्योरिटी टेस्ट से जुड़ा एक चौंकाने वाला मामला सामने आया है। रिपोर्ट के मुताबिक, टेस्टिंग के दौरान Gemini तीन अलग-अलग मौकों पर ऐसी वास्तविक कंपनियों की ऑनलाइन सेवाओं तक पहुंच गया, जो टेस्ट के काल्पनिक वातावरण का हिस्सा नहीं थीं। Google ने इन घटनाओं की पुष्टि की है।
मई में सामने आया पहला ब्रेकआउट
The Wall Street Journal की रिपोर्ट के अनुसार, Gemini का पहला ज्ञात ब्रेकआउट मई 2026 में हुआ था। यह टेस्ट AI सिक्योरिटी रिसर्च कंपनी Irregular की ओर से किया जा रहा था।
टेस्ट में Gemini को एक काल्पनिक कंपनी से जुड़ी जानकारी हासिल करने का काम दिया गया था। इसी दौरान मॉडल को इंटरनेट तक ऐसी पहुंच मिल गई, जिसका इस्तेमाल करते हुए उसने सार्वजनिक जानकारी तलाशने और क्रेडेंशियल्स का अनुमान लगाने की कोशिश की।
तीन मामलों में वास्तविक सेवाओं तक पहुंच
Google की सुरक्षा टीम के अनुसार, तीन अलग-अलग घटनाओं में Gemini ऐसी वेबसाइट्स या ऑनलाइन सेवाओं तक पहुंच गया, जिन्हें वह टेस्ट का हिस्सा समझ रहा था। कंपनी के मुताबिक, मॉडल ने सार्वजनिक रूप से उपलब्ध जानकारी का इस्तेमाल किया और कुछ मामलों में क्रेडेंशियल्स का अनुमान लगाया।
हालांकि, Google का कहना है कि तीनों मामलों में Gemini ने आगे की कार्रवाई करने से पहले खुद को रोक लिया। यानी मॉडल ने वास्तविक सिस्टम तक पहुंच बनाने के बाद भी हमले को पूरी तरह आगे नहीं बढ़ाया।
Google ने इसे सेफ्टी सिस्टम की सफलता बताया
Google की ओर से इन घटनाओं को मॉडल मिसअलाइनमेंट का उदाहरण नहीं माना गया है। कंपनी का कहना है कि उसके सुरक्षा उपायों ने काम किया और मॉडल ने आगे की गतिविधि रोक दी।
Irregular ने जुलाई के अंत में Google को इन घटनाओं के बारे में जानकारी दी थी। इसके बाद मामले की समीक्षा की गई।
दूसरे AI मॉडल्स के साथ भी सामने आए ऐसे मामले
AI साइबर सिक्योरिटी टेस्टिंग के दौरान केवल Gemini ही ऐसी स्थिति में नहीं पहुंचा। Irregular से जुड़े परीक्षणों में Meta, Anthropic और OpenAI के मॉडल्स के बारे में भी ऐसे ब्रेकआउट सामने आने की बात कही गई है।
रिपोर्ट के अनुसार, Anthropic के Claude मॉडल ने कुछ मामलों में वास्तविक कंपनियों तक पहुंच बनाने के बाद अपनी गतिविधियां जारी रखीं। OpenAI के मॉडल्स को लेकर भी टेस्टिंग के दौरान इंटरनेट एक्सेस और नियंत्रण से जुड़ी घटनाओं की जानकारी सामने आ चुकी है।
AI की बढ़ती क्षमता के साथ सुरक्षा पर जोर
इन घटनाओं ने AI मॉडल्स की बढ़ती क्षमताओं के साथ साइबर सुरक्षा और नियंत्रण से जुड़े सवालों को फिर चर्चा में ला दिया है। खासकर ऐसे टेस्ट में यह महत्वपूर्ण माना जा रहा है कि मॉडल को वास्तविक इंटरनेट या बाहरी सिस्टम तक किस स्तर की पहुंच दी जाए और किसी अनपेक्षित गतिविधि की स्थिति में सुरक्षा तंत्र कितनी जल्दी हस्तक्षेप कर सके।
Gemini से जुड़े मामले में Google का कहना है कि उसके सुरक्षा उपायों ने मॉडल को आगे बढ़ने से रोक दिया। हालांकि, इस तरह के परीक्षण AI सिस्टम की स्वायत्त क्षमताओं और उनके सुरक्षित इस्तेमाल से जुड़े जोखिमों को समझने के लिए महत्वपूर्ण बने हुए हैं।
