नई दिल्ली: India AI Impact Summit, जो अभी राजधानी दिल्ली में भारत मंडपम में चल रहा है, जिसमें एक इंडियन डीप-टेक स्टार्टअप एक बूथ पर विज़िटर्स को खींच रहा है, क्योंकि यह उन्हें ‘Deepfake’ के बारे में अवेयर कर रहा है, जो समाज के लिए एक सीरियस चिंता का विषय है.
विज़िटर्स इस बूथ में कदम रख रहे हैं, जहां यह दिखाया जा रहा है कि डिजिटल दुनिया में इंटीग्रिटी को सेफ रखने के लिए ‘Deepfake’ का पता लगाना कितना ज़रूरी है.
खास तौर पर, प्रधानमंत्री नरेंद्र मोदी ने गुरुवार को India AI Impact Summit में अपने भाषण में डीपफेक पर गहरी चिंता जताई. उन्होंने एक ग्लोबल स्टैंडर्ड की ज़रूरत पर ज़ोर दिया और कहा कि डीपफेक और मनगढ़ंत कंटेंट समाज में अस्थिरता ला रहे हैं. उन्होंने कहा कि डिजिटल दुनिया में, कंटेंट पर ऑथेंटिसिटी लेबल होना चाहिए, ताकि लोगों को पता चले कि क्या असली है और AI से बना है.
डीपफेक समाज के लिए खतरा कैसे बन रहे हैं?
डीपफेक के बारे में बताते हुए, पाई-लैब्स के फाउंडर और CEO अंकुश तिवारी ने कहा कि डीपफेक अब एक्सपेरिमेंटल नहीं हैं, वे स्केलेबल, सस्ते और बहुत भरोसेमंद हैं.
उन्होंने ETV Bharat को बताया कि, “यह एक गंभीर क्रॉस-सेक्टर खतरा है. आज, उनका इस्तेमाल राजनीतिक गलत सूचना और चुनाव में दखल, वॉयस क्लोनिंग और एग्जीक्यूटिव की नकल के ज़रिए फाइनेंशियल फ्रॉड, एंटरप्राइज सोशल इंजीनियरिंग हमलों के लिए किया जाता है. इसके अलावा, इसका इस्तेमाल रेप्युटेशन डैमेज और कैरेक्टर एसेसिनेशन, और डिजिटल एक्सटॉर्शन और साइबर हैरेसमेंट के लिए भी किया जाता है.”
तिवारी ने कहा कि असली खतरा सिर्फ़ फ़ेक कंटेंट नहीं है, बल्कि भरोसे का कम होना है. “जब लोग असली और मनगढ़ंत मीडिया में फ़र्क नहीं कर पाते, तो लोगों का भरोसा, इंस्टीट्यूशनल क्रेडिबिलिटी और नेशनल सिक्योरिटी खतरे में पड़ जाती है.”
‘ऑथेंटिफाई’ दूसरे डीपफेक डिटेक्शन इंजन से कैसे अलग है?
CEO ने कहा कि, “ऑथेंटिफाई पुराने डीपफेक डिटेक्शन टूल से अलग है. पांच पेटेंट और सात IEEE रिसर्च पब्लिकेशन के साथ, हमारा डिटेक्शन इंजन ओरिजिनल रिसर्च पर आधारित है, जो सिर्फ सरफेस-लेवल विज़ुअल इंस्पेक्शन पर नहीं बल्कि फोरेंसिक पैटर्न एनालिसिस पर फोकस करता है.”
उन्होंने कहा कि सिर्फ जेनेरिक क्लासिफायर पर निर्भर रहने के बजाय, हम साइंटिफिक रूप से वैलिडेट रिजल्ट देने के लिए गहरे सिंथेटिक जेनरेशन पैटर्न और इनकंसिस्टेंसी का एनालिसिस करते हैं.
तिवारी ने कहा कि, “ज़रूरी बात यह है कि pi-authentify को इंडियन डेटा पर ट्रेन किया गया है, इंडियन कॉन्टेक्स्ट के लिए बनाया गया है, और इंडियन कंट्रोल में मेंटेन किया जाता है. यह बिल्ड इन इंडिया, AI फॉर द वर्ल्ड के विज़न को आगे बढ़ाते हुए ज़्यादा कॉन्टेक्स्टुअल एक्यूरेसी देता है.”
CEO ने आगे कहा कि, “हमारे सॉल्यूशंस में डीपफेक डिटेक्शन, मल्टीमॉडल इंटेलिजेंस फ्यूज़न, और एडवांस्ड ऑडियो-वीडियो फोरेंसिक एनालिसिस शामिल हैं, जो मिशन-क्रिटिकल एनवायरनमेंट के लिए फ्रैगमेंटेड डिजिटल सिग्नल को एक्शनेबल इंटेलिजेंस में बदलने में मदद करते हैं.”
उन्होंने कहा कि, “pi-labs नेशनल सिक्योरिटी, डिफेंस और लॉ एनफोर्समेंट के लिए खास तौर पर बनाए गए सॉवरेन AI सिस्टम बना रहा है. हमारा फोकस जेनेरिक AI पर नहीं, बल्कि खास तौर पर डिफेंस और इंटरनल सिक्योरिटी एजेंसियों की ऑपरेशनल असलियत के लिए डिज़ाइन की गई मिशन-क्रिटिकल इंटेलिजेंस टेक्नोलॉजी पर है. हम भारत में महाराष्ट्र में महासाइबर जैसी कई स्टेट और सेंट्रल लॉ एनफोर्समेंट एजेंसियों के साथ काम कर रहे हैं.”
एक सवाल के जवाब में तिवारी ने कहा कि, “डीपफेक खतरों से जुड़े मामलों में हमारे काम को पब्लिक में पहचान मिली है, जिसमें ऐसे मामले भी शामिल हैं, जहां भारत में सेलिब्रिटीज़ को डीपफेक के गलत इस्तेमाल से बचाया गया था. pi-labs ने डीपफेक खतरों से जुड़े मामलों में मदद की है, जिसमें ऐसे मामले भी शामिल हैं, जहां भारत में सेलिब्रिटीज़ को मैनिपुलेटेड कंटेंट के ज़रिए टारगेट किया गया था. उदाहरण के लिए, पायल गेमिंग मामले में, pi-labs ने पूरी जांच में मदद करने और कंटेंट की असलियत को साफ़ करने के लिए डीपफेक वेरिफिकेशन और एनालिसिस में मदद की.”
डीपफेक पर प्रधानमंत्री की बातों का ज़िक्र करते हुए, CEO ने कहा कि, “डीपफेक अब सिर्फ़ इंटरनेट एक्सपेरिमेंट नहीं रहे, वे डेमोक्रेसी, नेशनल सिक्योरिटी और पब्लिक ट्रस्ट के लिए एक असली खतरा बन गए हैं. इसलिए प्रधानमंत्री का यह मुद्दा उठाना सही समय पर और ज़रूरी दोनों है.”
उन्होंने कहा कि, “लोगों को यह जानने का एक भरोसेमंद तरीका चाहिए कि क्या असली है और क्या AI से बना है. लेकिन लेबल को मज़बूत टेक्नोलॉजी प्रोवेंस सिस्टम, फोरेंसिक वैलिडेशन और ट्रांसपेरेंट वेरिफिकेशन का सपोर्ट होना चाहिए.”
तिवारी ने आगे कहा कि, “भारत के पास ज़िम्मेदार AI गवर्नेंस के लिए ‘बिल्ड इन इंडिया, बिल्ट फॉर द वर्ल्ड’ अप्रोच के ज़रिए इस स्पेस में लीड करने का एक असली मौका है. pi-abs में, हम एक मुख्य लक्ष्य पर फोकस करते हुए स्वदेशी डीपफेक डिटेक्शन टेक्नोलॉजी बनाकर उस विज़न की ओर काम कर रहे हैं, जोकि डिजिटल ट्रस्ट को फिर से बनाना और उसकी रक्षा करना है.”
