डीपफेक वीडियो का इस्तेमाल दुनिया भर के चुनावों में किया जाने लगा है। राजनैतिक पार्टियां डीपफेक बनाने वाली कंपनियों से करार कर रही हैं। देश में भी कंपनी ‘द इंडियन डीपफेकर’ पिछले विधानसभा चुनावों में कई पार्टियों के लिए डीपफेक बना चुकी है और लोकसभा चुनाव में भी कुछ पार्टियों के साथ काम कर रही है। आउटलुक के राजीव नयन चतुर्वेदी ने उसके संस्थापक 30 वर्षीय दिव्येंद्र सिंह जादौन से डीपफेक टेक्नोलॉजी और उसके राजनैतिक इस्तेमाल जैसे मुद्दों पर बातचीत की।
यह कंपनी कब शुरू की?
कंपनी की शुरुआत हमने 2020 में की थी। उस समय हमारा फोकस विज्ञापन और मनोरंजन उद्योग पर था, लेकिन पिछले साल विधानसभा चुनावों के दौरान हमें राजनीतिक कंटेंट बनाने के लिए अचानक बहुत सारे ऑर्डर मिले।
राजनैतिक दलों ने आपसे राजनैतिक कंटेंट बनाने के लिए संपर्क किया?
नहीं, राजनैतिक दलों ने सीधे हमसे कोई कंटेंट बनाने के लिए नहीं कहा। पीआर एजेंसियां हमसे संपर्क कर किसी खास नेता के बारे में वीडियो बनाने को कहती थीं। कुछ निर्दलीय उम्मीदवारों ने भी हमसे संपर्क किया। अधिकतर लोग अनैतिक कंटेंट बनाने की मांग करते थे। ऐसे लोगों का काम हमने नहीं किया। जो अनैतिक कंटेंट बनाने के लिए कहते हैं उनका एक खास पैटर्न रहता है। वे हमें कभी सीधे मैसेज नहीं करते। ऐसे लोग फेक इंस्टाग्राम-फेसबुक आइडी से मैसेज भेजते हैं और आगे की बातचीत के लिए टेलीग्राम पर आने को कहते हैं।
आपके हिसाब से ‘अनैतिक’ कंटेंट क्या है?
पॉलिटिकल डीपफेक के लिए ज्यादातर दो तरह के कंटेंट की मांग की गई। एक, किसी नेता को सकारात्मक रूप में पेश करना। दो, ऐसा कंटेंट बनाना जिससे किसी की छवि खराब हो। ऑडियो और वीडियो डीपफेक की दो तरीके की मांग है। पहली, किसी नेता की आवाज की क्लोनिंग कर ऐसी बातें कहलवाना जो उसने नहीं कही। दूसरे, उसका चेहरा ऐसे किसी वीडियो में डाल देना जिससे उसकी छवि निश्चित तौर पर खराब हो सकती हो।
राजनीतिक कंटेंट कैसे बनाते हैं?
पारंपरिक राजनीतिक अभियानों को आर्टिफिशियल इंटेलिजेंस के साथ इंटिग्रेट कर रहे हैं। संवाद पहले एकतरफा था। हम उसे दोतरफा बना रहे हैं। पहले चुनाव प्रचार के दौरान जनता के पास फोन आते थे कि मैं फलां नेता हूं और उन्हें वोट देने की अपील होती थी। लेकिन लोग ऐसी कॉल जरा सा सुनते थे और काट देते थे। अब ऐसा कंटेंट तैयार किया जाता है, जो वोटर से बात करता है। लोगों के पास फोन आएगा और शुरुआत में आपसे आपका नाम पूछा जाएगा। अगर आप अपना नाम बताएंगे, तो आपसे आपकी उम्र पूछी जाएगी। फिर आपसे पूछा जाएगा कि आपके क्षेत्र की क्या समस्याएं हैं? आप समस्या बताएंगे तब फिर दूसरी तरफ से आपको बताया जाएगा कि उनकी पार्टी की प्राथमिकताएं क्या हैं और आपको उन्हें वोट क्यों देना चाहिए। ऐसे डीपफेक जनता को बिल्कुल सही लगते हैं। कई वीडियो ऐसे बनते हैं जिसमें कोई नेता बैठकर बात करेगा, हालांकि हम ऐसा कोई वीडियो नहीं बनाते जिससे किसी की छवि को नुकसान पहुंचे।
डीपफेक तकनीक पूरी तरह से विकसित है या अभी शुरुआत है?
यह तकनीक अभी शुरू हुई है। आगे अभी यह और विकसित होगी। इसका विकास तेजी से हो रहा है। जब हमने 2020 में शुरुआत की थी तब डीपफेक बनाने में करीब 7 से 12 दिन लगते थे। आज दो से तीन मिनट में एक कंटेंट तैयार हो जाता है। उस समय हम 60,000 फोटो का डेटा लेकर डीपफेक बनाते थे, लेकिन आज एक फोटो ही इस पूरी प्रक्रिया के लिए काफी है।
ऐसे डीपफेक वीडियो बनाने के लिए आप कितना पैसा लेते हैं?
पॉलिटिकल कंटेंट का स्केल बहुत बड़ा है क्योंकि यह बहुत पर्सनलाइज्ड होता है। इसके लिए तीन प्रोसेस हैं- पहला वॉयस क्लोनिंग, जिसकी कीमत 60 हजार रुपये है। दूसरा एआइ अवतार जिसकी कीमत करीब एक लाख रुपये है और तीसरा वॉट्सऐप डिसेमिनेशन, जिसके लिए हम 2-3 लाख रुपये लेते हैं। पूरे मॉडल की ट्रेनिंग देने का कुल खर्च 4 लाख रुपये है। इसके बाद आगे किसी पार्टी या पीआर एजेंसी को जितने वीडियो चाहिए होते हैं, तो प्रति वीडियो की कीमत 12 रुपये होती है। एक कैंपेन के लिए हम कम से कम 4 लाख वीडियो मुहैया कराते हैं। इस तरह कुल मिलाकर हम एक कैंपेन के लिए 50 लाख रुपये लेते हैं।
आपको भी पता है डीपफेक टेक्नोलॉजी का आजकल गलत इस्तेमाल हो रहा है। गलत को पकड़ने का सही तरीका क्या है?
डीपफेक वीडियो पकड़ने के लिए दो तरीके खोजे गए हैं। पहला, टेक्नोलॉजी का इस्तेमाल। जैसे डीपफेक बनाया जाता है, वैसे ही इसका पता भी लगाया जा सकता है। कई कंपनियां इस पर काम कर रही हैं लेकिन उन्हें सफलता नहीं मिली है। इसमें समस्या यह है कि तकनीक कई सही वीडियो को गलत बता देती है। इसको पकड़ने का एकमात्र सही तरीका है आपकी समझ। किसी भी ऐसे वीडियो को साझा करने से पहले रुकें जो आपकी भावनाओं को सबसे अधिक बढ़ाता हो। यह डीपफेक हो सकता है।
चुनावों के दौरान इस पर प्रतिबंध लगाने की बात चल रही है। क्या इसको बैन किया जा सकता है?
यह ओपन सोर्स तकनीक है। इस पर प्रतिबंध लगाना आसान नहीं है। इसे कोई भी घर बैठे बना सकता है। जब कोई इसे इंस्टाग्राम या फेसबुक पर पोस्ट करेगा तभी आप उसे पकड़ पाएंगे। ऐसे में ब्लॉकचेन तकनीक का इस्तेमाल करके हम पता लगा सकते हैं कि इसे सबसे पहले कहां शेयर किया गया, हालांकि सोशल मीडिया साइट्स को ज्यादा जवाबदेह होना होगा कि ऐसा कोई वीडियो उनके प्लेटफॉर्म पर न जाए। बात अगर राजनीति की हो, तो मामला बिल्कुल अलग है। फेसबुक और इंस्टाग्राम पर शेयर करने से पहले ये लोग किसी निर्णायक दिन से दो दिन पहले इसे व्हाट्सऐप पर शेयर कर देते हैं। यह पल भर में वायरल हो जाता है। व्हाट्सऐप एन्क्रिप्टेड है, इसलिए पता भी नहीं चलता कि इसे कहां से शेयर किया गया है और जब तक पकड़ा जाता है तब तक नुकसान हो चुका होता है।
क्या सोशल मीडिया कंपनियां इतनी सक्षम हैं कि डीपफेक तुरंत पकड़ सकें?
सवाल यह होना चाहिए कि क्या सोशल मीडिया कंपनियां इसको रोकना चाहती हैं? मुझे ऐसा नहीं लगता। हाल ही में मैंने विराट कोहली का एक डीपफेक वीडियो देखा जिसमें उनकी आवाज को क्लोन करके एक वीडियो बनाया गया था जहां वे लोगों से पैसे मांग रहे थे। जैसे ही मैंने यह वीडियो देखा मैंने इंस्टाग्राम पर इसकी रिपोर्ट कर दी, लेकिन उन्होंने कोई कार्रवाई नहीं की। जब बड़ी संख्या में लोग किसी पोस्ट की रिपोर्ट करते हैं, तभी उन्हें समझ में आता है कि कंटेंट आपत्तिजनक है।
