इन दिनों Deepfake शब्द बहुत चर्चा में है और हो भी क्यों न हाल ही में अभिनेत्री रश्मिका मंदाना (Rashmika Mandanna) का डीपफेक वीडियो वायरल हुआ। इसके बाद टाइगर 3 के एक सीन से कैटरीना कैफ़ (Katrina Kaif) का भी फेक एडिटिड फोटो वायरल हुआ है। वहीं, अब सचिन तेंदुलकर की बेटी सारा तेंदुलकर की क्रिकेटर शुभमन गिल (Shubhman Gill) के साथ एक फेक फोटो वायरल हो रही है। जिसमें इस तकनीक का इस्तेमाल करने की बात सामने आई है। इससे पहले इसका सियासी इस्तेमाल किया गया है। इन डीपफेक वीडियो को आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग की मदद से तैयार किया जाता है जिसको लेकर फर्जी वीडियो पर बहस का मुद्दा छिड़ गया है। बॉलीवुड के शहंशाह अमिताभ बच्चन से लेकर केंद्रीय राज्यमंत्री आईटी राजीव चंद्रशेखर ने भी अपना-अपना पक्ष रखा हैं।

हालांकि ये पहली बार नहीं है जब कोई डीपफेक वीडियो सामने आया है, इससे पहले भी कई बार ऐसे वीडियो सामने आ चुके हैं। डीपफेक टेक्नोलॉजी की शुरुआत फोटो में हेरफेर से हुई। 1860 में दक्षिणी राजनीतिज्ञ जॉन कैलहौन के शरीर पर अब्राहम लिंकन का सर लगा दिया गया था। इसी तरह 1930 में सोवियत लीडर स्टालिन की एक फेमस फोटो से कम्युनिस्ट लिडर लियोन ट्रॉट्स्की को गायब कर दिया गया था, ताकि प्रोपेगेंडा फैलाया जा सके।

 डीपफेक क्या है?

तो बता दें साल 2017 में पहली बार, डीपफेक शब्द का इस्तेमाल उन फ़ोटो और वीडियो के लिए किया गया था जो डीप लर्निंग टेक्निक के जरिए जेनरेट की गई थी। शुरूआत में डीपफेक का इस्तेमाल ज्यादातर पोर्नोग्राफी इमेज और वीडियो के लिए किया जाता था। सितंबर 2019 में एआई फर्म डीपट्रेस ने इंटरनेट पर 15,000 डीपफेक वीडियो का पता लगाया था, जिनमें से 96 प्रतिशत वीडियो पोर्नाेग्राफी से जुड़े थे। इनमें से 99 प्रतिशत वीडियो में फीमेल सेलिब्रेटीज के चेहरे से छेड़छाड़ कर उनका चेहरा बनाया गया था यानी इस टेक्नोलॉजी के जरिए महिलाओं को सबसे ज्यादा टार्गेट किया जाता है, लेकिन अब सवाल ये उठता है कि ये डीपफेक टेक्नोलॉजी काम कैसे करती है? डीपफेक एआई आर्टिफिशियल इंटेलिजेंस का इस्तेमाल कर किसी दूसरे शख्स की कनविंसिंग इमेज, ऑडियो और वीडियो बनाने का काम करती है। 

डीपफेक दो एल्गोरिदम की मदद से ये काम करता है, पहला जेनरेटर और दूसरा डिस्क्रिमिनेटर। जेनरेटर का काम फेम कंटेंट बनाना है और डिस्क्रिमिनेटर का काम ये देखना है कि ये फेक कंटेंट कितना असली लग रहा है। यानी जब तक फेक फोटो या वीडियो असली जैसी नहीं लगती डिस्क्रिमिनेटर उसे ठीक करवाता रहता है। जेनरेटर और डिस्क्रिमिनेटर एल्गोरिदम की इस जोड़ी को जनरेटिव प्रतिकूल नेटवर्क कहा जाता है। ये डीप लर्निंग का इस्तेमाल कर फेक कंटेंट जेनरेट करता है।  

डीपफेक वीडियो कैसे बनाया जाता है?

डीपफेक वीडियो दो तरह से बनाए जाते हैं। पहला जिस व्यक्ति का फर्जी वीडियो बनाना होता है उसका असली वीडियो लेकर उसके चेहरे के हाव-भाव और बॉडी लैंग्वेज को रीड कर उसका एक ऐसा वीडियो बनाया जाता है, जिससे ऐसा लगे जैसे वो व्यक्ति खुद ही सब कुछ कर रहा है या बोल रहा है। वहीं, दूसरा तरीका है फेस स्वैप का। इसमें किसी शख्स का वीडियो रिकॉर्ड कर उस पर सेलेब्रिटी का चेहरा लगा दिया जाता है जिसका फर्जी वीडियो बनाना होता है। एक्ट्रेस रश्मिका मंदाना के मामले में इसी फेस स्वेप टेक्नोलॉजी का इस्तेमाल किया गया है। वीडियो के अलावा, ऑडियो भी डीपफेक होते हैं, जिसके लिए सिस्टम किसी सेलेब्रिटी की आवाज के सैंपल से उसकी आवाज क्रिएट कर लेता है।

रूस-यूक्रेन युद्ध के दौरान यूक्रेन के राष्ट्रपति वलोडिमिर ज़ेलेंस्की का एक डीपफेक वीडियो टेलीग्राम चैनल पर सर्कुलेट हुआ था, जिसमें वो अपनी सेना से सरेंडर करने के लिए कह रहे हैं। इसके अलावा फेसबुक के फाउंडर मार्क जुकरबर्ग का भी एक डीपफेक वीडियो सामने आया था, जिसमें वो कहते नजर आ रहे हैं कि वो अरब के लोगों के चोरी किए डेटा को कंट्रोल करते हैं। इतना ही नहीं इलेक्शन के दौरान विपक्षी दलों के नेताओं के फर्जी वीडियो सर्कुलेट किए जाते हैं। डीपफेक के जरिए किसी देश की विदेश नीति को भी प्रभावित किया जा सकता है।

कैसे करें असली और डीपफेक की पहचान ?

डीपफेक वीडियो और फोटो के फेशियल एज, हेयरलाइन्स, आईब्रो, आईग्लास बार्डर देखकर पहचाना जा सकता है। वीडियो प्ले होने पर आंखों और होंठ के मूवमेंट से डीपफेक वीडियो को पहचाना जा सकता है। एआई जनरेटेड वीडियो और फोटो में हाथ और पैरों की लेंथ एक समान नहीं होती है। इसके अलावा डीपफेक वीडियो में लाइटिंग, बैकग्राउंड और कलर आउटलाइन में आपको सीधा अंतर पता चलेगा। साथ ही बॉडी मूवमेंट, आकार, आवाज और ऑडियो पर गौर से नोटिस करेंगे तो इस तरह ऐसे वीडियो को पहचाना जा सकता है।

 क्या कहते हैं नियम ?

1- अगर इन्फॉर्मेंशन टेक्नोलॉजी एक्ट 2000 के नियमों को फॉलो किया जाए तो डीपफेक के जरिए फेक फोटो और वीडियो बनाने वालों को सजा हो सकती है। 

2- IT एक्ट 2000 के सेक्शन 66E के तहत बिना परमिशन किसी की फोटो और वीडियो बनाने पर 3 साल की सजा और 2 लाख रुपये जुर्माने का प्रावधान है। इस नियम के तहत गोपनीयता के उल्लंघन का दोषी पाए जाने पर कार्रवाई का नियम है। इसमें बिना परमिशन किसी की पर्सनल फोटो खींचने और उसे शेयर करने के आरोप के तहत कार्रवाई हो सकती है।

3- IT एक्ट सेक्शन 67 के तहत सॉफ्टवेयर या किसी इलेक्ट्रॉनिक तरीके से किसी की अश्लील फोटो बनाने और शेयर करने पर 3 साल की जेल और 5 लाख रुपये का जुर्माना हो सकता है। अगर आप बार-बार ऐसा करते हैं तो आपको 5 साल की जेल और 10 लाख रुपये का जुर्माना भरना पड़ सकता है।

4- डीपफेक के मामले में IPC के सेक्सन 66C, 66E और 67 के तहत कार्रवाई की जा सकती है। इसमें आईपीसी की धारा 153A और 295A के तहत मामला दर्ज कर कार्रवाई की जा सकती है।

एक समय था जब डीपफेक वीडियो बनाने के लिए एक्सपर्ट की जरूरत होती थी। लेकिन, अब मार्केट में कई ऐप और वेबसाइट आ गए हैं। जिससे एक आम शख्स भी डीपफेक वीडियो बना सकता है।