क्या डीपफेक का सम्बन्ध सिर्फ विडियो से है?

15 Min Read

डीपफेक वीडियोज़ जहाँ आजकल की दुनियाँ के लिए आम बात बनती जा रही है, इसी के साथ ये हमें मिलने वाली जानकारी के लिए उतनी ही ख़तरा बनती जा रही है। हाल ही में सोशल मीडिया प्लेटफॉर्म्स पर कुछ ऐसे ही डीपफेक वीडियोज़ वायरल हुई हैं। जैसे कि, एक वीडियो में काजोल कैमरा के सामने अपने कपड़े बदल रहीं हैं, और एक दूसरी वीडियो में रश्मिका मंदाना लिफ्ट में हैं। ये दोनों ही वीडियोस बिल्कुल नकली है, ये इतने असली लगती हैं कि उनमें अंतर कर पाना मुश्किल है।

 

Deepfake क्या है?

A deepfake image of Rashmika Mandana

डीपफेक्स वह फेक कंटेंट हैं जो बिलकुल असली दिखते हैं। इन्हें बनाने के लिए एक खास तरह का सॉफ़्टवेयर इस्तेमाल होता है जो किसी व्यक्ति या चीज़ के चेहरे, आवाज, लिखाई, या तस्वीर को किसी और व्यक्ति या चीज़ से बदल सकता है। उदाहरण के लिए, डीपफेक्स ऐसा दिखा सकता है जैसे कोई मशहूर अभिनेता कुछ कह रहा हो जो उन्होंने कभी नहीं कहा, या कोई व्यक्ति कुछ कर रहा हो जो उन्होंने कभी नहीं किया, या किसी मशहूर लेखक ने अपने स्टाइल में कुछ लिखा हो जो उन्होंने लिखा ही नहीं, या एक राजनेता को ऐसी जगह पर दिखाना जहाँ वह कभी गया ही नहीं।

डीपफेक्स बनाने में आर्टिफिशियल इंटेलिजेंस का इस्तेमाल होता है, जो एक कंप्यूटर साइंस का हिस्सा है जो मशीन्स को सिखाने और इंसानों की तरह काम करने की कोशिश करती है। आर्टिफिशियल इंटेलिजेंस बहुत सारी डाटा को एनालाइज कर सकती है, जैसे किसी व्यक्ति या चीज़ की तस्वीरें, वीडियोस, लिखाई, और इमेजेस, और सीख सकती है उनके चेहरे और व्यवहार को कॉपी कैसे करना है। इस जानकारी का इस्तेमाल फिर एक नया कंटेंट बनाने के लिए किया जाता है जो बहुत ही असली दिखे।

डीपफेक्स अलग-अलग कारणों के लिए इस्तेमाल किए जा सकते हैं, जिसमें वैसे तो कुछ ऐसे कारण हो सकते हैं जो की किसी को नुक्सान नहीं पहुचाते जैसे कि किसी पुराने लेखक या आर्टिस्ट जो अब इस दुनिया में नहीं है, उनकी तरह एक रचना को बनाना, जिस से उन्हें याद किया जा सके। लेकिन, ज्यादातर लोग आज के समय में इसका ग़लत इस्तेमाल कर लोगों को नुक़सान पहुँचा रहे हैं, इसीलिए बहुत जरुरी हो जाता है हम इसके बारे में और जानें और सतर्क हो सकें। इसका इस्तेमाल मिस्इनफॉर्मेशन फैलाने, लोगों को ब्लैकमेल करने, स्कैम करने के लिए, या लोगों को परेशान करने जैसी चीज़ों के लिए भी किया जा रहा है।

 

क्या डीपफेक का सम्बन्ध सिर्फ विडियो से है?

(Is deepfake only related to videos?)

Types of Deepfake

डीपफेक्स के ज़्यादातर संबंध झूटी वीडियोस से माना जाता है, लेकिन इस टेक्नोलॉजी को वीडियो के अलावा अलग तरह के मीडिया में भी इस्तेमाल किया जा सकता है। “डीपफेक” शब्द “डीप लर्निंग” और “फेक” से आया है, जो डीप लर्निंग एल्गोरिदम का इस्तेमाल करता है, जिसके जरिए असली दिखने वाला लेकिन बिलकुल नकली कंटेंट बनाया जा सकता है। यहाँ कुछ और माध्यम हैं जहाँ डीपफेक टेक्नोलॉजी का इस्तेमाल किया जा सकता है:

  1. नकली लिखावट (टेक्स्ट डीपफेक्स)
  2. नकली फोटो (इमेज डीपफेक्स)
  3. नकली आवाजें (ऑडियो डीपफेक्स)

इन सभी माध्यम के अंतर्गत और भी कई तरह के डीपफेक्स आते है, जिसमें नकली चैट बनाने से ले कर विडियो कॉल स्कैम तक शामिल है। और गहराई से सभी प्रकार के डीपफेक के बारे में पढने के लिए आप हमारा यह आर्टिकल पढ़ सकते है।

 

डीपफेक और AI के बीच क्या अंतर है?

(What are the differences between Deepfake and AI?)

differences between Deepfake and AI

AI, यानी आर्टिफिशियल इंटेलिजेंस, एक बढ़ी टर्म है जो किसी भी सिस्टम या सॉफ्टवेयर को रेफर करता है। यह ऐसे काम कर सकता है, जिसमें आम तौर पर ह्यूमन इंटेलिजेंस की ज़रूरत पड़ती है, जैसे भाषा समझना, तस्वीरें पहचानना, फैसलें लेना, या डाटा से सीखना। AI को बहुत सारे कारणों के लिए इस्तेमाल किया जा सकता है, जैसे एजुकेशन, एंटरटेनमेंट, हेल्थ केयर, सिक्योरिटी, या बिज़नेस।

जबकि डीपफेक एक विशेष प्रकार का AI है जो नकली इमेज, साउंड्स, या वीडियोस बना सकता है, जो बहुत ही असली लगते हैं। डीपफेक एक तरह का AI इस्तेमाल करता है, जिसे डीप लर्निंग कहा जाता है। यह बड़े अमाउंट के डाटा से कंप्यूटर को सिखाने का एक तरीका है, जैसे कोई इंसान के फोटो या वीडियो।

डीपफेक और AI के बीच का मेन अंतर ये है कि, डीपफेक AI का ही एक हिस्सा है, लेकिन सभी AI सिस्टम्स डीपफेक्स नहीं होते। डीपफेक AI की एक स्पेसिफिक एप्लीकेशन है जो फेक मीडिया बनाने पर फोकस करता है, जबकि AI को बहुत सारी और चीजों के लिए भी इस्तेमाल किया जा सकता है। डीपफेक एक नयी और विकसित होती टेक्नोलॉजी है, जबकि AI काफी पहले से है।

 

 

Deepfakes के संभावित उपयोग:

(What are the potential uses of Deepfakes?)

  1. मनोरंजन (Entertainment): डीपफेक्स का इस्तेमाल रियलिस्ट और क्रिएटिव सामग्री बनाने में हो सकता है, जैसे कि मूवी, TV शोज़, विडियो गेम्स, और सोशल मीडिया प्लेटफार्म के लिए। जैसे, डीपफेक्स से हम गुज़र चुके एक्टर्स को ज़िंदा कर सकते हैं, सेलेब्रिटीज़ के चेहरे को बदल सकते हैं, या नए किरदारों और स्थितियां बना सकते हैं, फिल्म और विडियो को रिस्टोर कर सकते हैं, डबिंग और वौइस्ओवर के लिए भी इस्तेमाल कर सकते हैं, जिस से डबिंग करने पर होठ की क्रिया भाषा के अनुसार ही हिलेगी, जिस से कोई अंग्रेजी एक्टर भी हिंदी बोलता हुआ दिखा जायेगा।
  2. शिक्षा और प्रशिक्षण (Education and Training): डीपफेक्स को लर्निंग एक्स्पेरिंस को सुधारने में इस्तेमाल किया जा सकता है, जैसे कि, डीपफेक्स से असल दिखने वाले सिमुलेशन बनाए जा सकते हैं, लेक्चर को अलग भाषा में ट्रांसलेट किया जा सकता है, या कंटेंट को सीखने वाले की पसंद के हिसाब से पर्सनलायिज़ किया जा सकता है।
  3. फोरेंसिक (Forensics): डीपफेक्स अपराधिक जांच और सबूतों की छानबीन में मदद करने में इस्तेमाल किए जा सकते हैं। जैसे, डीपफेक्स से हम कम-रेसोल्यूशन के इमेज या विडियो की क्वालिटी को बढ़ा सकते हैं, संदिग्ध या पीड़ित के चेहरे को फिर से बना सकते हैं, या रीयलिस्टिक वौइस् सैम्पल पैदा कर सकते हैं।

 

Deepfake good and bad use

 

Deepfakes के खतरे:

(What are the dangers of Deepfakes?)

  1. अश्लील वीडियो (Pornography): डीपफेक्स का इस्तेमाल बिना सहमती और अभद्र पॉर्नोग्राफिक कंटेंट बनाने के लिए किया जा सकता है, जैसे कि रिवेंज पॉर्न, चाइल्ड यौन शोषण समघग्री, या सेलेब्रिटी पॉर्नोग्राफी। डीपफेक्स विक्टिम्स के रिप्यूटेशन, प्राइवेसी, और गरिमा को ठेस पहुँचा सकते हैं, साथ ही उन्हें भावनात्मक और मानसिक तनाव भी देते हैं।
  2. ग़लत जानकारी और झूठी ख़बर (Misinformation and Fake News): डीपफेक्स का इस्तेमाल झूठी और ग़लत जानकारी फैलाने के लिए किया जा सकता है, जैसे कि फेक न्यूज़, होक्स, या प्रॉपेगैंडा। डीपफेक्स पब्लिक ओपिनियन को मैनिपुलेट कर सकते हैं, राजनीतिक परिणाम पर असर डाल सकते हैं, लोकतान्त्रिक संस्थानों में विश्वास को कमजोर कर सकते हैं, और हिंसा और नफ़रत को बढ़ा सकते हैं।
  3. धोखा (Fraud): डीपफेक्स को इस्तेमाल करके वित्तीय धोखाधड़ी और पहचान चोरी जैसे अपराध किए जा सकते हैं, जैसे कि फिशिंग, स्कैमिंग, या ब्लैकमेलिंग। डीपफेक्स किसी व्यक्ति की आवाज या चेहरे का भाषा बनाकर, जैसे कि एक परिवार का सदस्य, एक दोस्त, एक सहकर्मी, या एक सेलेब्रिटी, बनकर, टारगेट को भ्रमित कर सकते हैं और उसे संवेदनशील जानकारी या पैसे ट्रांसफ़र करने के लिए बेवकूफ़ बना सकते हैं।

 

FAQ

क्या भारत में डीपफेक वैध है?

Is deepfake legal in India

डीपफेक का इस्तेमाल भारत में सीधे तौर पर गैरकानूनी नहीं है, लेकिन अगर यह किसी के चेहरे या आवाज को उनकी रज़ामंदी के बिना बदलकर, उनके प्राइवेसी, इज़्ज़त, और शोहरत को नुकसान पहुंचाता है तो उस पर क़ानूनी कार्यवाही की जा सकती है। भारत में, 2021 के इंफॉर्मेशन टेक्नोलॉजी (Intermediary Guidelines and Digital Media Ethics Code) के मुताबिक, सोशल मीडिया इंटरमीडिएरीज को डीपफेक की रिपोर्ट होने पर वह कंटेंट 36 घंटों के अंदर हटाना होगा।

भारत में डीपफेक वीडियोज़ या तस्वीरों के निर्माताओं या बाँटने वालों के खिलाफ अलग-अलग कानून के कई सेक्शन्स हैं। कुछ ऐसे हैं:

  1. अश्लील वीडियो: इंफॉर्मेशन टेक्नोलॉजी एक्ट, 2000 की धारा 67: इस धारा के तहत ऑनलाइन कोई भी अनुचित सामग्री शेयर करने के लिए दंड का प्रावधान है, पहले अपराध के लिए 3 साल तक की सजा और 5 लाख रुपये तक का जुर्माना, और अपराध दोहराने पर 5 साल तक की सजा और 10 लाख रुपये तक के जुर्माने का प्रावधान है।
  2. ग़लत पहचान: इंफॉर्मेशन टेक्नोलॉजी एक्ट, 2000 की धारा 66D: यह धारा में किसी को कंप्यूटर संसाधन या संचार उपकरण का उपयोग करके, किसी की पहचान बदल के धोखाधड़ी करने पर सजा का प्रावधान है  सजा 3 साल तक की हो सकती है और 1 लाख रुपये तक का जुर्माना हो सकता है ।
  3. बदनामी: भारतीय दण्ड संहिता, 1860 की धारा 499: इसमें किसी के बारे में गलत बयान करना उनकी प्रतिष्ठा को क्षति पहुंचाने का दंड है, जिसका नतीजा 3 साल तक की सजा, जुर्माना, या दोनों हो सकती है।
  4. धोखाधड़ी: भारतीय दण्ड संहिता, 1860 की धारा 464: यह किसी के हानि पहुचने, धोखाधड़ी करने, या दूसरों को धोखा देने का इरादे से एक नकली दस्तावेज़ बनाने पर दंडित है, जिसका परिणाम 3 साल तक की सजा, जुर्माना, या दोनों हो सकती है।
  5. राजद्रोह: भारतीय दण्ड संहिता, 1860 की धारा 124A: यह विचारों या शब्दों को सेडिशन के रूप में परिभाषित करता है, जो भारतीय सरकार के प्रति घृणा या अपमान लाने का परिणाम होते हैं, जिसका नतीजा जीवनकाल कैद या 3 साल तक की सजा, और जुर्माना हो सकता है।
  6. धमकी: भारतीय दण्ड संहिता, 1860 की धारा 506: यह किसी को डराने और उन्हें अपनी इच्छा के खिलाफ कुछ करने के लिए धमकाने को आपराधिक घोषित करता है, जिसका परिणाम 3 साल तक की सजा, जुर्माना, या दोनों हो सकता है।
  7. गोपनीयता उल्लंघन: भारतीय दण्ड संहिता, 1860 की धारा 354C: यह गोपनीयता में किसी महिला की रहते हुए, उसकी छवियां या चित्र बनाने या रखने को लक्षित करता है, पहले अपराध के लिए 3 साल तक की सजा और जुर्माना, और दोहराने पर 7 साल तक की सजा और जुर्माने का प्रावधान है।
  8. स्वामित्व-अधिकार: कॉपीराइट एक्ट, 1957 की धारा 14: यह धारा मौलिक रचनाकार के अधिकारों की सुरक्षा देती है, जिससे उन्हें अनुमति के बिना डीपफेक के लिए उनके काम का उपयोग करने पर मुकदमा करने का अधिकार है, जैसे पुनर्निर्माण, प्रसारण, या सार्वजनिक संवाद।

भारतीय सरकार ने डीपफेक्स के प्रति खास कानून की आवश्यकता को पहचाना है। 2019 में, मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स एंड इनफॉर्मेशन टेक्नोलॉजी (मीटी) ने एक ड्राफ्ट डिजिटल इनफॉर्मेशन सिक्योरिटी इन पर्सनल डेटा प्रोटेक्शन बिल, 2019 जारी किया, जिसमें डीपफेक्स को नियंत्रित करने के लिए प्रावधान है।

ये कुछ ज़रूरी धाराएँ हैं जो भारत में डीपफेक वीडियोज़ या फोटोज को हैंडल करने में इस्तेमाल किए जा सकते हैं। लेकिन, भारत में कोई खास कानून नहीं है जो आर्टिफिशियल इंटेलिजेंस और डीपफेक टेक्नोलॉजी को सीधे रूप से रेग्युलेट करे। इसलिए, एक नए और इसके लिए ही डेडिकेटेड कानून की सख्त आवश्यकता है, जो डीपफेक कंटेंट के चैलेंजेस और थ्रेट्स को डील कर सके।

क्या डीपफेक देखना अपराध है?

(Is watching deepfake a crime?)

डीपफेक वीडियोज़ देखना भारत में सीधे तौर पर एक जुर्म नहीं है, लेकिन यह दूसरे अपराधिक गतिविधियों में शामिल हो सकता है जो व्यक्तियों और समाज को गंभीर तौर पर नुकसान पहुंचा सकते हैं। डीपफेक कंटेंट देखने या शेयर करने में सावधान और होशियार रहना ज़रूरी है। इनफ़ॉर्मेशन पर भरोसा करने से पहले, यह ज़रूरी है कि आप चेक करें कि वह कहाँ से आई है और क्या वह असली है।

क्या डीपफेक तस्वीरें गैरकानूनी हैं?

(Are deepfake pictures illegal?)

असलमें, इंडिया में डीपफेक पिक्चर्स बनाना आमतौर पर कानून के खिलाफ नहीं है, जब तक उनमें किसी की प्राइवेसी या मान पर हमला करते हुए या गंदे कंटेंट शामिल नहीं हो। लेकिन याद रखें, ऐसे इलेक्ट्रॉनिक मटेरियल को शेयर या क्रिएट करना जो सेक्सुअली सज्जेस्टिव हो हो सकती हैं, जिसमे सज़ा और भारी जुर्माना देना पड़ सकता है।

 

तो, फ़िलहाल डीपफेक पिक्चर्स बनाना अपराध तो नहीं है, पर उस डीपफेक से होने वाले नुकसान और असर पर निर्भर करता है की जुर्म हुआ है या नहीं। तो सीधी भाषा में कहें तो डीपफेक तस्वीरें गैरकानूनी नहीं है, पर अगर इस के कारण किसी व्यक्ति और समाज पर अगर गंभीर असर पड़ता है, तो यह गैरकानूनी बन जाता है। जब भी आप किसी डीपफेक कंटेंट के साथ डील करते हैं, तो हमेशा सावधान रहें और अलर्ट रहें। हमेशा चेक करें कि वह कहाँ से आया है और क्या यह सच है, फिर विश्वास करें और चाहे तो शेयर करें।


Share this Article
Leave a comment