आर्टिफिशियल इंटेलिजेंस यानी के AI… जिसके बदौलत बेशक आज बहुत से कार्य और बहुत सी चीजें बेहद आसान हो गई हो, लेकिन कहीं न कहीं इसका नकारात्मक असर हम सभी की जिंदगी में पड़ रहा है या पड़ सकता है। ऐसा ही एक मामला न्यूजीलैंड का है। जहां, एक महिला सांसद लॉरा मैक्लर भी इसके दुष्प्रभाव से अछुती नहीं रही, मामला बेशक कुछ दिन पहले का है, लेकिन है गंभीर। जिसे समझना बेहद जरूरी है, क्योंकि जब न्यूजीलैंड जैसे देश में एक महिला सांसद ही इसका शिकार हो जाए, तो आम लोगों का क्या होगा।
ये पूरा मामला है, न्यूजीलैंड की संसद का। जहां महिला सांसद लॉरा मैक्लर ने अपनी एक AI-जेनरेटेड न्यूड तस्वीर दिखाई, जिसका मकसद लोगों को ये बताना था कि, ऐसी फर्जी तस्वीरें बनाना कितना आसान है और ये कितना खतरनाक हो सकता है। इतना ही नहीं, लॉरा ने संसद में कहा कि, उन्होंने एक गूगल सर्च के जरिए मिली वेबसाइट का इस्तेमाल करके कुछ ही मिनटों में अपनी डीपफेक तस्वीर बना ली। उन्होंने डीपफेक और AI को नियंत्रित करने के लिए कानून की मांग की है।
उन्होंने कहा-
“ये मेरी न्यूड तस्वीर है, लेकिन ये असली नहीं है। मुझे ऐसी डीपफेक तस्वीरें बनाने में पांच मिनट से भी कम समय लगा।”
आपको बता दें कि, 14 मई को लॉरा ने ये बातें संसद में कहीं थी, जो अब वायरल हो रही हैं। लॉरा ने कहा कि,
“समस्या तकनीक में नहीं है, बल्कि इसका गलत इस्तेमाल करके लोगों को परेशान करने में है। हमें इसका हल निकालना होगा।”
न्यूजीलैंड में अभी डीपफेक को सीधे तौर पर कंट्रोल करने वाला कोई कानून नहीं है, हालांकि डिजिटल संचार से संबंधित कुछ नियम जरूर हैं। वहीं, लॉरा डीपफेक डिजिटल हार्म एंड एक्सप्लॉइटेशन बिल का समर्थन कर रही हैं, जो रिवेंज पोर्न और निजी रिकॉर्डिंग से संबंधित मौजूदा कानूनों को अपडेट करेगा। इसके तहत बिना मर्जी के डीपफेक बनाना या साझा करना अपराध होगा। न्यूजीलैंड के विशेषज्ञों का कहना है कि, ज्यादातर डीपफेक पोर्न बिना सहमति के बनाए जाते हैं और इनका निशाना ज्यादातर महिलाएं होती हैं।
लॉरा को उम्मीद है कि, उनका ये कदम कानूनी सुधारों को तेज करेगा। उन्होंने कहा,
“किसी को भी बिना सहमति के डीपफेक पोर्न का निशाना नहीं बनना चाहिए। ये साफ तौर पर उत्पीड़न है। हमारे कानूनों को जल्दी अपडेट करने की जरूरत है।”
लॉरा मैक्लर ने बताया कि, डीपफेक फोटो बनाने के लिए आपको बस एक बॉक्स में टिक करके ये कहना होता है कि, आप 18 वर्ष से अधिक उम्र के हैं और फोटो में मौजूद व्यक्ति की सहमति आपके पास है।
हालांकि ज्यादातर मामलों में सहमति नहीं ली जाती। लॉ एसोसिएशन के मुताबिक ऑनलाइन डीपफेक वीडियो में 90 से 95% गैर-सहमति आधारित अश्लील कंटेंट होते है। इनमें से लगभग 90% में महिलाओं को गलत तरीके से दिखाया जाता है।
मैक्लर ने कहा कि,
“उनसे कई लोग संपर्क कर चुके हैं जो डीपफेक से जुड़ी धमकी या सेक्सटॉर्शन से प्रभावित हुए हैं। इसका विशेष रूप से युवाओं पर गंभीर मानसिक प्रभाव पड़ा है।”
मैक्लर कानून में बदलाव करना चाहती हैं ताकि डीपफेक के निर्माण और साझा करने पर प्रतिबंध लगाया जा सके।
कैसे पहचानें डीपफेक वीडियो ?
- चेहरा और हाव-भाव
डीपफेक में चेहरे और शरीर के बीच का मेल देखें। डीपफेक में चेहरा शरीर की त्वचा के रंग या बनावट से थोड़ा अलग दिख सकता है।
- आवाज और लिप-सिंक
डीपफेक ऑडियो में आवाज थोड़ी अजीब या रोबोट जैसी लगती है, खासकर अगर यह AI-जनरेटेड है।
- वीडियो क्वालिटी
डीपफेक में चेहरे के आसपास के क्षेत्र में हल्का धुंधलापन, पिक्सलेशन या असामान्य छाया दिख सकती है।
- तकनीकी टूल का इस्तेमाल
डीपवेयर स्कैनर, रिवर्स इमेज सर्च टूल से डीपफेक की पहचान कर सकते हैं।
आपको बता दें कि, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने मई में टेक इट डाउन एक्ट पर हस्ताक्षर किए हैं, जिसके तहत किसी भी व्यक्ति की सहमति के बिना उसकी फोटो को यूज करना अपराध होगा। ये नियम पीड़ितों के अनुरोध पर सोशल मीडिया प्लेटफॉर्म्स को 48 घंटे के भीतर ऐसी तस्वीरों को हटाने के लिए बाध्य करता है।
डीफफेक का शिकार कई भारतीय हस्तियां भी हो चुकी हैं, जिनमें रश्मिका मंदाना, प्रियंका चोपड़ा, आलिया भट्ट, सचिन तेंदुलकर शामिल है, सभी के डीपफेक वीडियो AI टेक्नोलॉजी से बनाए गए थे।
अब आपको बता दें कि, डीपफेक होता क्या है…किसी रियल वीडियो, फोटो या ऑडियो में दूसरे के चेहरे, आवाज और एक्सप्रेशन को फिट कर देने को डीपफेक कहा जाता है। ये इतनी सफाई से होता है कि, कोई भी यकीन कर ले। इसमें फेक भी असली जैसा लगता है। इसमें मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है। जिसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से बनाया जाता है।
भारत में भी डीपफेक को लेकर कई नियम बनाए गए हैं जिसके तहत
1- डीपफेक कंटेंट मिलते ही कोई भी FIR करा सकता है।
2- विक्टिम और उसकी तरफ से नियुक्त व्यक्ति को भी केस दर्ज कराने के अधिकार होंगे।
3- सोशल मीडिया प्लेटफॉर्म यूजर्स से यह शपथ लेगा कि वह डीपफेक कंटेंट नहीं डालेगा।
4- प्लेटफॉर्म अपने यूजर्स को इस संबंध में अलर्ट मैसेज देंगे। सहमति के बाद ही यूजर अकाउंट एक्सेस कर सकेगा।
5- डीपफेक कंटेंट को 24 घंटे में हटाना होगा। जिस यूजर ने कंटेंट अपलोड किया है, उसका अकाउंट बंद कर सूचना दूसरे प्लेटफॉर्म को देनी होगी, ताकि आरोपी वहां अकाउंट न बना सके।
आपको बता दें कि, पिछले दिनों एक वीडियो वायरल हुआ था, जिसमें प्रधानमंत्री नरेंद्र मोदी जैसा दिखने वाला एक व्यक्ति गरबा करते हुए दिखाई दिया था। इस वीडियो पर प्रतिक्रिया देते हुए प्रधानमंत्री मोदी ने इस बात पर जोर दिया कि डीपफेक समाज में अराजकता पैदा कर सकता है, जिसके लिए नागरिकों और मीडिया से सतर्क रहने का आग्रह किया था। ऐसे में आप और हमको भी सतर्क रहने की जरूरत है।