डीपफेक वीडियो के मामले में सरकार ने आज यानी 26 दिसंबर को सोशल मीडिया प्लेटफॉर्म्स के लिए दूसरी एडवायजरी जारी की है। इसमें उनसे डीपफेक और आर्टिफिशियल इंटेलिजेंस से फैलने वाली गलत इन्फॉर्मेशन को लेकर सूचना प्रौद्योगिकी (IT) नियमों का पालन करने को कहा है।

एडवाइजरी में कहा गया कि यूजर्स को आईटी नियमों के तहत बैन कंटेंट को पब्लिश न करने के बारे में जागरूक करना चाहिए। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) की ये एडवायजरी राज्य मंत्री राजीव चंद्रशेखर और उद्योग जगत के साथ की गई दो बैठकों के बाद आई है, जिसमें सोशल मीडिया प्लेटफॉर्म, आईटी कंपनियां और वकील आदि शामिल थे।

इससे पहले डीपफेक वीडियो हटाने को कहा था
इससे पहले सरकार ने सोशल मीडिया प्लेटफॉर्म्स को नवंबर महीने में एक एडवाइजरी जारी कर डीपफेक वीडियो की पहचान करने और उन्हें हटाने के लिए कहा था। तब केंद्रीय मंत्री अश्विनी वैष्णव ने कहा था कि उन्होंने कहा, 'डीपफेक एक बड़ा मुद्दा है। यह हम सभी के लिए एक बहुत बड़ी समस्या है।

हमने हाल ही में सभी बड़े सोशल मीडिया प्लेटफॉर्म्स को ऐसे कंटेंट की पहचान करने और हटाने के लिए कदम उठाने को कहा है। सोशल मीडिया ने कहा है कि हम एक्शन ले रहे हैं, लेकिन उन्हें ऐसे कंटेंट पर कार्रवाई करने के लिए और अग्रेशिव होना होगा।'

प्रधानमंत्री डीपफेक टेक्नोलॉजी को बता चुके हैं फेक
इससे पहले 17 नवंबर को प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताया था। उन्होंने कहा था,'मैंने एक वीडियो देखा, जिसमें मैं गरबा गा रहा हूं। AI की ताकत से ये वीडियो बना है, लेकिन यह एक चिंता का विषय है। विविधता वाली सोसाइटी में, जहां छोटी-छोटी बातों पर लोगों की भावनाओं को ठेस लग जाती है। वहां यह संकट पैदा कर सकता है।

जब AI को बढ़ाने वाले लोग मुझसे मिले थे तो मैंने उन्हें कहा था कि जैसे सिगरेट में चेतावनी लिखी होती है। वैसे ही मैंने कहा कि जो भी इसका यूज करता है तो वहां एक चेतावनी लिखी होनी चाहिए कि 'ये डीपफेक से बना है।'

डीपफेक क्या है?
आज के डिजिटल दौर में कई बार गलत खबरें और भ्रामक जानकारियां इंटरनेट की मदद से लोगों तक पहुंचाई जा रही हैं। ऐसे ही वीडियो भी पहुंचाए जाते हैं। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान बेहद मुश्किल होती है। इसमें आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर का इस्तेमाल किया जाता है।

इनका उपयोग करके मीडिया फाइल जैसे फोटो, ऑडियो और वीडियो की परिवर्तित कॉपी तैयार की जाती है, जो वास्तविक फाइल की तरह ही दिखती है। सरल भाषा में कहें तो डीपफेक, मॉर्फ वीडियो का ही एडवांस रूप है।

रश्मिका मंदाना और काजोल का वायरल हो चुका है डीपफेक वीडियो
हाल ही में बॉलीवुड एक्ट्रेस रश्मिका मंदाना और काजोल का डीपफेक वीडियो सोशल मीडिया पर वायरल हुआ था। रश्मिका मंदाना के डीपफेक वीडियो पर अमिताभ बच्चन से लेकर खुद रश्मिका मंदाना तक ने हैरानी जताई थी।

एक x पोस्ट में रश्मिका ने लिखा था, 'ईमानदारी से कहूं तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर एक के लिए बेहद डरावना है। अगर मेरे साथ ये तब हुआ होता, जब में स्कूल या कॉलेज में थी, तो मैं इससे निपटने का सोच भी नहीं सकती थी।' वहीं, काजोल का डीपफेक वीडियो वायरल होने के बाद उनके फैन्स ने नाराजगी जाहिर की थी।

सरकार रेगुलेशन लाने की तैयारी कर रही
वहीं 23 नवंबर को केंद्रीय मंत्री अश्विनी वैष्णव ने प्रेस कॉन्फ्रेंस करके बताया था कि डीपफेक वीडियो की रोकने के लिए सरकार रेगुलेशन लाने की तैयारी कर रही है। उन्होंने कहा था, 'डीपफेक लोकतंत्र के लिए एक नया खतरा बनकर उभरा है।'

अगले कुछ हफ्ते में तैयार होगा ड्राफ्ट
अश्विनी वैष्णव ने कहा,'डीपफेक पर एक नए रेगुलेशन की जरूरत है और इस पर तुरंत कार्रवाई शुरू होगी। अगले कुछ हफ्तों में रेगुलेशन के ड्राफ्ट को तैयार करने की कोशिश की जाएगी, जिससे जल्दी से जल्दी सोसाइटी और सोशल इंस्टीट्यूशन को बचाने का काम किया जाए।'

उन्होंने कहा- हमें 4 चीजों पर एक साथ मिलकर काम करना पड़ेगा...