Grok पर भारत समेत 3 देशों में बैन, अश्लील और डीपफेक कंटेंट का बड़ा खुलासा

एलन मस्क के एआई प्लेटफॉर्म ग्रोक (Grok) पर विवाद थमने का नाम नहीं ले रहा है। भारत में एआई के जरिए बनाये गए अश्लील और आपत्तिजनक कंटेंट के प्रसारण पर कार्रवाई करते हुए ग्रोक ने लगभग 3,500 कंटेंट को ब्लॉक कर दिया है। इस कदम के बाद ग्रोक ने अपनी गलती स्वीकार करते हुए कहा कि वे भारत के कानूनों का सम्मान करते हैं और उनका पालन करेंगे। हालांकि विवाद का सिलसिला यहीं खत्म नहीं हुआ, क्योंकि भारत के अलावा दो और देशों ने भी ग्रोक पर बैन लगा दिया है। आरोप है कि इस प्लेटफॉर्म पर डीपफेक और अश्लील कंटेंट का प्रसारण हो रहा है, जिससे यह सख्त कार्रवाई की गई है।

इंडोनेशिया और मलेशिया में लगा ग्रोक पर बैन

ग्रोक को इंडोनेशिया और मलेशिया में टेम्पोररी बैन का सामना करना पड़ रहा है। मलेशिया की कम्युनिकेशन और मल्टीमीडिया कमीशन (MCMC) ने आधिकारिक तौर पर घोषणा की है कि ग्रोक को तत्काल प्रभाव से मलेशिया में ब्लॉक कर दिया गया है। वहीं, इंडोनेशिया के डिजिटल कम्युनिकेशन मंत्री मेउतया हाफिद ने भी ग्रोक की सेवाओं पर बैन लगाने का आधिकारिक बयान जारी किया है। इन दोनों देशों में मुख्य कारण ग्रोक के जरिए पोर्नोग्राफिक और अश्लील कंटेंट का निर्माण और प्रसारण होना बताया गया है, जिसमें प्लेटफॉर्म द्वारा उचित कदम नहीं उठाए जाने की भी बात कही गई है। इन देशों की सरकारों ने इस विषय पर कड़ी कार्रवाई की मांग की है।

डीपफेक कंटेंट की समस्या और कानूनी कार्रवाई

ग्रोक एआई पर बनाए जा रहे आपत्तिजनक कंटेंट में महिलाओं और बच्चों की तस्वीरें भी शामिल हैं, जो स्पष्ट रूप से कानून के खिलाफ है। इस संबंध में भारत की जांच एजेंसियों ने 3 जनवरी और 8 जनवरी को ग्रोक और X (पूर्व में ट्विटर) को नोटिस भेजा है और प्रभावी कदम उठाने के लिए कहा है। लेकिन प्लेटफॉर्म पर केवल यूजर-इनिशिएटिव रिपोर्टिंग सिस्टम मौजूद है, जिससे एआई द्वारा रियल दिखने वाले डीपफेक कंटेंट पर रोक लगाना कठिन हो रहा है। यही कारण है कि डीपफेक कंटेंट के खिलाफ अभी तक ठोस मैकेनिज्म नहीं बन पाया है, जिससे ग्रोक पर बैन लगा है और सख्त कदम उठाए जा रहे हैं।

ग्रोक की दुनियाभर में बदनामी और भविष्य की चुनौतियां

भारत, यूरोप, इंडोनेशिया और मलेशिया जैसे कई देशों में ग्रोक के खिलाफ आपत्तिजनक कंटेंट प्रसारण की शिकायतें बढ़ रही हैं, जिससे इसकी विश्वसनीयता और साख को भारी नुकसान पहुंचा है। ग्रोक को एआई के गलत इस्तेमाल पर नियंत्रण करने के लिए तत्काल प्रभाव से बेहतर नीतियां और तकनीकी समाधान अपनाने की जरूरत है। अन्यथा यह प्लेटफॉर्म न केवल अपनी प्रतिष्ठा खो सकता है बल्कि कई देशों में स्थायी रूप से प्रतिबंधित भी हो सकता है। एलन मस्क की इस एआई सेवा के लिए यह एक चुनौतीपूर्ण दौर है, जिसमें कानूनी और नैतिक दोनों तरह की जिम्मेदारियां पूरी करनी होंगी।