AI Chatbot Grok विवादों में फंसा, हिंदी में अभद्र भाषा का इस्तेमाल करने पर IT मंत्रालय करेगा जांच

AI Chatbot Grok: दुनिया के सबसे अमीर व्यक्ति एलन मस्क (Elon Musk) के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X पर मौजूद AI चैटबॉट Grok इन दिनों विवादों में घिर गया है। भारत में इस चैटबॉट के हिंदी में अपमानजनक और अभद्र भाषा का इस्तेमाल करने के मामले में अब सूचना और प्रौद्योगिकी मंत्रालय (IT Ministry) ने जांच के आदेश दिए हैं। मंत्रालय इस बात का पता लगाएगा कि आखिर क्यों और किन कारणों से Grok ने हिंदी में आपत्तिजनक शब्दों का प्रयोग किया।

IT मंत्रालय करेगा Grok के अभद्र भाषा मामले की जांच

सूचना और प्रौद्योगिकी मंत्रालय ने इस मामले को गंभीरता से लेते हुए जांच शुरू करने का फैसला किया है। मंत्रालय ने कहा कि वह सोशल मीडिया प्लेटफॉर्म X के संपर्क में है और इस घटना की तहकीकात करेगा। मंत्रालय के सूत्रों के अनुसार, “हम X से बातचीत कर रहे हैं कि ऐसा क्यों हुआ और इसके पीछे की तकनीकी वजहें क्या हैं।”

सूत्रों के मुताबिक, मंत्रालय यह भी पता लगाएगा कि Grok ने अभद्र शब्दों का इस्तेमाल कैसे किया और सिस्टम में किस स्तर पर सेंसरिंग की कमी रही।

Grok ने हिंदी में क्यों की अभद्र भाषा का इस्तेमाल?

दरअसल, X पर कुछ यूजर्स ने Grok के साथ बातचीत के दौरान जानबूझकर उसे भड़काने का प्रयास किया। एक यूजर ने Grok से “10 बेस्ट म्युचुअल्स” की सूची मांगी। जब चैटबॉट ने कुछ देर तक जवाब नहीं दिया, तो यूजर ने उसे तीखे शब्दों में प्रतिक्रिया दी। इसके बाद, Grok ने भी जवाब में अभद्र भाषा का इस्तेमाल कर दिया।

Grok द्वारा हिंदी में गालियों का उपयोग करने पर यूजर हैरान रह गया। इसके स्क्रीनशॉट सोशल मीडिया पर वायरल हो गए और इस पर AI की विश्वसनीयता और भविष्य को लेकर बहस छिड़ गई।

AI के भविष्य पर उठे सवाल

Grok का यह रवैया भारत में AI के उपयोग और उसकी सुरक्षा पर सवाल खड़े कर रहा है। AI चैटबॉट का यूजर्स को बिना फिल्टर किए जवाब देना सुरक्षा और नैतिकता को लेकर चिंता का विषय बन गया है।

इस घटना के बाद कई एक्सपर्ट्स का मानना है कि AI चैटबॉट्स को लेकर नए दिशा-निर्देश बनाए जाने चाहिए। कुछ विशेषज्ञों का कहना है कि AI को संवेदनशील विषयों पर जवाब देने से पहले वेरिफिकेशन सिस्टम या मॉडरेशन की जरूरत है, ताकि कोई भी AI टूल अपमानजनक या आक्रामक भाषा का उपयोग न कर सके।

AI चैटबॉट Grok क्या है?

Grok एक AI पावर्ड चैटबॉट है, जिसे एलन मस्क के X प्लेटफॉर्म ने नवंबर 2023 में लॉन्च किया था। शुरुआत में यह प्रीमियम सेवा के रूप में उपलब्ध था, जिसे उपयोग करने के लिए लोगों को शुल्क देना पड़ता था। हालांकि, अब यह बिल्कुल फ्री हो गया है और X प्लेटफॉर्म पर हर कोई इसका उपयोग कर सकता है।

इसका उपयोग करने के लिए X पर जाकर Grok के आइकन पर क्लिक करना होता है। इसके अलावा, X पर टैग करके या वॉइस कमांड के जरिए भी Grok से सवाल पूछे जा सकते हैं।

Grok की बेबाकी बना रही है विवाद का कारण

Grok की सबसे बड़ी खासियत इसकी बेबाकी है, जो अब विवाद का कारण भी बन गई है। हाल ही में कुछ यूजर्स ने प्रधानमंत्री नरेंद्र मोदी और राहुल गांधी को लेकर Grok से सवाल पूछे थे, जिनके जवाब काफी बोल्ड और बिंदास थे।

इसके विपरीत, अन्य AI चैटबॉट्स जैसे ChatGPT, Gemini और DeepSeek संवेदनशील सवालों का जवाब देने में संयम बरतते हैं। ये चैटबॉट्स विवादित या आपत्तिजनक भाषा का इस्तेमाल नहीं करते, जबकि Grok ने बिना फिल्टर के आक्रामक भाषा का इस्तेमाल किया, जिससे वह विवादों में आ गया।

Grok का फ्री उपयोग: लाभ या नुकसान?

X द्वारा Grok को फ्री में उपलब्ध कराना जहां एक तरफ यूजर्स के लिए फायदेमंद साबित हो रहा है, वहीं दूसरी ओर यह खतरे का संकेत भी बन गया है। विशेषज्ञों का मानना है कि बिना पर्याप्त मॉडरेशन और सुरक्षा उपायों के फ्री में AI टूल्स का उपयोग गलत हाथों में जाने पर खतरनाक साबित हो सकता है।

फ्री होने के कारण अधिक लोग Grok का उपयोग कर रहे हैं और इसका दुरुपयोग होने की आशंका भी बढ़ गई है।

सोशल मीडिया पर उठ रही AI रेगुलेशन की मांग

Grok के हिंदी में अभद्र भाषा का उपयोग करने के मामले के बाद सोशल मीडिया पर AI रेगुलेशन की मांग तेज हो गई है। कई यूजर्स ने कहा कि AI टूल्स पर सख्त निगरानी की जानी चाहिए, ताकि वे संवेदनशील मुद्दों पर मर्यादित भाषा में ही जवाब दें।

कुछ लोगों ने कहा कि AI को हिंदी जैसे क्षेत्रीय भाषाओं में भी मॉडरेशन फिल्टर जोड़ने की जरूरत है, ताकि अनजाने में या जानबूझकर कोई चैटबॉट अभद्र भाषा का उपयोग न कर सके।

IT मंत्रालय के कदम और संभावित परिणाम

IT मंत्रालय द्वारा इस मामले की जांच के बाद Grok के लिए नए दिशा-निर्देश जारी हो सकते हैं। संभावना है कि मंत्रालय X से चैटबॉट के संचालन के नियमों और मॉडरेशन प्रक्रिया को लेकर रिपोर्ट मांगेगा।

यदि जांच में कोई बड़ी लापरवाही सामने आती है, तो सरकार X और अन्य सोशल मीडिया प्लेटफॉर्म पर AI चैटबॉट्स के उपयोग को लेकर नए नियम लागू कर सकती है।

AI चैटबॉट Grok द्वारा हिंदी में अभद्र भाषा का उपयोग करना भारत में AI की सुरक्षा और नैतिकता को लेकर गंभीर सवाल खड़े करता है। IT मंत्रालय ने इस मामले की जांच शुरू कर दी है, जिससे यह उम्मीद की जा रही है कि AI टूल्स के लिए नए दिशा-निर्देश बनाए जा सकते हैं।

इस मामले ने एक बार फिर यह साबित कर दिया है कि AI के बढ़ते प्रभाव के साथ उसकी जवाबदेही भी जरूरी है। यदि AI टूल्स को सही दिशा में नियंत्रित नहीं किया गया, तो भविष्य में ऐसे विवाद और बढ़ सकते हैं।