डेली संवाद, नई दिल्ली। Grok AI Controversy: सोशल मीडिया प्लेटफॉर्म एक्स (X) ने अपने AI एप Grok पर बनाए जा रहे अश्लील कंटेंट को लेकर सख्त नियम बनाए हैं। कंपनी ने कहा है कि ऐसे कंटेंट को तुरंत हटाया जाएगा। साथ ही अगर कोई यूजर Grok का इस्तेमाल करके आपत्तिजनक कंटेंट बनाता है तो उसके खिलाफ वही कार्रवाई होगी, जो सीधे अवैध कंटेंट अपलोड करने पर होती है। यानी कि यूजर्स का अकाउंटर हमेशा के लिए बैन कर दिया जाएगा।
एक्स (X) ने भारत सरकार (Indian Government) की तरफ से आपत्ति जताए जाने के तीन दिन बाद नए नियम बनाए हैं। केंद्र सरकार ने 2 जनवरी को X से कहा था कि वह AI एप Grok से बनाई जा रही अश्लील, फूहड़ कंटेंट को तुरंत हटाए, नहीं तो कानून कार्रवाई की जाएगी।
सांसद प्रियंका चतुर्वेदी ने उठाया मुद्दा
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने AI चैटबोट ग्रोक (Grok) के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर को लेटर लिखा था। इसमें कहा था कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
यह भी पढ़ें: जालंधर में सुपर क्रीमिका स्वीट्स और Zomato को लीगल नोटिस जारी
इससे पहले X के मालिक इलॉन मस्क ने शनिवार को कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है।
एलन मस्क का आया जवाब
मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
सोशल मीडिया खासकर X पर, AI के Grok फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं।
देखें वीडियो
AI का गंभीर दुरुपयोग
यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और AI का गंभीर दुरुपयोग है। सबसे ज्यादा चिंता की बात यह है कि Grok इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए।
सेक्शुअल अंदाज में तस्वीर
AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
