वैश्विक विरोध के बाद एलन मस्क की कंपनी एक्स को बंद करना पड़ा ग्रोक का आपत्तिजनक इमेज बनाने वाला फीचर

नई दिल्ली । दुनियाभर में कड़े विरोध का सामना करने के बाद एलन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म एक्स ने गुरुवार को अपने एआई चैटबॉट ग्रोक के आपत्तिजनक तस्वीर बनाने वाले फीचर को बंद कर दिया है।

अब चैटबॉट ग्रोक किसी भी स्थिति में महिलाओं की आपत्तिजनक या अशोभनीय तस्वीरें नहीं बना पाएगा, चाहे यूजर्स के पास प्रीमियम अकाउंट ही क्यों न हो।

एक्स प्लेटफॉर्म के सेफ्टी अकाउंट ने एक्स पर पोस्ट के जरिए बताया कि अब प्लेटफॉर्म में तकनीकी बदलाव किए गए हैं, जिससे ग्रोक असली लोगों की तस्वीरों को बिकिनी या इस तरह के खुले कपड़ों में एडिट नहीं कर सकेगा। यह नियम सभी यूजर्स पर लागू होगा, जिनमें पेड यूजर्स भी शामिल हैं।

ग्रोक के ‘स्पाइसी मोड’ फीचर को लेकर कई देशों में नाराजगी देखी गई थी, जिसके जरिए लोग आसान शब्द लिखकर महिलाओं और बच्चों की अश्लील डीपफेक तस्वीरें बना सकते थे, जैसे किसी के कपड़े हटाना या उसे बिकिनी में दिखाना। इस कारण कई देशों ने या तो ग्रोक को ब्लॉक कर दिया या इसकी जांच शुरू कर दी।

भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्सएआई से इस मामले में की गई कार्रवाई की रिपोर्ट मांगी थी। वहीं, अमेरिका के कैलिफोर्निया राज्य के अटॉर्नी जनरल ने भी ग्रोक के डेवलपर के खिलाफ जांच शुरू की।

इसके अलावा, 28 सामाजिक संगठनों के समूह ने एप्पल और गूगल के सीईओ को पत्र लिखकर मांग की कि ग्रोक और एक्स ऐप को उनके ऐप स्टोर से हटाया जाए, क्योंकि अश्लील तस्वीरों की संख्या तेजी से बढ़ रही थी।

अब एक्स ने तस्वीर बनाने और उन्हें एडिट करने की सुविधा को केवल पेड सब्सक्राइबर्स तक सीमित कर दिया है। पहले यह सुविधा सिर्फ प्रीमियम यूजर्स के लिए थी, लेकिन अब इसे और सख्त बनाया गया है।

एक्स ने कहा कि इससे एक अतिरिक्त सुरक्षा परत जुड़ती है, जिससे अगर कोई व्यक्ति कानून या नियमों का उल्लंघन करता है, तो उसके खिलाफ कार्रवाई की जा सके।

प्लेटफॉर्म ने यह भी बताया कि बाल यौन शोषण सामग्री (सीएसएएम) और बिना अनुमति की नग्न तस्वीरों जैसे गंभीर नियम उल्लंघन वाले कंटेंट को तुरंत हटाया जाएगा। साथ ही ऐसे नियम तोड़ने वाले अकाउंट्स पर सख्त कार्रवाई की जाएगी।

दिसंबर में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स को निर्देश दिया था कि कानून के खिलाफ पहले से मौजूद सभी आपत्तिजनक कंटेंट को तुरंत हटाया जाए या उस तक पहुंच बंद की जाए।

मंत्रालय ने यह भी कहा था कि एक्स को नियमों को सख्ती से लागू करना होगा और ऐसे अकाउंट्स को निलंबित या बंद करना होगा, जिन्होंने ग्रोक का इस्तेमाल करके महिलाओं और बच्चों की अश्लील तस्वीरें बनाई हैं।

रिपोर्ट्स के अनुसार, भारत में एक्स ने ग्रोक की मदद से बनाई गई करीब 3,500 अश्लील तस्वीरें हटाईं और लगभग 600 यूजर्स को प्रतिबंधित किया, जिन्होंने इस एआई चैटबॉट का गलत इस्तेमाल किया था।

–आईएएनएस