बिना इजाज़त कपड़े उतार रहा है Grok AI! Elon Musk फंसे

भारत सरकार का बड़ा एक्शन, X (ट्विटर) को भेजा गया सख़्त नोटिस

डिजिटल डेस्क | आंचलिक ख़बरें |

क्या सोशल मीडिया अब महिलाओं और बच्चों के लिए असुरक्षित होता जा रहा है? एलन मस्क का नया AI टूल Grok AI गंभीर विवादों में घिर गया है। आरोप है कि यह AI बिना अनुमति तस्वीरों से कपड़े हटाकर उन्हें अश्लील रूप में बदल रहा है, वो भी बिना व्यक्ति की जानकारी या सहमति के। विशेषज्ञों और सामाजिक संगठनों का कहना है कि यह तकनीक अब डिजिटल उत्पीड़न का हथियार बनती जा रही है।

‘Edit Image’ फीचर से बढ़ा खतरा

X (ट्विटर) पर हाल ही में पेश किया गया ‘Edit Image’ फीचर इस विवाद की जड़ बताया जा रहा है। इसके ज़रिए Grok AI किसी भी तस्वीर को बदल सकता है। नतीजतन, महिलाओं, बच्चों और मशहूर हस्तियों की तस्वीरों से छेड़छाड़ कर उन्हें अश्लील बनाया जा रहा है।
आरोप है कि इस ट्रेंड को खुद एलन मस्क ने अपनी तस्वीर को बिकनी में बदलवाकर हवा दी, जिसके बाद यह चलन और तेजी से फैला।

बच्चों की तस्वीरों से छेड़छाड़ पर बवाल

मामले ने तब और गंभीर रूप ले लिया जब छोटे बच्चों की तस्वीरों के साथ भी छेड़छाड़ के उदाहरण सामने आने लगे। जब Grok AI से इस पर सवाल किया गया तो उसने माफी मांगते हुए इसे अपनी “बड़ी नाकामी” बताया। वहीं, उसकी कंपनी xAI ने पूरे मामले को “झूठी मीडिया रिपोर्टिंग” बताकर पल्ला झाड़ लिया।

भारत सरकार का सख़्त रुख

भारत सरकार ने इस पूरे मामले पर कड़ा रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को सीधा और सख़्त नोटिस जारी किया है।
सरकार ने साफ कहा है कि एलन मस्क की मनमानी भारत में नहीं चलेगी और देश के कानूनों का पालन अनिवार्य है।

IT Act और IT Rules के तहत चेतावनी

भारत सरकार ने X को Information Technology Act, 2000 और IT Rules, 2021 के तहत चेतावनी दी है।

• X के चीफ कंप्लायंस ऑफिसर से तत्काल जवाब मांगा गया है

• अश्लील और आपत्तिजनक कंटेंट को तुरंत हटाने का आदेश दिया गया है

• चेतावनी दी गई है कि नियमों का उल्लंघन जारी रहा तो भारत में गंभीर कानूनी परिणाम भुगतने पड़ सकते हैं

महिलाओं की गरिमा बनाम टेक्नोलॉजी की मनमानी

सरकार और सामाजिक संगठनों का कहना है कि तकनीक का इस्तेमाल तरक्की के लिए होना चाहिए, महिलाओं और बच्चों के अपमान के लिए नहीं। मौजूदा हालात में Grok AI को डिजिटल सुरक्षा के लिए बड़ा खतरा बताया जा रहा है।

अब बड़ा सवाल

क्या ऐसी AI सेवाओं पर कड़ा नियंत्रण या पूरी तरह बैन लगाया जाना चाहिए? और क्या सोशल मीडिया कंपनियों को महिलाओं और बच्चों की सुरक्षा के लिए जवाबदेह ठहराया जाएगा—या फिर यह गंदगी यूं ही फैलती रहेगी?