नई दिल्ली। केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) के Grok AI चैटबॉट को लेकर सख्त कदम उठाया है। सरकार ने कंपनी को नोटिस भेजते हुए कहा है कि जनरेटिव AI से जुड़े अश्लील और आपत्तिजनक कंटेंट को तुरंत हटा दिया जाए, साथ ही इस पूरे मामले में उठाए गए कदमों की 72 घंटे के भीतर विस्तृत रिपोर्ट सरकार को सौंपनी होगी।

Grok AI के दुरुपयोग ने बढ़ाई चिंता

हाल के दिनों में Grok AI के गलत इस्तेमाल के कई मामले सामने आए हैं। कुछ यूजर्स इस चैटबॉट का उपयोग ऐसे निर्देश देने में कर रहे थे, जो प्लेटफॉर्म की नीतियों और सामाजिक मर्यादाओं के खिलाफ थे। सरकार के अनुसार, यह केवल टेक्नोलॉजी का दुरुपयोग नहीं है, बल्कि डिजिटल स्पेस में महिलाओं की सुरक्षा और गरिमा से जुड़ा गंभीर मामला है।

IT मंत्रालय का रुख और कारण

भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) को जानकारी मिली कि कुछ यूजर्स:

  • महिलाओं की तस्वीरें अपलोड कर

  • Grok AI को इनमें आपत्तिजनक बदलाव करने के निर्देश दे रहे थे

कुछ मामलों में AI ने बिना अनुमति के फोटो में बदलाव जैसा आउटपुट दिया, जिससे आपत्तिजनक सामग्री सामने आई। यह न केवल X की आंतरिक नीतियों का उल्लंघन है, बल्कि भारतीय IT कानूनों के भी खिलाफ माना जाता है।

72 घंटे में रिपोर्ट सौंपने का आदेश

सरकार ने X को स्पष्ट निर्देश दिए हैं कि:

  • Grok AI की समीक्षा तुरंत की जाए

  • कंटेंट मॉडरेशन प्रणाली को मजबूत किया जाए

  • भविष्य में ऐसे आउटपुट न आए, इसके लिए तकनीकी सुधार किए जाएं

इन सभी उपायों की रिपोर्ट 72 घंटे के भीतर केंद्र को सौंपनी होगी। तय समयसीमा में संतोषजनक जवाब न मिलने पर कानूनी कार्रवाई भी की जा सकती है।

पहले भी दी चेतावनी

यह पहला मौका नहीं है जब सरकार ने डिजिटल प्लेटफॉर्म्स को चेताया हो। साल 2025 के अंत में MeitY ने एक एडवाइजरी जारी की थी, जिसमें सभी सोशल मीडिया प्लेटफॉर्म्स को निर्देश दिए गए थे कि अश्लील, वयस्क और अवैध कंटेंट पर सख्ती बरती जाए। चेतावनी दी गई थी कि नियमों की अनदेखी पर प्लेटफॉर्म्स को कड़े परिणाम भुगतने पड़ सकते हैं।

Grok AI से जुड़े इस मामले ने जनरेटिव AI के जिम्मेदार और नैतिक उपयोग पर सवाल खड़े कर दिए हैं। सरकार का कड़ा रुख यह साफ संकेत देता है कि डिजिटल आज़ादी के साथ जवाबदेही भी जरूरी है, और आने वाले समय में यह कार्रवाई भारत में AI और सोशल मीडिया रेगुलेशन की दिशा तय कर सकती है।