Elon Musk की कंपनी xAI द्वारा विकसित Grok Imagine टूल में हाल ही में Spicy Mode नामक एक नया फीचर जोड़ा गया है, जो अब नए विवादों की वजह बनता दिख रहा है। रिपोर्ट्स के अनुसार यह टूल उपयोगकर्ताओं द्वारा दिए गए टेक्स्ट प्रॉम्प्ट के आधार पर एडल्ट थीम पर आधारित 15 सेकंड तक के वीडियो तैयार करने में सक्षम है। तकनीकी रूप से यह फीचर जनरेटिव एआई की सीमाओं को आगे ले जाता है, लेकिन इसके उपयोग से जुड़ी मॉडरेशन और दुरुपयोग की चिंताएं भी तेजी से सामने आ रही हैं।
प्रीमियम ग्राहकों के लिए उपलब्ध
Grok Imagine का Spicy Mode वर्तमान में X (पूर्व में ट्विटर) के iOS ऐप पर Premium Plus और SuperGrok सब्सक्राइबर्स के लिए ही उपलब्ध है। इसे इस्तेमाल करने के लिए उपयोगकर्ताओं को हर महीने लगभग ₹700 रुपये का सब्सक्रिप्शन शुल्क देना होता है। इस फीचर को लेकर चिंता इस बात को लेकर है कि यह टूल एडल्ट कंटेंट जेनरेट कर सकता है।
क्या करता है Spicy Mode?
Spicy Mode के माध्यम से उपयोगकर्ता केवल टेक्स्ट इनपुट देकर ऐसे वीडियो तैयार कर सकते हैं, जिनमें बोल्ड दृश्य और ऑडियो शामिल होते हैं। हालांकि कंपनी की ओर से कुछ सुरक्षा फिल्टर लगाए गए हैं, फिर भी कई मामलों में यह फीचर सिस्टम की सीमाओं को पार कर असंवेदनशील या आपत्तिजनक कंटेंट उत्पन्न कर रहा है।
कैसे हुआ खुलासा?
xAI से जुड़े एक कर्मचारी Mati Roy ने कुछ समय पहले X पर एक पोस्ट में Spicy Mode का ज़िक्र करते हुए बताया था कि यह टूल न्यूडिटी वाले विजुअल्स भी तैयार करने में सक्षम है। भले ही यह पोस्ट कुछ देर बाद हटा दी गई, लेकिन तब तक सोशल मीडिया पर यह जानकारी तेजी से वायरल हो चुकी थी।
क्या हैं तकनीकी सीमाएं?
यह टूल टेक्स्ट के आधार पर पहले मल्टीपल इमेज बनाता है और फिर उन्हें एनिमेटेड वीडियो में परिवर्तित करता है। हालांकि इन वीडियो में अभी भी कुछ Uncanny Valley प्रभाव नजर आते हैं — यानी पात्रों के चेहरे असली की बजाय कृत्रिम और कार्टून जैसे प्रतीत होते हैं।
