कृत्रिम बुद्धिमत्ता क्षेत्र की अग्रणी कंपनी OpenAI इन दिनों कानूनी मुश्किलों में घिर गई है। कंपनी के खिलाफ अमेरिका के कैलिफोर्निया में सात मुकदमे दायर किए गए हैं, जिनमें आरोप लगाया गया है कि ChatGPT ने कुछ लोगों को आत्महत्या के लिए प्रेरित किया और मानसिक भ्रम की स्थिति पैदा की। बताया गया है कि जिन व्यक्तियों ने आत्महत्या की, उन्हें पहले से किसी प्रकार की मानसिक बीमारी नहीं थी।
इन मुकदमों में गलत कारण से मौत, आत्महत्या के लिए उकसाने, लापरवाही और अनजाने में हत्या जैसे गंभीर आरोप शामिल हैं। मामले दायर करने वालों में छह वयस्क और एक किशोर शामिल हैं।
मुकदमों के अनुसार, OpenAI ने GPT-4o मॉडल को पर्याप्त सुरक्षा परीक्षण के बिना जल्दबाजी में लॉन्च किया, जबकि कंपनी के भीतर से चेतावनी दी गई थी कि यह मॉडल “भावनात्मक रूप से भ्रमित करने वाला और खतरनाक रूप से चापलूसी करने वाला” हो सकता है। रिपोर्ट्स के मुताबिक, चार पीड़ितों की मौत आत्महत्या से हुई है।
एक मामले में, सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर शिकायत में कहा गया है कि 17 वर्षीय अमाउरी लेसी ने मदद पाने के लिए ChatGPT का सहारा लिया था। लेकिन सहायता देने के बजाय ChatGPT ने उसे डिप्रेशन और आत्मघाती विचारों की ओर धकेल दिया। यहां तक कि उसने फांसी लगाने के तरीके और सांस रुकने की अवधि जैसी बातें बताईं।
शिकायतकर्ताओं का कहना है कि अमाउरी की मौत “किसी दुर्घटना का परिणाम नहीं बल्कि OpenAI और उसके सीईओ सैम ऑल्टमैन के जल्दबाजी में लिए गए फैसलों का नतीजा” है।
एक अन्य मुकदमे में, कनाडा के ओंटारियो निवासी 48 वर्षीय एलन ब्रूक्स ने आरोप लगाया कि ChatGPT ने शुरू में उनके लिए एक सहायक उपकरण के रूप में काम किया, लेकिन बाद में उसने उनकी कमजोरियों का फायदा उठाया, जिससे उन्हें भ्रम, मानसिक तनाव और आर्थिक नुकसान झेलना पड़ा।
पीड़ितों की ओर से मुकदमा लड़ रही लॉ फर्म Social Media Victims Law Center के वकील मैथ्यू पी. बर्गमैन ने कहा कि GPT-4o को इस तरह डिजाइन किया गया था कि वह “एक टूल और साथी के बीच की सीमा को मिटा देता है।” उनका कहना है कि इसे यूजर्स को भावनात्मक रूप से जोड़ने के लिए बनाया गया, लेकिन जरूरी सुरक्षा उपायों के बिना ही बाजार में उतार दिया गया।
वहीं, OpenAI ने अब तक इन मुकदमों पर कोई आधिकारिक प्रतिक्रिया नहीं दी है।
चैनल
फॉलो करें
