ओपनईएआई ने अमेरिका में एक 16 वर्षीय लड़के के माता-पिता द्वारा दायर एक मुकदमे के बाद जांच में वृद्धि की है, जो कथित तौर पर चटपट चैटबॉट का उपयोग करने के बाद आत्महत्या से मर गया। परिवार का आरोप है कि एआई सहायक ने अपने बेटे को आत्महत्या के तरीकों का पता लगाने में मदद की, संवेदनशील स्थितियों में एआई की सुरक्षा के बारे में गंभीर चिंताएं बढ़ाई।जवाब में, OpenAI ने यह बताने के लिए योजनाओं को रेखांकित किया है कि कैसे CHATGPT कमजोर उपयोगकर्ताओं को संभालता है, विशेष रूप से आत्महत्या के विचारों को व्यक्त करने वाले। कंपनी ने चैटबॉट की क्षमता में कमियों को स्वीकार किया कि वह लगातार उपयोगकर्ताओं को मदद लेने और हानिकारक परिणामों को रोकने के लिए निर्देशित करे।सुरक्षा उपायों में सुधार के लिए Openai की प्रतिबद्धताOpenai ने एक ब्लॉग पोस्ट में कहा, “मदद करने वाले लोगों को जब उन्हें इसकी सबसे अधिक आवश्यकता होती है” शीर्षक से यह विशेषज्ञों से मार्गदर्शन और जिम्मेदारी पर ध्यान केंद्रित करने के साथ CHATGPT में सुधार करता रहेगा। कंपनी ने मंगलवार को लिखा, “हमें उम्मीद है कि अन्य लोग यह सुनिश्चित करने में मदद करेंगे कि यह तकनीक लोगों को उनकी सबसे कमजोर रूप से बचाती है।”एडम राइन के माता -पिता ने एक उत्पाद देयता और गलत तरीके से मौत का मुकदमा दायर किया, जैसा कि एनबीसी न्यूज द्वारा रिपोर्ट किया गया था, ओपनईआई पर आरोप लगाते हुए कि आत्महत्या के तरीकों की खोज में एडम की सहायता करने के लिए चैट ने चैट की अनुमति दी। हालांकि Openai के ब्लॉग पोस्ट ने मुकदमे या परिवार को नाम से उल्लेख नहीं किया, लेकिन कंपनी ने स्वीकार किया कि चैटबॉट कभी -कभी लंबे समय तक बातचीत के बाद अपने सुरक्षा उपायों के विपरीत उत्तर दे सकता है।CHATGPT और GPT-5 के लिए नियोजित अपडेटOpenai अपने हाल ही में जारी किए गए GPT-5 मॉडल के लिए एक अद्यतन पर काम कर रहा है, जिसमें संवेदनशील सामग्री शामिल है, जिसमें संवेदनशील सामग्री शामिल है। संकट बिंदु तक पहुंचने से पहले उपयोगकर्ताओं को प्रमाणित चिकित्सक से जोड़ने के लिए यह विकल्प भी तलाश रहा है। इसमें संभावित रूप से CHATGPT के माध्यम से सुलभ लाइसेंस प्राप्त पेशेवरों का एक नेटवर्क शामिल है।इसके अतिरिक्त, Openai का उद्देश्य उपयोगकर्ता के करीबी लोगों, जैसे दोस्तों या परिवार के सदस्यों के लिए कनेक्शन को सक्षम करना है। किशोर उपयोगकर्ताओं के लिए, कंपनी ने माता -पिता के नियंत्रण को पेश करने की योजना बनाई है जो इस बात की जानकारी प्रदान करते हैं कि बच्चे चैटबॉट का उपयोग कैसे करते हैं।कानूनी और उद्योग संदर्भराइन परिवार के प्रमुख वकील जे एडेलसन ने सीएनबीसी को बताया कि ओपनआई ने सीधे तौर पर संवेदना देने या सुधारों पर चर्चा करने के लिए परिवार से संपर्क नहीं किया है। “यदि आप ग्रह पर सबसे शक्तिशाली उपभोक्ता तकनीक का उपयोग करने जा रहे हैं – तो आपको भरोसा करना होगा कि संस्थापकों के पास एक नैतिक कम्पास है,” एडेलसन ने कहा, जैसा कि सीएनबीसी द्वारा उद्धृत किया गया है। “यह अभी Openai के लिए सवाल है, कोई भी उन पर कैसे भरोसा कर सकता है?”यह मामला अलग -थलग नहीं है। अन्य रिपोर्टों में एक न्यूयॉर्क टाइम्स निबंध शामिल है जिसमें एक 29 वर्षीय महिला और फ्लोरिडा में एक अलग मामला शामिल है जिसमें 14 साल के लड़के को शामिल किया गया है। इन घटनाओं ने भावनात्मक समर्थन और चिकित्सा के लिए एआई चैटबॉट्स के उपयोग के बारे में व्यापक चिंता जताई है।इसी समय, ओपनईआई सहित एआई कंपनियां उन नियमों का विरोध करने के लिए राजनीतिक प्रयासों का आयोजन कर रही हैं जो वे स्टिफ़लिंग इनोवेशन के रूप में देखते हैं, जो उपयोगकर्ता सुरक्षा के साथ तकनीकी प्रगति को संतुलित करने की चल रही चुनौती को उजागर करते हैं।TOI शिक्षा अब व्हाट्सएप पर है। हमारे पर का पालन करें यहाँ।
Leave a Reply