13 वर्षीय बच्ची के लिए ChatGPT ने लिखा खतरनाक सुसाइड नोट

मुंबई 

AI (आर्टिफिशियल इंटेलीजेंस) के कई कमाल देखने को मिल रहा है। एआई आए दिन कुछ न कुछ ऐसा कर देता है, जो लोगों के लिए हैरानी की बात होती है। जहां एक तरफ एआई लोगों के काम को आसान बना रहा है। वहीं, दूसरी तरफ इससे कई खतरों का भी डर है। हाल ही में सामने आई एक स्टडी से पता चला है कि ChatGPT जैसे AI चैटबॉट बच्चों के लिए खतरनाक साबित हो सकता है। CCDH ने एक रिपोर्ट में बताया है कि ChatGPT का यूज करके 13 साल के बच्चे भी सिर्फ एक प्रॉम्प्ट देकर आत्महत्या नोट लिखवा सकते हैं, ड्रग्स लेने की प्लानिंग और गलत खान-पान के बारे में जानकारी पा सकते हैं। एक रिसर्चर ने बताया कि एक फिक्शनल 13 साल की लड़की के लिए ChatGPT ने कई सुसाइड नोट लिखे। वे सुसाइड नोट ऐसे थे कि जिन्हें पढ़कर रिसर्चर रोने लगे। आइये, पूरी खबर जानते हैं।

चैटजीपीटी से तीन घंटे की बातचीत में मिली इतनी जानकारी
एसोसिएटेड प्रेस की रिपोर्ट के अनुसार, OpenAI के चैटबॉटऔर रिसर्चर के बीच तीन घंटे से ज्यादा बातचीत हुई। इसमें पता चला कि चैटबॉट पहले चेतावनी देता है, लेकिन फिर व्यक्तिगत और बड़ा जवाब देने लगता है। इसमें ईटिंग डिसऑर्डर को खत्म करने, शराब पीने के तरीके और सुसाइड नोट शामिल थे। इसका मतलब है कि अगर कोई बच्चा भी चैटजीपीट से ऐसा कुछ पूछेगा तो वह उसको जवाब देगा, जो कि खतरनाक साबित हो सकता है।

चैटजीपीटी ने लिखे तीन सुसाइड नोट
CCDH के CEO इमरान अहमद ने कहा कि ChatGPT ने एक फिक्नशल 13 साल की लड़की के लिए तीन सुसाइड नोट लिखे। एक उसके माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए था। ये सुसाइड नोट इतने इमोशनल थे, जिन्हें पढ़कर वह रोने लगे। अहमद ने यह भी कहा कि AI सर्च इंजन से ज्यादा खतरनाक है। इसका कारण एआई का खुद से प्लानिंग करना है।

स्टडी से पता चला है कि ChatGPT द्वारा दिए गए आधे से ज्यादा जवाब खतरनाक थे। चैटबॉट ने ड्रग पार्टी की प्लानिंग भी बताई थी। इसके अलावा, इसने उपवास करने और खुद को नुकसान पहुंचाने वाली कविताएं लिखने की भी जानकारी दी। स्टडी से यह भी पता चला कि ChatGPT ने 1200 में से आधे से ज्यादा सवालों के खतरनाक जवाब दिए।

OpenAI ने कही यह बात
OpenAI ने कहा कि वह इनसे अवगत है और वह अपने AI को सुरक्षित बनाने के लिए काम कर रही है। कंपनी ने कहा कि वह जल्द ही इस बारे में और जानकारी देगी।