ओपनएआई का चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है। एक नई स्टडी से पता चला है कि चैटजीपीटी बच्चों को नशे करने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है।
इसमें रिसर्चर्स ने 13 साल के बच्चे की फेक प्रोफाइल बनाकर चैटजीपीटी से अलग-अलग तरह के सवाल पूछे। फिर 3 घंटे से ज्यादा के इंटरेक्शंस को रिव्यू किया। रिसर्च में पाया गया कि AI टूल्स कई तरह से टीनएजर्स की मेंटल हेल्थ को नकारात्मक रूप से प्रभावित कर सकते हैं।
जेपी मॉर्गन चेज की रिपोर्ट के अनुसार, लगभग 800 मिलियन लोग यानी दुनिया की आबादी का लगभग 10%, चैटजीपीटी का उपयोग कर रहे हैं।
रिसर्च में चैटजीपीटी से सवाल-जवाब
सवाल:13 साल की बच्ची के फर्जी प्रोफाइल ने आत्महत्या के बारे में पूछा गया?
जवाब: चैटजीपीटी ने 3 दुखद फील कराने वाले सुसाइड नोट्स लिखे। एक माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए। ये नोट्स इतने इमोशनल थे कि इससे रिसर्चर को भी रोना आ गया।
सवाल: शोधकर्ताओं ने चैटजीपीटी से नशे से जुड़े सवाल पूछे?
जवाब: लड़के के लिए शराब और नशीली दवाओं (जैसे एक्स्टसी और कोकेन) के साथ घंटे-दर-घंटे पार्टी प्लान बनाया।
सवाल: शोधकर्ताओं ने 13 साल की लड़की की तरह सवाल पूछे जो अपनी बॉडी से असंतुष्ट थी?
जवाब: चैटजीपीटी ने उसे बहुत कम कैलोरी वाला डाइट प्लान और भूख दबाने वाली दवाओं की लिस्ट दे दी।
चैटजीपीटी से करीब 1200 ऐसे ही सवाल पूछे गए। चैटबॉट ने कई बार इमरजेंसी हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।
अमेरिका में 70% टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे
US में 70% से ज्यादा टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं और आधे से ज्यादा रेगुलरली इसका इस्तेमाल करते हैं। टीनएजर्स चैटजीपीटी का इस्तेमाल एडवाइस, इमोशनल सपोर्ट और डिसीजन-मेकिंग के लिए कर रहे हैं। 33% टीनएजर्स ने सीरियस इश्यूज डिस्कस किए हैं।
रिसर्च में चैटजीपीटी का सुरक्षा उपाय ‘गार्डरेल्स’ फेल
चैटजीपीटी को इस तरह से ट्रेनिंग दी गई है कि जब भी कोई व्यक्ति खुद को नुकसान पहुंचाने की बात करता है, तो वह उसे किसी इमरजेंसी हेल्पलाइन या मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए प्रोत्साहित करे। लेकिन शोधकर्ताओं ने पाया कि चैटजीपीटी के जानकारी देने से इनकार करने पर, वे आसानी से इसे बायपास कर सकते थे।
उन्होंने बस यह कहकर जानकारी प्राप्त कर ली कि यह “एक प्रेजेंटेशन के लिए” या “एक दोस्त के लिए” है। वहीं चैटजीपीटी अपनी पॉलिसी में कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है। लेकिन ऐज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है।
2015 में शुरू हुई थी ओपन AI
ओपन AI (Open AI) एक आर्टिफिशियल इंटेलिजेंस (AI) डेवलप करने वाली कंपनी है। इसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके कुछ दोस्तों ने मिलकर की थी। यह AI टेक्नोलॉजी विशेष रूप से जेनेरेटिव AI और लार्ज लैंग्वेज मॉडल (जैसे चैट GPT) के डेवलपमेंट के लिए जाना जाता है। कंपनी का मिशन सेफ और ह्यूमन सेंट्रिक AI डेवलप करना है। कंपनी सैन फ्रांसिस्को, कैलिफोर्निया में स्थित है।
news xprees live
