चॅटजीपीटीच्या नैतिक चिंता

डेटा लेबलिंग
TIME मासिकाच्या एका तपासणीतून हे उघड झाले आहे की, विषारी सामग्री (उदा. लैंगिक शोषण, हिंसा, वंशवाद, लिंगभेद इत्यादी) विरुद्ध सुरक्षा प्रणाली तयार करण्यासाठी, OpenAI ने ताशी २ डॉलरपेक्षा कमी कमावणाऱ्या केनियन कामगारांना विषारी सामग्रीला लेबल लावण्यासाठी कंत्राटी पद्धतीने वापरले. भविष्यात अशी सामग्री ओळखण्यासाठी एका मॉडेलला प्रशिक्षित करण्याकरिता या लेबल्सचा वापर केला गेला. कंत्राटी कामगारांना इतक्या विषारी आणि धोकादायक सामग्रीचा सामना करावा लागला की त्यांनी या अनुभवाचे वर्णन "छळ" असे केले. OpenAI चा कंत्राटी भागीदार कॅलिफोर्नियातील सॅन फ्रान्सिस्को येथे स्थित 'सामा' (Sama) ही प्रशिक्षण-डेटा कंपनी होती.

तुरुंग तोडणे
चॅटजीपीटी (ChatGPT) त्याच्या सामग्री धोरणाचे उल्लंघन करू शकणाऱ्या सूचना नाकारण्याचा प्रयत्न करते. तथापि, डिसेंबर २०२२ च्या सुरुवातीला काही वापरकर्त्यांनी विविध प्रॉम्प्ट इंजिनिअरिंग तंत्रांचा वापर करून हे निर्बंध टाळण्यासाठी चॅटजीपीटीला जेलब्रेक केले आणि मॉलोटोव्ह कॉकटेल किंवा अणुबॉम्ब कसा तयार करायचा याच्या सूचना देण्यास, किंवा नव-नाझींच्या शैलीत युक्तिवाद करण्यास चॅटजीपीटीला यशस्वीरित्या फसवले. लॉन्च झाल्यानंतर लगेचच चॅटजीपीटीकडून प्रक्षोभक विधाने करवून घेण्यात टोरोंटो स्टारच्या एका वार्ताहराला वैयक्तिकरित्या संमिश्र यश मिळाले: चॅटजीपीटीला २०२२ मध्ये युक्रेनवर होणाऱ्या रशियन आक्रमणाचे समर्थन करण्यास फसवण्यात आले, परंतु एका काल्पनिक परिस्थितीत सहभागी होण्यास सांगितले असताही, कॅनडाचे पंतप्रधान जस्टिन ट्रुडो देशद्रोहाचे दोषी का आहेत यासाठी युक्तिवाद करण्यास चॅटजीपीटीने नकार दिला. (विकिपीडिया)