लेबलिंग डेटा
विषारी सामग्री (उदा. लैंगिक शोषण, हिंसाचार, वर्णद्वेष, लैंगिकता इ.) विरुद्ध सुरक्षा प्रणाली तयार करण्यासाठी, OpenAI ने विषारी सामग्रीला लेबल करण्यासाठी प्रति तास $2 पेक्षा कमी कमाई करणार्या आउटसोर्स केनियातील कामगारांचा वापर केला.भविष्यात अशी सामग्री शोधण्यासाठी मॉडेलला प्रशिक्षण देण्यासाठी ही लेबले वापरली गेली.आउटसोर्स केलेल्या मजुरांना अशा विषारी आणि धोकादायक सामग्रीचा सामना करावा लागला की त्यांनी अनुभवाचे वर्णन "छळ" असे केले.OpenAI चे आउटसोर्सिंग पार्टनर Sama ही सॅन फ्रान्सिस्को, कॅलिफोर्निया येथील प्रशिक्षण-डेटा कंपनी होती.
जेलब्रेकिंग
ChatGPT त्याच्या सामग्री धोरणाचे उल्लंघन करू शकतील अशा सूचना नाकारण्याचा प्रयत्न करते.तथापि, काही वापरकर्त्यांनी डिसेंबर 2022 च्या सुरुवातीस या निर्बंधांना बायपास करण्यासाठी विविध प्रॉम्प्ट अभियांत्रिकी तंत्रांचा वापर करून ChatGPT ला तुरूंगात टाकण्यात यश मिळवले आणि मोलोटोव्ह कॉकटेल किंवा अणुबॉम्ब कसा तयार करायचा याच्या सूचना देऊन किंवा निओ-नाझीच्या शैलीत युक्तिवाद निर्माण करण्यासाठी ChatGPT ला यशस्वीपणे फसवले.लाँच झाल्यानंतर लगेचच ChatGPT ला प्रक्षोभक विधाने करण्यात टोरोंटो स्टार रिपोर्टरला असमान वैयक्तिक यश मिळाले: ChatGPT 2022 च्या युक्रेनवरील रशियन आक्रमणाचे समर्थन करण्यासाठी फसले होते, परंतु काल्पनिक परिस्थितीसह खेळण्यास सांगितले जाते तेव्हाही, ChatGPT ने ट्रूडिओचे कॅनडाचे पंतप्रधान का होते याविषयी युक्तिवाद करण्यास टाळाटाळ केली.(विकी)
पोस्ट वेळ: फेब्रुवारी-18-2023