OpenAI ChatGPT: साल 2022 में लॉन्च होने के बाद से चैटजीपीटी ने अब तक काफी सुधार कर लिया है। मगर बीते कुछ सालों में ओपनएआई के चैटजीपीटी ने जैसे-जैसे अपना दायरा बढ़ाया है, वैसे-वैसे कुछ लोगों पर इसका बुरा प्रभाव देखने को मिला है। यह असर इतना भयावह रहा कि कई लोगों ने अपनी जान भी गंवा दी। इसमें भारत समेत दुनियाभर के कई किशोरों ने अनुचित कदम उठाए। साथ ही एआई प्लेटफॉर्म पर अश्लील कंटेंट और ग्राफिक्स के जरिए भी टीनेजर्स को कई तरह की परेशानियों का सामना करना पड़ा। मगर अब ओपनएआई ने इस संबंध में खुशखबरी दी है।
क्या है OpenAI ChatGPT का नया एज प्रिडिक्शन सेफ्टी फीचर
ओपनएआई ने बताया, ‘हम चैटजीपीटी पर उम्र का अंदाजा लगाने वाला फीचर ला रहे हैं, ताकि यह पता चल सके कि कोई अकाउंट शायद 18 साल से कम उम्र के व्यक्ति का है, ताकि हम टीनएजर्स के लिए सही अनुभव और सुरक्षा उपाय लागू कर सकें। जो वयस्क गलती से टीनएजर वाले अनुभव में आ गए हैं, वे सेटिंग्स > अकाउंट में जाकर अपनी उम्र कन्फर्म कर सकते हैं। यह फीचर अब दुनिया भर में रोल आउट किया जा रहा है। ईयू में यह आने वाले हफ्तों में शुरू होगा।’
नया फीचर यूजर की उम्र का कैसे पता लगाएगा?
चैटजीपीटी यह अनुमान लगाने में मदद करने के लिए एक एज प्रेडिक्शन मॉडल का इस्तेमाल करता है कि क्या कोई अकाउंट 18 साल से कम उम्र के व्यक्ति का है। यह मॉडल बिहेवियरल और अकाउंट-लेवल सिग्नल के कॉम्बिनेशन को देखता है, जिसमें यह भी शामिल है कि कोई अकाउंट कितने समय से है, दिन के आम समय जब कोई एक्टिव रहता है, समय के साथ इस्तेमाल के पैटर्न, और यूजर की बताई गई उम्र। एज प्रेडिक्शन को डिप्लॉय करने से हमें यह जानने में मदद मिलती है कि कौन से सिग्नल सटीकता को बेहतर बनाते हैं, और हम उन सीखों का इस्तेमाल समय के साथ मॉडल को लगातार बेहतर बनाने के लिए करते हैं।
सेफ्टी फीचर्स से ओपनएआई के चैटजीपीटी पर क्या बदलाव आएंगे? जानें फायदें
ओपनएआई का चैटजीपीटी का नया फीचर जैसी ही यूजर की आयु की पहचान कर लेगा, तो चैटजीपीटी उस यूजर के लिए एक्सट्रा सेफ्टी फीचर्स लागू कर देगा। इसके जरिए कई तरह के संवेदनशील मामलों को नियंत्रित किया जा सकता है।
- ग्राफिक हिंसा या खूनी कंटेंट
- वायरल चैलेंज जो नाबालिगों में जोखिम भरे या हानिकारक व्यवहार को बढ़ावा दे सकते हैं
- यौन, रोमांटिक, या हिंसक रोल प्ले
- खुद को नुकसान पहुंचाने वाली फोटोग्राफी
- अत्यधिक सुंदरता के मानकों, अस्वास्थ्यकर डाइटिंग, या बॉडी शेमिंग को बढ़ावा देता है, उस कंटेंट पर लगाम लगाई जा सकेगी।
हालांकि, अभी तक ओपनएआई ने चैटजीपीटी के नए सेफ्टी फीचर्स को भारत में लागू करने को लेकर कोई आधिकारिक पुष्टि नहीं है। शुरुआत में इसे यूरोपीय देशों में रोलआउट किया गया है। ऐसे में भारत के लोगों को इसके लिए थोड़ा इंतजार करना होगा।