OpenAI: ओपनएआई ने हाल ही में जीपीटी-5 एआई टूल को अपडेट किया है। ऐसे में जैसे-जैसे सैम ऑल्टमैन चैटबॉट को मजबूत कर रहे हैं, वैसे-वैसे इसकी एआई मॉडल में साइबर क्षमताएं भी तेजी से आगे बढ़ रही हैं। चैटजीपीटी मेकर ने एक डरावनी चेतावनी देते हुए भविष्य के एआई टूल को लेकर सावधान रहने को कहा है। बीते बुधवार को ओपनएआई ने अपने ब्लॉग पोस्ट में कहा, ‘नए एआई मॉडल के आने के साथ ही साइबर डिफेंस में भी महत्वपूर्ण फायदे हो रहे हैं। साथ ही नए डुअल यूज जोखिम भी पैदा हो रहे हैं, जिन्हें सावधानी से मैनेज करने की जरूरत है।’
OpenAI के नए मॉडल कर सकेंगे एडवांस्ड हैकिंग वाले सारे काम
ब्लॉग पोस्ट में ओपनएआई ने इस बात पर जोर दिया है कि एआई की प्रगति जल्द ही एक ऐसे पॉइंट पर पहुंच सकती है, जहां उसके मॉडल ऐसे काम करने में सक्षम होंगे, जो पहले एडवांस्ड हैकिंग समूह के दायरे में आते थे। चैटजीपीटी प्रमुख सैम ऑल्टमैन के मुताबिक, ‘भविष्य के सिस्टम काम करने वाले जीरो-डे रिमोट एक्सप्लॉइट बना सकते हैं या यहां तक कि इंडस्ट्रियल नेटवर्क हमलों को टारगेट करने वाले हाई-लेवल घुसपैठ ऑपरेशन्स में मदद कर सकते हैं, जिनके लिए मौजूदा दौर में किसी इंसानी एक्सपर्ट की जरूरत होती है।’
ओपनएआई की बढ़ती पावर के साथ डिफेंसिव साइबर सिक्योरिटी की जरूरत
आगामी एआई मॉडल्स में खतरों के संकेतों के बावजूद ओपनएआई ने कहा कि इरादा यह पक्का करना है कि मॉडल्स की ताकत आक्रामक गलत इस्तेमाल के बजाय डिफेंसिव भूमिकाओं की तरफ झुके। चैटजीपीटी मेकर ने आगे लिखा, ‘जैसे-जैसे टेक्नोलॉजी ज्यादा पावरफुल हो रही है, वह डिफेंसिव साइबर सिक्योरिटी कामों के लिए मॉडल्स को मजबूत बनाने और ऐसे टूल्स बनाने में इन्वेस्ट कर रही है, जो डिफेंडर्स को कोड ऑडिट करने और कमजोरियों को ठीक करने जैसे वर्कफ्लो को अधिक आसानी से करने में मदद करें।’ सैम ऑल्टमैन की कंपनी इश बात पर अधिक फोकस कर रही है कि मॉडल्स को बेहतर बनाने का काम किया जा सके, जिससे साइबर सिक्योरिटी टीमों को फायदा हो, न कि उन्हें जोखिम में डाला जाए।
सैम ऑल्टमैन ने अपने कर्मचारियों को दी खास सलाह
रिपोर्ट्स के मुताबिक, ओपनएआई के हेड सैम ऑल्टमैन ने कर्मचारियों से कहा है कि वे ट्रेंड इवैल्यूएटर्स पर अधिक निर्भर रहने के बजाय यूजर-जेनरेटेड इनपुट्स पर ज्यादा ध्यान देकर प्रोग्रेस को तेज करें, जिसमें चैटजीपीटी यूजर्स से वन-क्लिक फीडबैक भी शामिल है। इस बदलाव को विवादित माना जा रहा है, क्योंकि यह मॉडल ट्रेनिंग में रियल-टाइम, अनफिल्टर्ड यूजर डेटा का महत्व बढ़ाता है, जिससे कुछ गड़बड़ियां हो सकती हैं, लेकिन यह सिस्टम को बहुत तेजी से सीखने में भी मदद करता है।
