ChatGPT को गलत जवाब देने की है आदत, आंख बंद करके भरोसा करना रिस्की, क्रॉस चेक करना जरूरी

नई दिल्ली. हाल ही में OpenAI ने यूजर्स के लिए अपना लेटेस्ट और सबसे शक्तिशाली AI चैटबॉट, ChatGPT पेश किया है. इसके आने के बाद से ही यह चर्चाओं में बना हुआ है. यह यूजर्स के सवालों के जवाब देने के लिए नेचुरल लैंग्वेज प्रोसेसिंग (NLP) मशीन लर्निंग का उपयोग करता है. अगर आप चैट जीपीटी से सवाल पूछते हैं, तो यह सेकंडों में हजारों वेब पेजों और इंटरनेट पर कंटेंट का विश्लेषण करेगा और निर्धारित शब्द सीमा के भीतर आपको डिटेल में एक जवाब देगा. हालांकि, ChatGPT द्वारा दिए गए आपके हर सवाल का जवाब ठीक हो, ऐसा मुमकिन नहीं है. ऐसे में ChatGPT  के दिए जवाबों पर आंख बंद करके भरोसा करना आपके लिए रिस्की हो सकता है.

लोग होमवर्क, किताबें लिखने और यहां तक कि कॉमेडी रूटीन लिखने के लिए फिलहाल चैट जीपीटी का इस्तेमाल कर रहे हैं. हालांकि, यह किसी भी सवाल का कितना सही जवाब देगा इस बारे में कुछ कह पाना मुश्किल है. यह पहले के जीपीटी मॉडल की तरह ही कभी-कभी गलत उत्तर दे सकता है. इसलिए, आपको ChatGPT  का इस्तेमाल करते वक्त थोड़ा सतर्क रहना होगा.

वहीं, दूसरी ओर ओपनएआई का कहना है कि इस इश्यू को ठीक करने में लगा है. ये इश्यू प्रॉब्लेमेटिक है क्योंकि मॉडल को ट्रेनिंग करने के लिए वे जिस डेटा का उपयोग करते हैं उसमें सच्चाई का कोई सोर्स नहीं है. ऐसे में जरूरी नहीं है कि ChatGPT द्वारा दिया गया हर जवाब सही हो.

यह भी पढ़ें- क्या अब ChatGPT के लिए भी देने पड़ेंगे पैसे? सामने आया प्रोफेशनल प्लान, इतनी है कीमत

क्या है ChatGPT?
ChatGPT एक कन्वर्सेशन डायलॉग मॉडल है, जो आम इंसानों की भाषा को समझने और उन्हें रिस्पांस करने सक्षम है. इसके लिए यह आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग (Machine Learning) का सहारा लेता है. कहा जा रहा है कि ये ऐप गूगल के लिए भी खतरा पैदा कर सकता है. यह इंसान की तरह लिखित टेक्स्ट जनरेट कर सकता है.

फॉलोअप सवाल का जवाब
जीपीटी के निर्माता OpenAI का कहना है कि चैटजीपीटी फॉलो-अप सवालों का जवाब दे सकता है. यह अपनी गलतियों को मान सकता है. यह उन रिक्वस्ट को नकार सकता है, जिन्हें वह सही नहीं मानता. बता दें कि इसे रीइन्फोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक (RLHF)का इस्तेमाल करके ट्रैन किया गया है.

ChatGPT की सीमाएं
चैटबॉट में स्पष्ट रूप से नस्लीय और लैंगिक पूर्वाग्रह देखने को मिले जो लगभग सभी AI मॉडल की समस्या है. चैटबॉट के उत्तर व्याकरणिक रूप से सही होते हैं, यह अच्छी तरह से पढ़ भी सकता है, हालांकि कुछ शोधकर्त्ताओं के अनुसार, इसमें संदर्भ एवं सार को समझने में समस्या है. इस कारण ChatGPT कभी-कभी गलत जानकारी प्रदान कर सकता है.

ChatGPT को लेकर चिंताएं
कुछ यूजर्स चैटबॉट की क्षमता का गलत उपयोग कर सकते हैं . इससे फिशिंग ईमेल या दुर्भावनापूर्ण कोड लिखे जा सकते हैं. इसके अलावा इसके जरिए पक्षपाती डेटा और सूचना का निर्माण किया जा सकता है, इन सबके अलावा एक चिंता यह है कि कोड जनरेटर के उपयोग से ह्यूमन प्रोग्रामर के रोजगार का नुकसान हो सकता है.

ब्रेकिंग न्यूज़ हिंदी में सबसे पहले पढ़ें News18 हिंदी| आज की ताजा खबर, लाइव न्यूज अपडेट, पढ़ें सबसे विश्वसनीय हिंदी न्यूज़ वेबसाइट News18 हिंदी|

Tags: Artificial Intelligence, Tech news, Tech News in hindi, Technology