AI गलत बात को सच की तरह क्यों कहता है?

इसकी जड़ में है अगला शब्द अनुमान लगाने का तरीका, और परीक्षा में अंक देने का तरीका।AI चैटबॉट आगे आने वाले संभावित शब्द चुनकर वाक्य बनाता है, इसलिए जवाब के सुराग कम हों तब भी सही जैसा लगने वाला वाक्य बन जाता है। साथ ही OpenAI बताता है कि सिर्फ सही जवाब गिनने वाले टेस्ट में “मुझे नहीं पता” के 0 अंक मिलते हैं, इसलिए तुक्का लगाने से नतीजे बेहतर दिखते हैं और जवाब देने का यही तरीका टिक जाता है।


सही जैसी लगने वाली गलती को “हैलुसिनेशन” कहते हैं
AI कंपनी OpenAI उस वाक्य को “हैलुसिनेशन” कहती है, जिसे AI पूरे भरोसे से बनाता है, जो सही जैसा लगता है पर सच नहीं होता। उदाहरण के लिए, एक बहुत इस्तेमाल होने वाले चैटबॉट से एक रिसर्चर की PhD थीसिस का शीर्षक पूछा गया, तो उसने 3 अलग-अलग शीर्षक बताए, और एक भी सही नहीं था। जन्मदिन पूछने पर भी उसने 3 अलग-अलग तारीखें बताईं, सभी गलत।
कम आने वाली बातों में गलती सबसे आसान
AI के पीछे का बेस मॉडल पहले ढेर सारे लेखों से अगला शब्द अनुमान लगाने का अभ्यास करता है (प्री-ट्रेनिंग)। इन लेखों पर “सही” या “गलत” का कोई लेबल नहीं होता। जिन चीज़ों का एक तय पैटर्न होता है, जैसे स्पेलिंग या ब्रैकेट बंद करना, उनमें सीखने के साथ गलतियाँ खत्म होती जाती हैं। लेकिन जो बातें बहुत कम आती हैं और पैटर्न से अनुमान नहीं लगाई जा सकतीं, जैसे किसी पालतू जानवर का जन्मदिन, उनमें गलती होना आसान है।

- 1बहुत सुरागों वाला सवाल (साफ़ रास्तों वाला नक्शा)
- 2कम सुरागों वाला सवाल (बीच में टूटे रास्ते वाला नक्शा)
- 3सही लगने वाले शब्द जोड़कर बनाया गया, असल में न होने वाला रास्ता
- 4परीक्षा जिसमें ख़ाली छोड़ने पर अंक नहीं, पर अंदाज़े से भरने पर कभी-कभी अंक मिलते हैं
परीक्षा में तुक्का बेहतर दिखता है
OpenAI इसे बहुविकल्पीय परीक्षा से समझाता है। जवाब न पता हो तो तुक्का लग भी सकता है, पर खाली छोड़ने पर हमेशा शून्य मिलता है। जन्मदिन पूछे जाने पर “10 सितंबर” कहने से सही होने की संभावना 365 में 1 होती है। कई जाँचें सिर्फ सही जवाबों का प्रतिशत देखती हैं, इसलिए तुक्का लगाने वाला मॉडल बेहतर दिखता है। SimpleQA नाम के सवालों वाले टेस्ट में gpt-5-thinking-mini ने 52% सवालों पर जवाब नहीं दिया, 22% सही और 26% गलत जवाब दिए। o4-mini ने सिर्फ 1% पर जवाब रोका, 24% थोड़े ज़्यादा सही रहे, पर 75% जवाब गलत थे।
SimpleQA टेस्ट पर OpenAI की जानकारी के अनुसार।

अंक देने का तरीका बदलना और खुद जाँचना
इसलिए OpenAI सुझाव देता है कि अंक देने का तरीका बदला जाए: भरोसे से दी गई गलती पर “मुझे नहीं पता” से ज़्यादा अंक काटे जाएँ, और अनिश्चितता बताने वाले जवाबों को कुछ अंक मिलें। मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT) की गाइड भी बताती है कि जनरेटिव AI एक उन्नत ऑटो-कंप्लीट की तरह काम करता है, जिसका काम सही जैसा लगने वाला वाक्य बनाना है, सच जाँचना नहीं। ज़रूरी बातों को हमेशा किसी विशेषज्ञ से पूछकर या रिसर्च पेपर जैसे स्रोतों से मिलाकर जाँचें।
और जानना चाहते हैं?
- Anthropic की रिसर्च में पाया गया कि उसके AI Claude के अंदर “जानकारी कम है, जवाब नहीं दे सकते” कहने वाला एक रास्ता शुरू से चालू रहता है, और किसी जाने-माने नाम पर यह रुक जाता है, जिससे जवाब दिया जाता है।
- OpenAI बताता है कि जिस छोटे मॉडल ने माओरी भाषा बिल्कुल नहीं सीखी, वह माओरी सवाल पर बस “मुझे नहीं पता” कह सकता है, जबकि थोड़ा सीखे मॉडल को यह आँकना पड़ता है कि वह कितना पक्का है।
- MIT की गाइड के अनुसार, जवाबों में कितना बदलाव हो यह तय करने वाली “टेम्परेचर” सेटिंग को 0 से 0.3 तक कम रखने पर जवाब ज़्यादा केंद्रित और तथ्यों पर आधारित होते हैं।

त्वरित प्रश्नोत्तरी: खुद को परखें
अभी जो पढ़ा, याद है? एक बार आज़माइए!AI मॉडल तुक्का लगाना क्यों सीखते हैं?
उत्तर दिखाएँ
- उन्हें धोखा देने के लिए बनाया गया
- टेस्ट सिर्फ सही जवाब गिनते हैं
- इंटरनेट पर सब कुछ गलत है
टेस्ट सिर्फ सही जवाब गिनते हैं जब सिर्फ सही जवाब गिने जाते हैं, तो “मुझे नहीं पता” के शून्य अंक मिलते हैं। तुक्का बेहतर दिखता है, इसलिए यही तरीका टिक जाता है।
जब सिर्फ सही जवाब गिने जाते हैं, तो “मुझे नहीं पता” के शून्य अंक मिलते हैं। तुक्का बेहतर दिखता है, इसलिए यही तरीका टिक जाता है।
अगला प्रश्न ›स्रोत
- Why language models hallucinateOpenAI
- When AI Gets It Wrong: Addressing AI Hallucinations and BiasMIT Sloan Teaching & Learning Technologies
- Tracing the thoughts of a large language modelAnthropic
यह लेख 2026-10-03 तक ऊपर दिए गए स्रोतों की जाँच करके लिखा गया था। शोध आगे बढ़ने पर व्याख्याएँ बदल सकती हैं। फ़ोटो के श्रेय प्रत्येक फ़ोटो के नीचे दिए गए हैं।
अगला रोचक तथ्य ▶
तकनीकवीडियो ऐप “रिकमेंडेशन” कैसे चुनते हैं?वीडियो ऐप खोलते ही देखने लायक वीडियो भरे मिलते हैं। आखिर ये चुने कैसे जाते हैं?

