AI गलत बात को सच की तरह क्यों कहता है?

कोहाकु
कोहाकुकभी-कभी AI ऐसी बातों का भी पूरे भरोसे से जवाब देता है जो सच नहीं होतीं। ऐसा क्यों होता है?
30 सेकंड में जवाब
कोहाकुइसकी जड़ में है अगला शब्द अनुमान लगाने का तरीका, और परीक्षा में अंक देने का तरीका।

AI चैटबॉट आगे आने वाले संभावित शब्द चुनकर वाक्य बनाता है, इसलिए जवाब के सुराग कम हों तब भी सही जैसा लगने वाला वाक्य बन जाता है। साथ ही OpenAI बताता है कि सिर्फ सही जवाब गिनने वाले टेस्ट में “मुझे नहीं पता” के 0 अंक मिलते हैं, इसलिए तुक्का लगाने से नतीजे बेहतर दिखते हैं और जवाब देने का यही तरीका टिक जाता है।

कोहाकु
कोहाकुतो चलिए, अब इसे विस्तार से समझते हैं।
गर्म दिन में सड़क का दूर का हिस्सा पानी की तरह चमकता हुआ, यानी मृगतृष्णा
गर्म दिन में सड़क पर दिखने वाली “मृगतृष्णा”। पानी असल में नहीं होता, पर ऐसा लगता है जैसे हो।फ़ोटो: Michael from Calgary, AB, Canada / CC BY 2.0 / विकिमीडिया कॉमन्स

सही जैसी लगने वाली गलती को “हैलुसिनेशन” कहते हैं

AI कंपनी OpenAI उस वाक्य को “हैलुसिनेशन” कहती है, जिसे AI पूरे भरोसे से बनाता है, जो सही जैसा लगता है पर सच नहीं होता। उदाहरण के लिए, एक बहुत इस्तेमाल होने वाले चैटबॉट से एक रिसर्चर की PhD थीसिस का शीर्षक पूछा गया, तो उसने 3 अलग-अलग शीर्षक बताए, और एक भी सही नहीं था। जन्मदिन पूछने पर भी उसने 3 अलग-अलग तारीखें बताईं, सभी गलत।

कम आने वाली बातों में गलती सबसे आसान

AI के पीछे का बेस मॉडल पहले ढेर सारे लेखों से अगला शब्द अनुमान लगाने का अभ्यास करता है (प्री-ट्रेनिंग)। इन लेखों पर “सही” या “गलत” का कोई लेबल नहीं होता। जिन चीज़ों का एक तय पैटर्न होता है, जैसे स्पेलिंग या ब्रैकेट बंद करना, उनमें सीखने के साथ गलतियाँ खत्म होती जाती हैं। लेकिन जो बातें बहुत कम आती हैं और पैटर्न से अनुमान नहीं लगाई जा सकतीं, जैसे किसी पालतू जानवर का जन्मदिन, उनमें गलती होना आसान है।

चित्र: कौन-सी गलती मिटती है, कौन-सी रहती है
साफ़ रास्तों वाला नक्शा, टूटे रास्ते के आगे शब्द-कार्डों से रास्ता गढ़ता नक्शा, और दो परीक्षा-पत्रों की तुलना
  1. 1बहुत सुरागों वाला सवाल (साफ़ रास्तों वाला नक्शा)
  2. 2कम सुरागों वाला सवाल (बीच में टूटे रास्ते वाला नक्शा)
  3. 3सही लगने वाले शब्द जोड़कर बनाया गया, असल में न होने वाला रास्ता
  4. 4परीक्षा जिसमें ख़ाली छोड़ने पर अंक नहीं, पर अंदाज़े से भरने पर कभी-कभी अंक मिलते हैं

परीक्षा में तुक्का बेहतर दिखता है

OpenAI इसे बहुविकल्पीय परीक्षा से समझाता है। जवाब न पता हो तो तुक्का लग भी सकता है, पर खाली छोड़ने पर हमेशा शून्य मिलता है। जन्मदिन पूछे जाने पर “10 सितंबर” कहने से सही होने की संभावना 365 में 1 होती है। कई जाँचें सिर्फ सही जवाबों का प्रतिशत देखती हैं, इसलिए तुक्का लगाने वाला मॉडल बेहतर दिखता है। SimpleQA नाम के सवालों वाले टेस्ट में gpt-5-thinking-mini ने 52% सवालों पर जवाब नहीं दिया, 22% सही और 26% गलत जवाब दिए। o4-mini ने सिर्फ 1% पर जवाब रोका, 24% थोड़े ज़्यादा सही रहे, पर 75% जवाब गलत थे।

चित्र: जवाब रोकना या तुक्का लगाना
gpt-5-thinking-miniजवाब रोका52%सही जवाब22%गलत जवाब26%o4-miniजवाब रोका1%सही जवाब24%गलत जवाब75%

SimpleQA टेस्ट पर OpenAI की जानकारी के अनुसार।

कोहाकु
कोहाकुखाली छोड़ो तो शून्य, तुक्का लगाओ तो शायद सही। लगता है AI की भी परीक्षा वाली परेशानियाँ हैं।

अंक देने का तरीका बदलना और खुद जाँचना

इसलिए OpenAI सुझाव देता है कि अंक देने का तरीका बदला जाए: भरोसे से दी गई गलती पर “मुझे नहीं पता” से ज़्यादा अंक काटे जाएँ, और अनिश्चितता बताने वाले जवाबों को कुछ अंक मिलें। मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT) की गाइड भी बताती है कि जनरेटिव AI एक उन्नत ऑटो-कंप्लीट की तरह काम करता है, जिसका काम सही जैसा लगने वाला वाक्य बनाना है, सच जाँचना नहीं। ज़रूरी बातों को हमेशा किसी विशेषज्ञ से पूछकर या रिसर्च पेपर जैसे स्रोतों से मिलाकर जाँचें।

और जानना चाहते हैं?

  • Anthropic की रिसर्च में पाया गया कि उसके AI Claude के अंदर “जानकारी कम है, जवाब नहीं दे सकते” कहने वाला एक रास्ता शुरू से चालू रहता है, और किसी जाने-माने नाम पर यह रुक जाता है, जिससे जवाब दिया जाता है।
  • OpenAI बताता है कि जिस छोटे मॉडल ने माओरी भाषा बिल्कुल नहीं सीखी, वह माओरी सवाल पर बस “मुझे नहीं पता” कह सकता है, जबकि थोड़ा सीखे मॉडल को यह आँकना पड़ता है कि वह कितना पक्का है।
  • MIT की गाइड के अनुसार, जवाबों में कितना बदलाव हो यह तय करने वाली “टेम्परेचर” सेटिंग को 0 से 0.3 तक कम रखने पर जवाब ज़्यादा केंद्रित और तथ्यों पर आधारित होते हैं।
कोहाकु
कोहाकुजो वाक्य जितना सही लगे, उसे उतना ही रुककर जाँचना अच्छा है। AI के साथ अच्छे से काम करने का यही राज़ है।

त्वरित प्रश्नोत्तरी: खुद को परखें

कोहाकुअभी जो पढ़ा, याद है? एक बार आज़माइए!

AI मॉडल तुक्का लगाना क्यों सीखते हैं?

उत्तर दिखाएँ
  1. उन्हें धोखा देने के लिए बनाया गया
  2. टेस्ट सिर्फ सही जवाब गिनते हैं
  3. इंटरनेट पर सब कुछ गलत है

टेस्ट सिर्फ सही जवाब गिनते हैं जब सिर्फ सही जवाब गिने जाते हैं, तो “मुझे नहीं पता” के शून्य अंक मिलते हैं। तुक्का बेहतर दिखता है, इसलिए यही तरीका टिक जाता है।

स्रोत
  1. Why language models hallucinateOpenAI
  2. When AI Gets It Wrong: Addressing AI Hallucinations and BiasMIT Sloan Teaching & Learning Technologies
  3. Tracing the thoughts of a large language modelAnthropic

यह लेख 2026-10-03 तक ऊपर दिए गए स्रोतों की जाँच करके लिखा गया था। शोध आगे बढ़ने पर व्याख्याएँ बदल सकती हैं। फ़ोटो के श्रेय प्रत्येक फ़ोटो के नीचे दिए गए हैं।

अगला रोचक तथ्य ▶

तकनीकवीडियो ऐप “रिकमेंडेशन” कैसे चुनते हैं?वीडियो ऐप खोलते ही देखने लायक वीडियो भरे मिलते हैं। आखिर ये चुने कैसे जाते हैं?