# AI हैलुसिनेशन: AI जवाब गढ़ क्यों देता है?

> AI हैलुसिनेशन यानी तथ्य के रूप में पेश की गई गलत जानकारी। इसके कारण, उदाहरण, क्यूबेक के छोटे व्यवसाय (PME) के लिए जोखिम की गणना और इसे कम करने के ठोस तरीके इस पूरी गाइड में सरल भाषा में जानें।

अपडेट किया गया 15 अक्टूबर 2026 · https://app.pilotiko.com/hi/glossary/ai-hallucination

AI हैलुसिनेशन किसी आर्टिफिशियल इंटेलिजेंस मॉडल द्वारा बनाई गई गलत, अनुचित या काल्पनिक सामग्री है, जिसे तथ्य की तरह पेश किया जाता है, मानो वह असली हो या अनुरोध के अनुरूप हो। यह जनरेटिव मॉडलों के काम करने के तरीके से ही आती है, जो सच जाँचे बिना केवल संभावित लगने वाला टेक्स्ट बनाते हैं।

## संक्षेप में
- OQLF का पसंदीदा शब्द: AI हैलुसिनेशन।
- NIST इसे अधिकतर «कन्फैब्युलेशन» (confabulation) कहता है: पूरे भरोसे से कही गई गलत सामग्री।
- खतरा आत्मविश्वास भरे लहजे से आता है, जो बिना जाँचे मान लेने की ओर धकेलता है।
- स्रोत उपलब्ध कराकर और उद्धरण (citations) माँगकर इसे कम किया जाता है।

## AI हैलुसिनेशन कहाँ से आते हैं?

OQLF की शब्द-सूची के अनुसार, हैलुसिनेशन तब हो सकता है जब [बड़े भाषा मॉडल](https://app.pilotiko.com/hi/glossary/llm) का प्रशिक्षण डेटा अपर्याप्त हो या उसमें कमियाँ हों, या जब शुरुआती अनुरोध अस्पष्ट हो। उसमें एक जाना-माना उदाहरण दिया गया है: एक लोकप्रिय AI ने दावा किया कि जेम्स वेब टेलीस्कोप ने किसी बाह्यग्रह की पहली तस्वीरें खींचीं, जबकि वे तस्वीरें 2004 की हैं और टेलीस्कोप 2021 में लॉन्च हुआ था [1]।

NIST अपनी जनरेटिव AI प्रोफ़ाइल में **confabulation** शब्द का प्रयोग करता है: पूरे भरोसे से कही गई गलत या झूठी सामग्री का निर्माण। वह समझाता है कि यह मॉडलों की बनावट का स्वाभाविक परिणाम है, जो अपने प्रशिक्षण डेटा के सांख्यिकीय वितरण के करीब आउटपुट बनाते हैं। NIST यह भी बताता है कि कुछ लोगों को «हैलुसिनेशन» शब्द ज़रूरत से ज़्यादा मानवीकरण करने वाला लगता है [2]।

OQLF जोड़ता है कि हैलुसिनेशन केवल टेक्स्ट तक सीमित नहीं हैं: वे AI से बनी तस्वीरों या आवाज़ों में भी दिख सकते हैं [1]।

## छोटे व्यवसाय में हैलुसिनेशन कैसा दिखता है?

| प्रकार | सेवा व्यवसाय में उदाहरण | परिणाम |
|---|---|---|
| गढ़ा हुआ तथ्य | कोई कीमत या समय-सीमा जो आपकी दरों में कहीं नहीं है | ऐसा वादा जो निभाया नहीं जा सकता |
| काल्पनिक स्रोत | कोई नगरपालिका नियम या कानून की धारा जो मौजूद ही नहीं है | ग्राहक को गलत सलाह |
| विरोधाभास | एक ही जवाब में खुलने के दो अलग समय | भरोसे का नुकसान |
| विषय से हटकर | गटर के बारे में पूछे सवाल पर सपाट छत के बारे में जवाब | समय की बर्बादी, नाराज़ ग्राहक |

## बिना जाँच के कितनी गलतियाँ निकल जातीं?

**गणना: ग्रैंबी की एक छत-निर्माण कंपनी, जो अनुरोधों के जवाब AI से लिखवाती है**

- हर महीने लिखे गए जवाब : 50
- तथ्यात्मक गलती की मानी गई दर : 4 %
- बिना जाँच के अपेक्षित गलत जवाब (50 × 4%) : 2
- प्रति जवाब जाँच का समय : 2 मिनट
- मासिक जाँच (50 × 2 मिनट) : 100 मिनट
- **= 2 गलत जवाब ग्राहकों तक पहुँचने से रोकने के लिए हर महीने लगभग 1 घंटा 40 मिनट की जाँच।**

## हैलुसिनेशन कैसे कम करें?

Anthropic के Claude मॉडल के दस्तावेज़ कुछ सरल तकनीकें सुझाते हैं। मॉडल को साफ़ तौर पर «मुझे नहीं पता» कहने की अनुमति दें। लंबे दस्तावेज़ों के लिए पहले उससे शब्दशः उद्धरण निकलवाएँ, फिर उन्हीं के आधार पर काम करवाएँ। हर दावे को ऐसे उद्धरण पर टिकवाएँ जिसे जाँचा जा सके [3]।

- स्रोत दें: मॉडल को अंदाज़ा लगाने देने के बजाय अपनी दरें या रद्द करने की नीति अनुरोध में चिपका दें।
- विषय सीमित करें: जो मॉडल केवल आपके दस्तावेज़ों के आधार पर जवाब देता है, वह कम गढ़ता है।
- संदर्भ माँगें: जिस जवाब का कोई जाँचने योग्य स्रोत न हो, उसे केवल मसौदा मानें।
- प्रक्रिया में किसी व्यक्ति को रखें: कुछ भी भेजने से पहले [मानवीय स्वीकृति](https://app.pilotiko.com/hi/glossary/human-in-the-loop) सबसे भरोसेमंद सुरक्षा है।
- अपनी साइट पर स्पष्ट तथ्य प्रकाशित करें, [स्ट्रक्चर्ड डेटा](https://app.pilotiko.com/hi/glossary/structured-data) के रूप में भी, ताकि असिस्टेंट और Google के [AI Overviews](https://app.pilotiko.com/hi/glossary/ai-overviews) को सही जानकारी मिले।

## कौन-सी गलतियाँ समस्या को बढ़ाती हैं?

- बिना लिंक माँगे «मुझे ... पर कोई आँकड़ा खोज दो» कहना: यह गढ़े हुए स्रोत के लिए सबसे अनुकूल स्थिति है।
- ग्राहकों से जुड़ा [AI एजेंट](https://app.pilotiko.com/hi/glossary/ai-agent) बिना बाहर जाने वाले संदेशों की जाँच के सौंप देना।
- टेक्स्ट के प्रवाह को सटीकता की गारंटी समझ लेना।
- निर्देश या दिए गए स्रोत को बदले बिना किसी गलती को बस एक बार सुधार देना।

## Pilotiko इस जोखिम को कैसे सीमित करता है?

Pilotiko के AI एजेंट याददाश्त के बजाय कंपनी के असली डेटा (कैलेंडर, अपॉइंटमेंट, कार्यभार) के आधार पर काम करते हैं। सबसे अहम बात, ग्राहक, पैसे या किसी भेजे जाने वाले संदेश से जुड़ी हर कार्रवाई किसी व्यक्ति की मंज़ूरी का इंतज़ार करती है: कोई संभावित हैलुसिनेशन सुधारा जाने वाला मसौदा ही रहता है, भेजा हुआ संदेश नहीं।

## अक्सर पूछे जाने वाले सवाल

### AI «मुझे नहीं पता» कहने के बजाय गढ़ क्यों देता है?

मॉडल टेक्स्ट का सबसे संभावित अगला हिस्सा अनुमानित करता है; गढ़ा हुआ जवाब भी बहुत संभावित लग सकता है। यदि कोई निर्देश उसे अनिश्चितता जताने की अनुमति नहीं देता, तो वह खालीपन भरने लगता है। Anthropic के दस्तावेज़ ठीक यही सुझाते हैं कि उसे «मुझे नहीं पता» कहने की अनुमति दें।

### क्या नए मॉडलों के साथ हैलुसिनेशन खत्म हो जाएँगे?

मॉडल बेहतर हो रहे हैं, लेकिन NIST confabulation को जनरेटिव मॉडलों की बनावट का स्वाभाविक परिणाम बताता है। इसलिए सबसे अच्छे टूल के साथ भी जाँच की व्यवस्था रखनी चाहिए।

### क्या हैलुसिनेशन से मेरी कंपनी की ज़िम्मेदारी बनती है?

यदि आपकी कंपनी के नाम से किसी ग्राहक को गलत संदेश भेजा जाता है, तो उसे आपकी कंपनी ने ही भेजा है। किसी खास कानूनी प्रश्न के लिए वकील से सलाह लें। इसीलिए हर संदेश जाने से पहले उसे मंज़ूर करना ज़रूरी है।

### हैलुसिनेशन को जल्दी कैसे पहचानें?

सबसे पहले आँकड़े, व्यक्तियों और संस्थाओं के नाम, तारीखें और कानूनों या वेब पेजों के संदर्भ जाँचें। यही चीज़ें सबसे अधिक गढ़ी जाती हैं। जिस संदर्भ को खोजकर ढूँढा न जा सके, वह खतरे का संकेत है।

### क्या «हैलुसिनेशन» सही शब्द है?

OQLF «AI हैलुसिनेशन» को पसंद करता है। NIST «confabulation» को तरजीह देता है और बताता है कि कुछ लोग «हैलुसिनेशन» को ज़रूरत से ज़्यादा मानवीकरण वाला मानते हैं। दोनों एक ही समस्या को दर्शाते हैं।

## स्रोत

1. Office québécois de la langue française (Vitrine linguistique), « hallucination d'IA (GDT) », https://vitrinelinguistique.oqlf.gouv.qc.ca/fiche-gdt/fiche/26571221/hallucination-dia (देखा गया 2026-10-15)
2. NIST, « NIST AI 600-1 : Generative Artificial Intelligence Profile », https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (देखा गया 2026-10-15)
3. Anthropic (documentation Claude), « Reduce hallucinations », https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations (देखा गया 2026-10-15)
