AI हैलुसिनेशन: AI जवाब गढ़ क्यों देता है?
गढ़ी हुई कीमत, ऐसा कानून जो है ही नहीं, गलत पता: इन गलतियों को कैसे पहचानें और कम करें।
AI हैलुसिनेशन किसी आर्टिफिशियल इंटेलिजेंस मॉडल द्वारा बनाई गई गलत, अनुचित या काल्पनिक सामग्री है, जिसे तथ्य की तरह पेश किया जाता है, मानो वह असली हो या अनुरोध के अनुरूप हो। यह जनरेटिव मॉडलों के काम करने के तरीके से ही आती है, जो सच जाँचे बिना केवल संभावित लगने वाला टेक्स्ट बनाते हैं।
30 days free, no credit card.
संक्षेप में
- OQLF का पसंदीदा शब्द: AI हैलुसिनेशन।
- NIST इसे अधिकतर «कन्फैब्युलेशन» (confabulation) कहता है: पूरे भरोसे से कही गई गलत सामग्री।
- खतरा आत्मविश्वास भरे लहजे से आता है, जो बिना जाँचे मान लेने की ओर धकेलता है।
- स्रोत उपलब्ध कराकर और उद्धरण (citations) माँगकर इसे कम किया जाता है।
AI हैलुसिनेशन कहाँ से आते हैं?
OQLF की शब्द-सूची के अनुसार, हैलुसिनेशन तब हो सकता है जब बड़े भाषा मॉडल का प्रशिक्षण डेटा अपर्याप्त हो या उसमें कमियाँ हों, या जब शुरुआती अनुरोध अस्पष्ट हो। उसमें एक जाना-माना उदाहरण दिया गया है: एक लोकप्रिय AI ने दावा किया कि जेम्स वेब टेलीस्कोप ने किसी बाह्यग्रह की पहली तस्वीरें खींचीं, जबकि वे तस्वीरें 2004 की हैं और टेलीस्कोप 2021 में लॉन्च हुआ था [1]।
NIST अपनी जनरेटिव AI प्रोफ़ाइल में confabulation शब्द का प्रयोग करता है: पूरे भरोसे से कही गई गलत या झूठी सामग्री का निर्माण। वह समझाता है कि यह मॉडलों की बनावट का स्वाभाविक परिणाम है, जो अपने प्रशिक्षण डेटा के सांख्यिकीय वितरण के करीब आउटपुट बनाते हैं। NIST यह भी बताता है कि कुछ लोगों को «हैलुसिनेशन» शब्द ज़रूरत से ज़्यादा मानवीकरण करने वाला लगता है [2]।
OQLF जोड़ता है कि हैलुसिनेशन केवल टेक्स्ट तक सीमित नहीं हैं: वे AI से बनी तस्वीरों या आवाज़ों में भी दिख सकते हैं [1]।
छोटे व्यवसाय में हैलुसिनेशन कैसा दिखता है?
| प्रकार | सेवा व्यवसाय में उदाहरण | परिणाम |
|---|---|---|
| गढ़ा हुआ तथ्य | कोई कीमत या समय-सीमा जो आपकी दरों में कहीं नहीं है | ऐसा वादा जो निभाया नहीं जा सकता |
| काल्पनिक स्रोत | कोई नगरपालिका नियम या कानून की धारा जो मौजूद ही नहीं है | ग्राहक को गलत सलाह |
| विरोधाभास | एक ही जवाब में खुलने के दो अलग समय | भरोसे का नुकसान |
| विषय से हटकर | गटर के बारे में पूछे सवाल पर सपाट छत के बारे में जवाब | समय की बर्बादी, नाराज़ ग्राहक |
बिना जाँच के कितनी गलतियाँ निकल जातीं?
हैलुसिनेशन कैसे कम करें?
Anthropic के Claude मॉडल के दस्तावेज़ कुछ सरल तकनीकें सुझाते हैं। मॉडल को साफ़ तौर पर «मुझे नहीं पता» कहने की अनुमति दें। लंबे दस्तावेज़ों के लिए पहले उससे शब्दशः उद्धरण निकलवाएँ, फिर उन्हीं के आधार पर काम करवाएँ। हर दावे को ऐसे उद्धरण पर टिकवाएँ जिसे जाँचा जा सके [3]।
- स्रोत दें: मॉडल को अंदाज़ा लगाने देने के बजाय अपनी दरें या रद्द करने की नीति अनुरोध में चिपका दें।
- विषय सीमित करें: जो मॉडल केवल आपके दस्तावेज़ों के आधार पर जवाब देता है, वह कम गढ़ता है।
- संदर्भ माँगें: जिस जवाब का कोई जाँचने योग्य स्रोत न हो, उसे केवल मसौदा मानें।
- प्रक्रिया में किसी व्यक्ति को रखें: कुछ भी भेजने से पहले मानवीय स्वीकृति सबसे भरोसेमंद सुरक्षा है।
- अपनी साइट पर स्पष्ट तथ्य प्रकाशित करें, स्ट्रक्चर्ड डेटा के रूप में भी, ताकि असिस्टेंट और Google के AI Overviews को सही जानकारी मिले।
कौन-सी गलतियाँ समस्या को बढ़ाती हैं?
- बिना लिंक माँगे «मुझे ... पर कोई आँकड़ा खोज दो» कहना: यह गढ़े हुए स्रोत के लिए सबसे अनुकूल स्थिति है।
- ग्राहकों से जुड़ा AI एजेंट बिना बाहर जाने वाले संदेशों की जाँच के सौंप देना।
- टेक्स्ट के प्रवाह को सटीकता की गारंटी समझ लेना।
- निर्देश या दिए गए स्रोत को बदले बिना किसी गलती को बस एक बार सुधार देना।
Pilotiko इस जोखिम को कैसे सीमित करता है?
Pilotiko के AI एजेंट याददाश्त के बजाय कंपनी के असली डेटा (कैलेंडर, अपॉइंटमेंट, कार्यभार) के आधार पर काम करते हैं। सबसे अहम बात, ग्राहक, पैसे या किसी भेजे जाने वाले संदेश से जुड़ी हर कार्रवाई किसी व्यक्ति की मंज़ूरी का इंतज़ार करती है: कोई संभावित हैलुसिनेशन सुधारा जाने वाला मसौदा ही रहता है, भेजा हुआ संदेश नहीं।
अक्सर पूछे जाने वाले सवाल
AI «मुझे नहीं पता» कहने के बजाय गढ़ क्यों देता है?
मॉडल टेक्स्ट का सबसे संभावित अगला हिस्सा अनुमानित करता है; गढ़ा हुआ जवाब भी बहुत संभावित लग सकता है। यदि कोई निर्देश उसे अनिश्चितता जताने की अनुमति नहीं देता, तो वह खालीपन भरने लगता है। Anthropic के दस्तावेज़ ठीक यही सुझाते हैं कि उसे «मुझे नहीं पता» कहने की अनुमति दें।
क्या नए मॉडलों के साथ हैलुसिनेशन खत्म हो जाएँगे?
मॉडल बेहतर हो रहे हैं, लेकिन NIST confabulation को जनरेटिव मॉडलों की बनावट का स्वाभाविक परिणाम बताता है। इसलिए सबसे अच्छे टूल के साथ भी जाँच की व्यवस्था रखनी चाहिए।
क्या हैलुसिनेशन से मेरी कंपनी की ज़िम्मेदारी बनती है?
यदि आपकी कंपनी के नाम से किसी ग्राहक को गलत संदेश भेजा जाता है, तो उसे आपकी कंपनी ने ही भेजा है। किसी खास कानूनी प्रश्न के लिए वकील से सलाह लें। इसीलिए हर संदेश जाने से पहले उसे मंज़ूर करना ज़रूरी है।
हैलुसिनेशन को जल्दी कैसे पहचानें?
सबसे पहले आँकड़े, व्यक्तियों और संस्थाओं के नाम, तारीखें और कानूनों या वेब पेजों के संदर्भ जाँचें। यही चीज़ें सबसे अधिक गढ़ी जाती हैं। जिस संदर्भ को खोजकर ढूँढा न जा सके, वह खतरे का संकेत है।
क्या «हैलुसिनेशन» सही शब्द है?
OQLF «AI हैलुसिनेशन» को पसंद करता है। NIST «confabulation» को तरजीह देता है और बताता है कि कुछ लोग «हैलुसिनेशन» को ज़रूरत से ज़्यादा मानवीकरण वाला मानते हैं। दोनों एक ही समस्या को दर्शाते हैं।
स्रोत
- Office québécois de la langue française (Vitrine linguistique), hallucination d'IA (GDT) (देखा गया 15 अक्टूबर 2026).
- NIST, NIST AI 600-1 : Generative Artificial Intelligence Profile (देखा गया 15 अक्टूबर 2026).
- Anthropic (documentation Claude), Reduce hallucinations (देखा गया 15 अक्टूबर 2026).
आगे पढ़ें
- बड़ा भाषा मॉडल (LLM): यह कैसे काम करता है?LLM यानी बड़ा भाषा मॉडल क्या है? जानिए टोकन की भविष्यवाणी कैसे काम करती है, छोटे और मध्यम व्यवसायों (PME) में इसके उपयोग, आँकड़ों वाला उदाहरण और अपनाने से पहले जानने योग्य सीमाएँ, Pilotiko की सरल भाषा में।
- AI एजेंट: आर्टिफिशियल इंटेलिजेंस एजेंट क्या होता है?AI एजेंट चरणों और टूल्स को एक के बाद एक जोड़कर किसी लक्ष्य तक पहुंचता है। जानिए इसकी परिभाषा, कार्य-चक्र, क्यूबेक के छोटे व्यवसाय (PME) का आंकड़ों वाला उदाहरण और ज़रूरी सुरक्षा-सीमाएं (garde-fous), आसान भाषा में।
- मानवीय अनुमोदन: "human-in-the-loop" क्या है?मानवीय अनुमोदन (human approval) AI की संवेदनशील कार्रवाइयों से पहले किसी व्यक्ति की मंज़ूरी को ज़रूरी बनाता है। जानें निगरानी के अलग-अलग रूप, क्यूबेक और कनाडा के नियम, आँकड़ों वाला एक उदाहरण और बचने लायक आम गलतियाँ।
- संरचित डेटा: schema.org और JSON-LD क्या हैं?संरचित डेटा, schema.org और JSON-LD की सरल व्याख्या: Google के स्वीकृत फॉर्मैट, क्यूबेक के छोटे व्यवसाय (PME) के लिए LocalBusiness मार्कअप, और सर्च रिजल्ट में दिखने से रोकने वाली आम गलतियां।
Your whole business, on one screen.
Each department is a room. Pilotiko prepares the work; you approve with one click.
- Call answered
- Appointment confirmed
- Email reply ready
- Invoice prepared