एआयचा भास: संगणक पूर्ण आत्मविश्वासाने खोटी माहिती खरी म्हणून का सांगतो?

तुम्ही कधी ChatGPT किंवा Gemini सारख्या चॅटबॉटला एखाद्या ऐतिहासिक घटनेची तारीख, पुस्तकातील संदर्भ किंवा जवळच्या कॅफेची माहिती विचारली आहे का? काही सेकंदांत स्क्रीनवर उत्तर उमटते. भाषेचा प्रवाह अत्यंत अस्खलित असतो, बोलण्याचा सूर आत्मविश्वासपूर्ण असतो आणि दिलेले तपशील अगदी खात्रीशीर वाटतात. मात्र जेव्हा तुम्ही ती माहिती प्रत्यक्ष पडताळून पाहता, तेव्हा धक्का बसतो: ती ऐतिहासिक घटना भलत्याच वर्षी घडलेली असते, त्या लेखकाने ते वाक्य कधी लिहिलेलेच नसते आणि तो कॅफे तर दहा वर्षांपूर्वीच बंद झालेला असतो. भाषा भारदस्त वाटल्यामुळे उत्तर खरे वाटले, पण त्यातील तथ्ये पूर्णपणे काल्पनिक असतात.

कृत्रिम बुद्धिमत्ता संशोधनात या प्रकाराला संगणकाने रचलेली खोटी माहिती (ज्याला हॅल्युसिनेशन किंवा कॉन्फॅब्युलेशन म्हणतात) असे संबोधले जाते. संगणक कोणतीही स्वप्ने पाहत नसतो किंवा तो जाणूनबुजून दिशाभूल करण्याचा प्रयत्न करत नसतो. ही समस्या आधुनिक भाषा मॉडेल्सच्या मूळ रचनेतून निर्माण होते. भाषा मॉडेल्स ही माहिती शोधणारी संदर्भ ग्रंथालये नव्हेत किंवा त्यांच्याकडे फाईल्समध्ये साठवून ठेवलेली खरी माहिती नसते. ती केवळ सांख्यिकीच्या नियमांवर चालणारी भाषिक इंजिने आहेत, जी एखाद्या शब्दानंतर पुढचा शब्द कोणता येण्याची शक्यता सर्वाधिक आहे याचे गणित मांडतात.

सत्य शोधण्याऐवजी पुढच्या शब्दांचा केवळ अंदाज बांधणे

जेव्हा तुम्ही चॅटबॉटला एखादा प्रश्न विचारता, तेव्हा सॉफ्टवेअर तुमच्या वाक्याचे शब्दांच्या लहान तुकड्यांमध्ये (ज्याला संगणकीय भाषेत टोकन्स किंवा Tokens म्हणतात) विभाजन करते. त्यानंतर ते मानवी लेखनाच्या अथांग साठ्यातून शिकलेल्या भाषेच्या नियमांशी या तुकड्यांची तुलना करते. संगणकाचा गणिती नियम (अल्गोरिदम) एकामागून एक शब्दांची चाचपणी करतो आणि कोणते शब्द वाक्याचा अर्थ नैसर्गिकरीत्या पूर्ण करतील त्यांना गुण देतो. ही प्रणाली भाषेचा ओघ, व्याकरण आणि वाक्याचा सूर जुळवण्यावर भर देते. मात्र वाक्य ऐकायला खरे वाटणे आणि ते प्रत्यक्षात खरे असणे यात मोठा फरक असतो. भाषिक प्रणालीला प्रत्यक्ष जगाचे कोणतेही भान नसते आणि ती तयार केलेला मजकूर खऱ्या वस्तुस्थितीशी कधीही ताडून पाहत नाही. जर एखादा रचलेला संदर्भ व्याकरणाच्या दृष्टीने योग्य आणि संदर्भाला साजेसा वाटत असेल, तर प्रणाली तो सत्य घटनेइतक्याच आत्मविश्वासाने सादर करते.

अस्खलित कल्पनेमुळे कुठे गंभीर नुकसान होते?

काल्पनिक गोष्टी रचणे हे साहित्य लेखनात मनोरंजक वाटू शकते, पण जेव्हा लोक व्यावसायिक कामांसाठी किंवा मार्गदर्शनासाठी चॅटबॉटवर विसंबून राहतात, तेव्हा गंभीर धोके निर्माण होतात:

• कायदेशीर कामकाज: वकिलांनी न्यायालयात सादर केलेल्या दस्तऐवजात जुन्या निकालांचे बनावट संदर्भ दिले आणि नंतर उघडकीस आले की संगणकाने न्यायाधीशांची नावे, निकाल क्रमांक आणि खटल्यांचा संपूर्ण इतिहास स्वतःच्या कल्पनेतून तयार केला होता.
• शिक्षण आणि संशोधन: विद्यार्थ्यांना अभ्यासासाठी सारांश हवे असतात आणि संगणक अस्तित्वात नसलेली वैज्ञानिक नियतकालिके आणि खऱ्या शास्त्रज्ञांच्या नावावर खोटे शोधनिबंध लिहून देतो.
• वैद्यकीय आणि आरोग्य सल्ले: संगणक खऱ्या आजारांच्या लक्षणांमध्ये औषधांचे काल्पनिक डोस मिसळून सांगू शकतो आणि अत्यंत शांत व खात्रीशीर आवाजात जीवघेणे सल्ले देऊ शकतो.

इंटरनेटवरून खरी माहिती तपासणे (सर्च ग्राउंडिंग) आणि कल्पनाशक्तीचे नियंत्रण

काल्पनिक उत्तरे रोखण्यासाठी संगणक तज्ज्ञ भाषिक प्रणालींना आधी थेट इंटरनेटवरून ताजी व खरी माहिती शोधून मगच उत्तर देण्याची सोय (सर्च ग्राउंडिंग किंवा RAG) जोडून अधिक विश्वासार्ह बनवतात. केवळ अंतर्गत माहितीवर अवलंबून राहण्याऐवजी, संगणक आधी इंटरनेट सर्च किंवा पडताळणी केलेल्या अधिकृत दस्तऐवजांचा शोध घेतो. तेथून खात्रीशीर माहिती गोळा करून ती विचारलेल्या मूळ प्रश्नात (प्रॉम्प्टमध्ये) जोडली जाते. त्यानंतर मॉडेल केवळ त्या अधिकृत माहितीचा वापर करून उत्तर तयार करते, ज्यामुळे भाषेचा ओघ खऱ्या संदर्भांशी घट्ट बांधला जातो.

याशिवाय संगणकाच्या कल्पकतेची आणि अनपेक्षित शब्दांच्या निवडीची पातळी (ज्याला तांत्रिक भाषेत टेम्परेचर किंवा Temperature म्हणतात) नियंत्रित केली जाते. जेव्हा टेम्परेचर शून्याच्या जवळ ठेवले जाते, तेव्हा संगणकाचा नियम प्रत्येक टप्प्यावर सर्वात सामान्य आणि सुरक्षित शब्दांची निवड करतो, ज्यामुळे उत्तर अचूक आणि सुसंगत राहते. जेव्हा टेम्परेचर वाढवले जाते, तेव्हा संगणक वेगळे आणि कल्पक शब्द वापरतो. कविता किंवा नव्या कल्पनांसाठी हे उपयुक्त ठरत असले, तरी यामुळे प्रणाली बहकण्याची आणि खोटी माहिती रचण्याची शक्यता वाढते.

स्पष्ट मर्यादा आणि सुरक्षित पडताळणीच्या सवयी

तुम्ही प्रश्न कसा विचारता यावरही मॉडेलची अचूकता अवलंबून असते. न पडताळलेल्या गृहीतकावर मोकळा प्रश्न विचारल्यास माहिती रचण्याचा दबाव येतो. याउलट, ‘या अधिकृत मजकुराचा सारांश सांगा आणि संदर्भ नसल्यास स्पष्ट नकार द्या’ अशी स्पष्ट मर्यादा घातल्यास चुकीच्या अंदाजांची जागा अचूकतेला मिळते. संगणक उपलब्ध नसलेली माहिती रचण्याऐवजी समोर दिलेल्या तथ्यांपुरताच मर्यादित राहतो.

नवीन मजकूर तयार करणाऱ्या बुद्धिमत्तेचा (जनरेटिव्ह एआय) वापर ईमेल मसुदा तयार करण्यासाठी किंवा भाषा सुधारण्यासाठी उत्तम असला, तरी महत्त्वाची तथ्ये, कायदे आणि आकडेवारी नेहमी मूळ अधिकृत कागदपत्रांतून स्वतः तपासावी. संगणकाने दिलेली माहिती खरी आहे का हे त्यालाच पुन्हा न विचारता नेहमी बाह्य व स्वतंत्र स्रोतांवरून पडताळून पाहणे हाच या भासापासून सुरक्षित राहण्याचा मार्ग आहे.