एआयचा भास: संगणक पूर्ण आत्मविश्वासाने खोटी माहिती खरी म्हणून का सांगतो?

अस्खलित बोलणारा संगणक चुकीच्या गोष्टी का रचतो?

तुम्ही कधी चॅटबॉटला एखाद्या ऐतिहासिक युद्धाची तारीख, एखाद्या मराठी संतांचे दुर्मिळ चरित्र किंवा वैज्ञानिक संशोधनाचा संदर्भ विचारला आहे का? अनेकदा संगणक इतके सुंदर, प्रवाही आणि सुसंस्कृत उत्तर देतो की वाचणारा थक्क होतो. उत्तरात पुस्तकांची नावे असतात, लेखकांचे संदर्भ असतात आणि तारीखही दिलेली असते. पण जेव्हा तुम्ही ते पुस्तक बाजारात किंवा ग्रंथालयात शोधायला जाता, तेव्हा धक्का बसतो: तसे कोणतेही पुस्तक जगात कधी लिहिलेच गेलेले नसते! संगणकाने ते सर्व काही स्वतःच्या कल्पनेतून तयार केलेले असते.

या प्रकाराला तंत्रज्ञानाच्या भाषेत एआयचा भास किंवा भ्रम म्हणतात. संगणक कोणतीही खोटी माहिती मुद्दाम सांगत नाही. त्याच्याकडे खरे काय आणि खोटे काय हे समजण्याची स्वतःची बुद्धी नसते; तो फक्त शब्दांची सुंदर रचना करण्यात पटाईत असतो.

गावातील मनमोकळा कथाकार आणि गहाळ झालेले पान

हे समजून घेण्यासाठी गावातील एका सुरस कथाकाराची कल्पना करा. या कथाकाराने बालपणापासून हजारो लोककथा, पुराणे आणि राजांच्या गोष्टी ऐकल्या आहेत. तो जेव्हा चावडीवर किंवा देवळाच्या ओट्यावर कथा सांगायला बसतो, तेव्हा शेकडो लोक मंत्रमुग्ध होऊन ऐकतात. पण समजा, एका मोठ्या ग्रंथातील मधले एक पान फाटलेले आहे आणि राजाच्या युद्धानंतर काय घडले हे कोणालाच ठाऊक नाही.

आता तो कथाकार श्रोत्यांसमोर थांबून 'मला आठवत नाही' असे कधीच म्हणत नाही. त्याची कल्पनाशक्ती इतकी समृद्ध असते की तो त्याच ओघात, त्याच भारदस्त आवाजात आणि जुन्या म्हणींचा वापर करून स्वतःच एक प्रसंग रचून सांगतो. श्रोत्यांना वाटते की ग्रंथात नेमके हेच लिहिले असावे, कारण सांगणाऱ्याच्या चेहऱ्यावर जराही संकोच नसतो. कथाकाराला फक्त गोष्ट पुढे न्यायची असते, सत्याची चिंता नसते.

संगणकीय भाषा मॉडेल्स नेमकी याच चतुर कथाकारासारखी वागतात. जेव्हा तुम्ही त्यांना प्रश्न विचारता, तेव्हा ते कोणत्या शब्दानंतर कोणता शब्द अधिक योग्य आणि भारदस्त वाटेल याचे गणित मांडतात. जिथे त्यांच्याकडे खरी माहिती नसते, तिथे ती पोकळी भरून काढण्यासाठी ते स्वतःच काल्पनिक नावे आणि प्रसंग तयार करतात.

दैनंदिन व्यवहारात एआयच्या भासाचा कुठे फटका बसतो?

संगणकाची भाषा अत्यंत विश्वासार्ह वाटत असल्यामुळे, अनेक क्षेत्रांमध्ये लोक कसलीही पडताळणी न करता त्यावर विसंबून राहतात आणि अडचणीत येतात:

• विद्यार्थ्यांचा अभ्यास आणि गृहपाठ: शालेय किंवा महाविद्यालयीन विद्यार्थी निबंधासाठी संदर्भ विचारतात आणि संगणक काल्पनिक शास्त्रज्ञ किंवा न घडलेल्या घटना लिहून देतो.
• कायदेशीर आणि कार्यालयीन दस्तऐवज: वकिलांनी किंवा अधिकाऱ्यांनी संगणकाकडून कायद्याचे संदर्भ घेतले आणि नंतर न्यायालयात उघडकीस आले की तसे कोणतेही जुने निकाल अस्तित्वातच नव्हते.
• औषधे आणि आरोग्याविषयीचे सल्ले: घरगुती उपायांची माहिती घेताना संगणक अनेकदा धोकादायक घटकांचे प्रमाण अगदी योग्य असल्याचे भासवून सांगतो.
• बातम्यांचे संक्षेपीकरण: एखाद्या मोठ्या लेखाचा गोषवारा करताना संगणक काही वेळा स्वतःचेच काल्पनिक निष्कर्ष त्यात जोडून देतो.

चुकांपासून सावध राहण्याचे उपाय आणि वस्तुस्थिती तपासणे

कृत्रिम बुद्धिमत्ता ही कल्पना सुचवण्यासाठी, मजकूर सुधारण्यासाठी आणि भाषांतर करण्यासाठी अप्रतिम साधन आहे, पण तिचा वापर संदर्भ ग्रंथ म्हणून करताना खबरदारी घेतली पाहिजे.

• तारखा, आकडेवारी आणि कायद्याचे संदर्भ नेहमी तपासा: संगणकाने दिलेल्या कोणत्याही आकडेवारीवर डोळे झाकून विश्वास ठेवू नका; अधिकृत सरकारी संकेतस्थळावर जाऊन खात्री करा.
• माहितीचा मूळ स्त्रोत कोणता आहे ते विचारा: संभाषणात 'या माहितीचा अधिकृत स्त्रोत कोणता?' असा प्रश्न विचारल्यास संगणक स्वतःच्या मर्यादा उघड करतो.
• संगणकाचा वापर लेखनाची भाषा सुधारण्यासाठी करा, माहितीचा पुरावा म्हणून नाही: विचार मांडण्याची शैली शिकण्यासाठी एआय उत्तम आहे, पण तथ्यांचा अंतिम निर्णय नेहमी मानवी बुद्धीनेच घ्यावा.

आत्मविश्वासाने बोलणे म्हणजे सत्य बोलणे नव्हे. संगणक हा केवळ शब्दांची आकर्षक मांडणी करणारा मदतनीस आहे हे ध्यानात ठेवल्यास आपण त्याच्या भासाला न भुलता त्याचा योग्य आणि सुरक्षित वापर करू शकतो.