वाचनासाठी 3 मिनिटे
अल्गोरिदमिक पक्षपात: गणिताचे नियम मानवी भेदभावाची पुनरावृत्ती का करतात?
३० सेकंदांत अर्थ
अल्गोरिदमिक पक्षपात ही संगणकीय प्रणालीतील अशी पद्धतशीर त्रुटी आहे, ज्यामध्ये अल्गोरिदम विशिष्ट व्यक्ती किंवा समूहांना पद्धतशीरपणे कमी लेखतो किंवा त्यांच्याविरुद्ध अन्यायकारक निकाल देतो. संगणक स्वतः द्वेष करत नाही, परंतु मानवी इतिहासातील पूर्वग्रहयुक्त आकडेवारीचा अभ्यास केल्यामुळे तो तीच जुनी विषमता आधुनिक गणिताच्या नावाखाली पुढे चालू ठेवतो.
संगणकाचे आकडे नेहमीच निष्पक्ष आणि न्याय्य असतात का?
आपल्या मनात एक पक्का विश्वास असतो: माणूस चुका करू शकतो, माणसाला राग किंवा लोभ असू शकतो, पण संगणक केवळ गणितावर चालतो, त्यामुळे तो कधीही पक्षपात करू शकत नाही. पण कल्पना करा, एका मोठ्या नामांकित कंपनीत नोकरीसाठी हजारो अर्ज आले आहेत. कंपनीने अर्जांची छाननी करण्यासाठी एक अत्याधुनिक कृत्रिम बुद्धिमत्ता प्रणाली बसवली. काही महिन्यांनी लक्षात आले की संगणकाने एका विशिष्ट जातीच्या, विशिष्ट भागातील किंवा महिला उमेदवारांचे अर्ज सरसकट नाकारून केवळ पुरुषांचेच अर्ज निवडले आहेत! गणिताच्या सूत्रात हा अन्याय कसा काय शिरला?
या समस्येला अल्गोरिदमिक बायस म्हणजेच अल्गोरिदमिक पक्षपात म्हणतात. संगणक हा आरशासारखा असतो; मानवी समाजाने भूतकाळात जे काही केले आहे, तेच तो आपल्यासमोर नव्या रूपात मांडतो.
जुन्या नोंदींवरून भरती करणारी जुनी निवड समिती
हे समजून घेण्यासाठी एका जुन्या संस्थेतील नोकरभरती समितीची कल्पना करा. संस्थेचे अध्यक्ष नव्या तरुण अधिकाऱ्याला सांगतात, 'गेल्या पन्नास वर्षांत आमच्या कारखान्यात ज्या सर्वोत्तम व्यवस्थापकांनी काम केले, त्यांची सर्व जुनी हजेरी पुस्तके आणि नोंदी वाचून काढ आणि तशाच हुशार माणसांची यंदा निवड कर.' तरुण अधिकारी उत्साहाने पन्नास वर्षांच्या जुन्या फायली चाळायला बसतो.
त्या जुन्या काळात सामाजिक परिस्थिती अशी होती की व्यवस्थापक पदावर केवळ एकाच विशिष्ट उच्चभ्रू वर्गातील पुरुषांनाच संधी मिळाली होती, महिलांना घराबाहेर पडू दिले जात नव्हते. तरुण अधिकारी त्या जुन्या नोंदींचा अभ्यास करून एक नियम बनवतो: 'उत्कृष्ट व्यवस्थापक होण्यासाठी ठराविक भागातील पुरुष असणे अनिवार्य आहे!' आता जेव्हा आजच्या काळातील एक अत्यंत हुशार, कर्तृत्ववान महिला मुलाखतीसाठी अर्ज करते, तेव्हा तो अधिकारी तिचा अर्ज बाजूला सारतो. तो मुद्दाम द्वेष करत नाही, पण त्याच्या हातात दिलेली जुनी माहितीच एकांगी होती.
संगणकाची कृत्रिम बुद्धिमत्ता नेमकी याच तरुण अधिकाऱ्यासारखी असते. तिला शिकवण्यासाठी आपण इंटरनेटवरील जी कोट्यवधी जुनी पुस्तके आणि आकडेवारी पुरवतो, त्यामध्ये माणसांचा जुना इतिहास, वर्णद्वेष आणि लैंगिक पूर्वग्रह सामावलेले असतात. संगणक तेच खरे मानून भविष्यातील निर्णयांवर शिक्कामोर्तब करतो.
अल्गोरिदमिक पक्षपाताचा फटका कुठे कुठे बसू शकतो?
जीवनाच्या अनेक संवेदनशील क्षेत्रांमध्ये हा अदृश्य पक्षपात लोकांचे हक्क हिरावून घेऊ शकतो:
- नोकरीसाठी अर्जांची स्वयंचलित छाननी: महिलांच्या किंवा ग्रामीण भागातील विद्यार्थ्यांच्या अर्जांना संगणक कमी गुण देऊन मुलाखतीपूर्वीच बाद करतो.
- बँकेचे कर्ज आणि क्रेडिट स्कोअर: विशिष्ट पिनकोड किंवा वस्तीमध्ये राहणाऱ्या प्रामाणिक कष्टकरी लोकांना संगणक परस्पर जास्त जोखमीचे ठरवून कर्ज नाकारतो.
- चेहरा ओळख आणि पोलीस तपास: गडद रंगाच्या त्वचेच्या लोकांचे चेहरे ओळखण्यात संगणक जास्त चुका करतो, ज्यामुळे निरपराध व्यक्ती संशयाच्या भोवऱ्यात अडकतात.
- आरोग्य विम्याचे दावे आणि उपचार प्राधान्य: श्रीमंत वर्गाच्या खर्चाचा जुना डेटा पाहून गरीब रुग्णांना उपचारांची कमी गरज असल्याचा चुकीचा निष्कर्ष काढला जातो.
पक्षपात रोखण्यासाठी काय पावले उचलली पाहिजेत?
संगणकाचे निर्णय अंतिम मानण्याऐवजी मानवी विवेक आणि न्यायाची चाळणी लावणे अत्यंत गरजेचे आहे.
- संगणकाला शिकवण्यासाठी सर्वसमावेशक डेटा वापरा: प्रणालीमध्ये सर्व जाती, धर्म, भाषा आणि महिलांचे योग्य प्रतिनिधित्व असणारा संतुलित डेटा वापरला गेला पाहिजे.
- स्वयंचलित निकालांचे नियमित स्वतंत्र ऑडिट करा: संगणकाच्या निर्णयांमध्ये कोणत्याही घटकावर पद्धतशीर अन्याय होत नाही ना याची तज्ज्ञांकडून तपासणी व्हावी.
- अंतिम संवेदनशील निर्णयांमध्ये मानवी हस्तक्षेपाचा अधिकार ठेवा: नोकरी, कर्ज किंवा न्यायालयात संगणकाच्या शिफारशीवर माणसाने स्वतःचा विचार करून अंतिम निर्णय दिला पाहिजे.
तंत्रज्ञान तेव्हाच प्रगत मानले जाऊ शकते जेव्हा ते प्रत्येकाला समानतेने आणि आदराने वागवते. गणिताच्या पडद्यामागे लपलेला पूर्वग्रह दूर करून न्याय्य समाज घडवणे ही मानवाची सर्वात मोठी जबाबदारी आहे.