आज आपण एका अशा युगात जगत आहोत, जिथे आर्टिफिशियल इंटेलिजन्स (Artificial Intelligence - AI) म्हणजेच कृत्रिम बुद्धिमत्ता आपल्या जीवनाचा एक अविभाज्य भाग बनत चालली आहे. स्मार्टफोनच्या व्हॉईस असिस्टंटपासून ते अगदी वैद्यकीय निदानापर्यंत, एआयची व्याप्ती दिवसेंदिवस वाढत आहे. एआयला एक तटस्थ आणि अचूक निर्णय घेणारी प्रणाली म्हणून पाहिले जाते, कारण ती मानवासारख्या भावना आणि पूर्वग्रहांनी बाधित होत नाही, असा एक सर्वसामान्य समज आहे. पण हा समज पूर्णपणे खरा आहे का? उत्तर आहे, नाही. एआय प्रणाली सुद्धा पक्षपाती (Biased) असू शकते आणि तिचे परिणाम गंभीर असू शकतात. हा पक्षपात नेमका काय आहे, तो एआयमध्ये कसा येतो आणि त्याचे आपल्या समाजावर काय परिणाम होतात, हे समजून घेणे अत्यंत महत्त्वाचे आहे.
आर्टिफिशियल इंटेलिजन्स म्हणजे काय?
सोप्या भाषेत सांगायचे झाल्यास, आर्टिफिशियल इंटेलिजन्स म्हणजे मशीनला (संगणक प्रणालीला) मानवाप्रमाणे विचार करण्याची, शिकण्याची आणि निर्णय घेण्याची क्षमता देणे. हे साध्य करण्यासाठी, एआय प्रणालीला प्रचंड प्रमाणात डेटा (माहिती) दिला जातो. या डेटाचे विश्लेषण करून आणि त्यातील नमुने (Patterns) ओळखून, एआय शिकते आणि भविष्यातील निर्णय घेण्यास सक्षम होते. उदा. हजारो मांजरींचे फोटो दाखवून एआयला 'मांजर' ओळखायला शिकवले जाते.
एआय मधील पक्षपात (AI Bias) म्हणजे काय?
एआय प्रणाली जेव्हा विशिष्ट गट, व्यक्ती किंवा विचारांच्या बाजूने किंवा विरोधात पद्धतशीरपणे चुकीचे किंवा अन्यायकारक निर्णय देते, तेव्हा त्याला 'एआय मधील पक्षपात' असे म्हणतात.
महत्त्वाची गोष्ट ही आहे की एआय स्वतःहून पक्षपाती बनत नाही. तो एक आरसा आहे. आपण त्याला जो डेटा दाखवतो, जे नियम शिकवतो, तो त्याचेच प्रतिबिंब दाखवतो. जर आपण त्याला पक्षपाती माहिती दिली, तर त्याचे निर्णयही पक्षपातीच असणार. कल्पना करा की, एका लहान मुलाला आपण केवळ पांढऱ्या रंगाच्या लोकांबद्दलच चांगली माहिती दिली आणि इतर वर्णाच्या लोकांबद्दल नकारात्मक गोष्टी सांगितल्या, तर ते मूल मोठे झाल्यावर नकळतपणे वर्णद्वेषी विचारसरणीचे बनेल. एआयचेही अगदी तसेच आहे.
एआय प्रणालीमध्ये पक्षपात कसा निर्माण होतो?
एआयमध्ये पक्षपात अनेक मार्गांनी येऊ शकतो, त्यातील काही प्रमुख कारणे खालीलप्रमाणे आहेत:
१. डेटामधील पक्षपात (Data Bias):
हे पक्षपाताचे सर्वात मोठे आणि सामान्य कारण आहे. एआय ज्या डेटावर शिकतो, तो डेटाच जर सदोष किंवा पक्षपाती असेल, तर एआयदेखील पक्षपाती बनतो. याचे काही प्रकार आहेत:
२. ऐतिहासिक पक्षपात (Historical Bias): आपला समाज आणि इतिहास अनेक प्रकारच्या विषमतेने आणि पूर्वग्रहांनी भरलेला आहे. उदा. पूर्वीच्या काळात अनेक मोठ्या पदांवर पुरुषांचीच नियुक्ती केली जात असे. आता जर आपण नोकरीसाठी उमेदवार निवडणाऱ्या एआयला गेल्या २०-३० वर्षांचा डेटा दिला, तर तो 'मोठ्या पदासाठी पुरुष उमेदवारच अधिक योग्य असतो' असा चुकीचा निष्कर्ष काढू शकतो आणि महिला उमेदवारांना डावलू शकतो. ॲमेझॉन कंपनीसोबत नेमके हेच घडले होते, ज्यामुळे त्यांना आपली एआय-आधारित भरती प्रणाली बंद करावी लागली.
३. नमुना पक्षपात (Sampling Bias): जेव्हा एआयला शिकवण्यासाठी वापरलेला डेटा संपूर्ण लोकसंख्येचे योग्य प्रतिनिधित्व करत नाही, तेव्हा हा पक्षपात निर्माण होतो. उदा. चेहऱ्याची ओळख पटवणाऱ्या (Facial Recognition) प्रणालीला जर केवळ गोऱ्या वर्णाच्या लोकांचे लाखो फोटो दाखवून प्रशिक्षित केले असेल, तर ती प्रणाली कृष्णवर्णीय किंवा इतर वर्णाच्या लोकांचे चेहरे ओळखण्यात अपयशी ठरू शकते किंवा चुकीची ओळख पटवू शकते.
४. मापन पक्षपात (Measurement Bias): डेटा गोळा करण्याची किंवा मोजण्याची पद्धतच सदोष असेल, तर पक्षपात निर्माण होतो. उदा. गुन्हेगारीचा अंदाज वर्तवणाऱ्या एआय प्रणालीसाठी जर 'पोलिसांनी अटक केलेल्या लोकांची संख्या' हा निकष लावला, तर तो पक्षपाती ठरू शकतो. कारण पोलिसांकडून विशिष्ट वस्ती किंवा गटातील लोकांवर अधिक लक्ष ठेवले जाण्याची शक्यता असते, ज्यामुळे तिथे अटकेचे प्रमाण जास्त दिसते. याचा अर्थ असा नाही की तिथे गुन्हेगारी जास्त आहे, तर तिथे पोलिसांची नजर जास्त आहे.
५. अल्गोरिदममधील पक्षपात (Algorithmic Bias):
कधीकधी एआयचा मूळ प्रोग्राम (अल्गोरिदम) लिहिताना किंवा डिझाइन करताना नकळतपणे मानवी पूर्वग्रह त्यात समाविष्ट होतात. डेव्हलपर कोणत्या गोष्टीला महत्त्व देतो, यावर अल्गोरिदमचे वर्तन अवलंबून असते. तो नफा, अचूकता की निष्पक्षता यापैकी कशाला प्राधान्य देतो, यावर एआयचे निर्णय बदलू शकतात.
पक्षपाती एआयचे वास्तविक जीवनातील परिणाम
एआयमधील पक्षपाताचे परिणाम केवळ तांत्रिक नसून ते सामाजिक आणि आर्थिक विषमतेला अधिक खतपाणी घालू शकतात.
- नोकरी आणि भरती: पक्षपाती एआयमुळे पात्र महिला किंवा विशिष्ट सामाजिक गटातील उमेदवारांना नोकरीची संधी नाकारली जाऊ शकते.
- कर्ज आणि आर्थिक सेवा: बँकेची एआय प्रणाली जर विशिष्ट पिन कोड किंवा वस्तीतील लोकांना 'धोकादायक' मानत असेल, तर तिथल्या रहिवाशांना कर्ज मिळणे कठीण होऊ शकते, जरी त्यांची आर्थिक पत चांगली असली तरी.
- न्यायव्यवस्था: अमेरिकेत वापरल्या जाणाऱ्या COMPAS नावाच्या एआय प्रणालीवर असा आरोप आहे की, ती कृष्णवर्णीय आरोपी भविष्यात पुन्हा गुन्हा करण्याची शक्यता गोऱ्या आरोपींपेक्षा दुप्पट दाखवते, जे वर्णद्वेषी पक्षपाताचे उदाहरण आहे.
- वैद्यकीय निदान: जर वैद्यकीय एआयला प्रामुख्याने पुरुष रुग्णांच्या डेटावर प्रशिक्षित केले असेल, तर महिलांमध्ये हृदयविकारासारख्या आजारांची वेगळी लक्षणे ओळखण्यात तो कमी पडू शकतो.
- सोशल मीडिया आणि माहिती: आपण सोशल मीडियावर काय पाहतो, हे देखील एआय ठरवते. जर अल्गोरिदमने आपल्याला विशिष्ट प्रकारच्या विचारांच्या पोस्ट दाखवायला सुरुवात केली, तर आपण हळूहळू एका 'इको चेंबर' (Echo Chamber) मध्ये अडकतो, जिथे आपल्याला वेगळे विचार ऐकायलाच मिळत नाहीत. यातून समाजात ध्रुवीकरण वाढते.
भारतीय संदर्भात एआय आणि पक्षपात
भारतासारख्या प्रचंड विविधता असलेल्या देशात एआयमधील पक्षपाताचे धोके अधिक गंभीर आहेत. आपल्याकडे भाषा, धर्म, जात, लिंग, प्रांत आणि आर्थिक स्थिती यावर आधारित विषमता आधीच अस्तित्वात आहे.
- भाषिक विविधता: भारतात शेकडो भाषा आणि बोली आहेत. जर एआय प्रणाली केवळ हिंदी किंवा इंग्रजी भाषेत प्रशिक्षित असेल, तर इतर प्रादेशिक भाषा बोलणाऱ्या मोठ्या लोकसंख्येला ती सेवा उपलब्ध होणार नाही किंवा चुकीची माहिती मिळेल.
- जातिव्यवस्था: नोकरी, कर्ज किंवा इतर सेवांसाठी वापरल्या जाणाऱ्या एआयने जर आडनावांवरून किंवा पत्त्यावरून जातीचा अंदाज बांधून निर्णय देण्यास सुरुवात केली, तर ते सामाजिक न्यायाच्या विरोधात असेल.
- शहरी-ग्रामीण दरी: जर बहुतेक डेटा शहरी भागातून गोळा केला असेल, तर ग्रामीण भागातील लोकांच्या गरजा, सवयी आणि समस्या एआयच्या आकलनाबाहेर राहतील, ज्यामुळे त्यांच्यासाठी बनवलेल्या योजना किंवा सेवा कुचकामी ठरतील.
या समस्येवर उपाय काय?
एआयमधील पक्षपात ही एक गंभीर समस्या आहे, पण त्यावर मात करणे अशक्य नाही. यासाठी एकत्रित प्रयत्नांची गरज आहे.
- विविध आणि प्रातिनिधिक डेटा (Diverse and Representative Data): एआयला प्रशिक्षण देण्यासाठी वापरला जाणारा डेटा हा समाज्याच्या सर्व स्तरांचे (लिंग, वंश, जात, वय, भाषा, प्रांत इ.) योग्य प्रतिनिधित्व करणारा असावा.
- पारदर्शकता आणि स्पष्टीकरण (Transparency and Explainability - XAI): एआय प्रणालीने एखादा निर्णय का घेतला, याचे स्पष्टीकरण मिळायला हवे. यालाच 'Explainable AI' म्हणतात. यामुळे निर्णयामागील पक्षपात ओळखणे सोपे होते.
- नियमित तपासणी आणि ऑडिट (Regular Auditing): एआय प्रणालीची नियमितपणे तपासणी करून ती पक्षपाती निर्णय देत नाही ना, हे पाहणे आवश्यक आहे.
- विविधतापूर्ण डेव्हलपर टीम (Diverse Teams): एआय बनवणाऱ्या टीममध्ये विविध सामाजिक पार्श्वभूमीच्या लोकांचा (महिला, विविध जाती-धर्माचे लोक) समावेश असावा, जेणेकरून नकळतपणे येणारे पूर्वग्रह टाळता येतील.
- नैतिक आणि कायदेशीर चौकट (Ethical and Legal Frameworks): सरकारने आणि उद्योगांनी मिळून एआयच्या वापरासाठी नैतिक मार्गदर्शक तत्त्वे आणि कायदेशीर नियम तयार केले पाहिजेत, जेणेकरून कंपन्यांना जबाबदार धरता येईल.
निष्कर्ष
आर्टिफिशियल इंटेलिजन्स हे एक अत्यंत शक्तिशाली तंत्रज्ञान आहे, जे मानवाच्या प्रगतीला मोठी चालना देऊ शकते. मात्र, ते एक दुधारी शस्त्र आहे. जर आपण सावधगिरी बाळगली नाही, तर ते समाजातील अस्तित्वात असलेली विषमता आणि अन्याय अधिक घट्ट करू शकते.
एआय हा स्वतःहून चांगला किंवा वाईट नसतो; तो आपल्या समाजाचा आणि आपल्या विचारांचा आरसा आहे. जर आपल्याला निष्पक्ष आणि न्यायपूर्ण एआय हवा असेल, तर आधी आपल्याला आपल्या समाजातील आणि आपल्या डेटामधील पक्षपात दूर करावा लागेल. एआय तयार करणे ही केवळ तांत्रिक जबाबदारी नसून, ती एक सामाजिक आणि नैतिक जबाबदारी आहे, हे आपण सर्वांनी लक्षात ठेवले पाहिजे. कारण एका न्यायपूर्ण भविष्याची निर्मिती ही मानवाच्या आणि मशीनच्या एकत्रित आणि जबाबदार प्रयत्नांवरच अवलंबून आहे.
(आधारित)
-- तुषार भ. कुटे
