न्यूयॉर्क : संयुक्त राष्ट्रांच्या(यूएन) एका नवीन अहवालात असे म्हटले आहे की, मानवामध्ये असलेले लैंगिक आणि वाशिंक पूर्वग्रह हे आता एआय देखील शिकत आहे. पारंपरिक पद्धतीने स्त्री ही चूल आणि मूल यामध्येच अडकलेली होती. अजूनही ब-याच भागात स्त्रीला अशाच रुपात पाहिले जाते. त्यामुळे तशा प्रकाचे विचार फोटो, व्हीडीओ, ऑडिओ आणि टेक्स्टच्या रुपात एआयपर्यंत पोहोचत आहेत. याचाच परिणाम आता एआयच्या उत्तरांमध्ये दिसू लागला आहे.
यासाठी संशोधकांनी १३३ एआय प्रणालींचा अभ्यास केला आणि त्यापैकी जवळपास अर्ध्या (४४ टक्के) प्रणालींमध्ये लैंगिक पूर्वग्रह दिसून आला, तर एक चतुर्थांशपेक्षा जास्त प्रणालींमध्ये लैंगिक आणि वांशिक दोन्ही पूर्वग्रह आढळून आले. ‘काही प्रकरणांमध्ये, एआय प्रणालींनी महिलांना लैंगिक वस्तू म्हणून किंवा पुरुषांच्या दुय्यम स्थानावर दाखवणारी उत्तरे तयार केली आहेत असे या अहवालात म्हटले आहे. या अहवालाच्या मते, ‘संशोधकांनी लार्ज लँग्वेज मॉडेल्सना स्त्री-पुरुषांच्या संदर्भातील एखादे वाक्य सहज पूर्ण करण्यास सांगितले, तेव्हा पाचपैकी सुमारे एक उत्तर महिलांविषयी पूर्वग्रह दूषित किंवा महिलांचा द्वेष करणारे आले’.
या संशोधन अहवालानुसार, काही उत्तरांमध्ये तर महिलांचे वर्णन प्रॉपर्टी (मालमत्ता) किंवा वस्तू म्हणून करण्यात आले होते. युएनच्या संशोधन अहवालाने निदर्शनास आणून दिले की, अब्जावधी लोकांकडून ईमेल लिहिण्यासाठी, प्रेझेंटेशन्स बनवण्यासाठी, कंटेंन्ट तयार करण्यासाठी आणि प्रश्नांची उत्तरे मिळवण्यासाठी एआयचा वापर जसजसा वाढत आहे, तसतशी ही असमानता देखील भेदभावावर आधारित अल्गोरिदमद्वारे अधिक घट्ट होत चालली आहे. यूएन संशोधकांच्या मते, हा कोणताही तांत्रिक बिघाड (बग) नाही तर, एआय इंटरनेटवरून हे सगळे शिकते आहे. इंटरनेटवर दशकांपासूनचे पूर्वग्रह, भेदभावाची भावना आणि रूढीवादी विचार भरलेले आहेत. त्यामुळे एआय जेव्हा मानवी इतिहासाच्या आधारे प्रशिक्षित होते तेव्हा, शेवटी ते मानवी पूर्वग्रहांचीच पुनरावृत्ती करू लागते.
महिला आधीच संकटात
यूएनच्या डिजिटल टेक्नॉलॉजी विभागाच्या प्रमुख जयथ्मा विक्रमनायके यांनी सांगितले की, एआय मॉडेल्स लोकांनी, लोकांबद्दल दशकांपासून लिहिलेल्या मजकुरातून हा पूर्वग्रह शिकतात. इंटरनेटवर अशी बरीच माहिती आहे. ज्यामध्ये महिलांचे जीवन चूल आणि मूल क्षेत्राशी म्हणजे केवळ घरगुती गोष्टींशी जोडले आहे तर, पुरुषांचे जीवन हे नोकरी, व्यवसाय व करिअरशी जोडलेले आहे. महिलांना आधीच मोठ्या प्रमाणावर छळाचा सामना करावा लागत आहे. त्यातच एआयमुळे हिंसाचाराचे काही प्रकार पसरवणे अधिक सोपे होत असल्याचे या अहवालात म्हटले आहे.
डीपफेक सर्वांत घातक
यूएन विमेन विभागाच्या डेटाचा विचार केला तर, सर्वेक्षण केलेल्या महिला मानवाधिकार कार्यकर्त्या, आंदोलक आणि महिला पत्रकारांपैकी जवळपास चारपैकी एका महिलेने एआय-सहाय्यित ऑनलाईन हिंसाचाराचा अनुभव घेतल्याचे सांगितले आहे. तर १२ टक्के महिलांनी सांगितले की, त्यांच्या संमतीशिवाय त्यांचे वैयक्तिक फोटो शेअर केले गेले. ६ टक्के महिलांनी सांगितले की, त्यांना डीपफेक किंवा छेडछाड केलेले फोटो आणि व्हीडीओंद्वारे लक्ष्य करण्यात आले. संशोधकांना अनेक प्रणालींमध्ये वांशिक पूर्वग्रह देखील आढळून आला आहे. ज्यामुळे एआय केवळ महिलांबद्दलच नाही तर, समाजातील इतर अनेक घटकांबद्दलही पूर्वग्रह तयार करत आहे. विशिष्ट समाजांविषयी त्याचे मत अधिक घट्ट होण्याची शक्यता आहे अशी चिंता संशोधकांनी व्यक्त केली आहे.
