AI मुळे महिलांच्या सुरक्षिततेला धोका? तज्ज्ञांचा गंभीर इशारा

"द गार्डियन" वृत्तपत्रात नुकत्याच प्रसिद्ध झालेल्या एका रिपोर्टनुसार, 'आर्टिफिशियल इंटेलिजन्स'च्या माध्यमातून महिलांना त्रास देण्याचे प्रकार वेगाने वाढत आहेत. एलॉन मस्क यांच्या 'ग्रोक' एआयने अलीकडेच आक्षेपार्ह फोटो रोखण्यासाठी काही सुरक्षा नियम आणले असले तरी, तज्ज्ञांच्या मते ही समस्या आता हाताबाहेर जात आहे.
टेक्नॉलॉजीच्या जगात एआयने क्रांती घडवली आहे, पण त्याचा एक काळा चेहराही समोर येत आहे. अनेक युजर्स आता एआयचा वापर करून महिलांचे आक्षेपार्ह आणि अश्लील फोटो (Deepfake Nudes) तयार करत आहेत. रेडिट (Reddit) सारख्या प्लॅटफॉर्मवर काही युजर्स उघडपणे चर्चा करत आहेत की, एआयमुळे आता त्यांना "सामान्य पॉर्न" बघण्यात रस उरला नाही, कारण एआय त्यांना हव्या त्या व्यक्तीचे फोटो तयार करून देतो.
'ग्रोक' एआयने अशा फोटोंवर बंदी घालण्यासाठी काही "सेफगार्ड्स" (सुरक्षा उपाय) आणले आहेत. पण इंटरनेटवरील युजर्सनी त्यावरही पळवाटा शोधल्या आहेत. उदाहरणार्थ, जर एआयला थेट "नग्न फोटो" मागितले तर ते नकार देते, पण "आर्टिस्टिक न्युडिटी" (कलात्मक नग्नता) असे शब्द वापरून लोक हवे तसे फोटो बनवून घेत आहेत.
दुसरीकडे, 'क्लॉड' (Claude) सारखे काही एआय टूल्स अतिशय कडक आहेत. त्यांना जर एखाद्या महिलेच्या फोटोतील कपडे काढण्यास सांगितले, तर ते स्पष्ट नकार देतात. मात्र, चॅटजीपीटी आणि गुगल जेमिनी काही प्रमाणात 'बिकिनी' फोटो तयार करू शकतात, पण जास्त अश्लील फोटो बनवत नाहीत.
केवळ 'ग्रोक' नाही, तर इंटरनेटवर अशा शेकडो वेबसाईट आणि ॲप्स आहेत, ज्यांचे कामच मुळात महिलांचे कपडे डिजिटल पद्धतीने काढून (Nudification) अश्लील फोटो बनवणे हे आहे. धक्कादायक बाब म्हणजे, मे २०२५ मध्ये अशा साईट्सवर २ कोटींहून अधिक लोकांनी भेट दिली होती. इतकेच नाही तर ॲपल आणि गुगलच्या ॲप स्टोअर्सवरही अशी ॲप्स उपलब्ध आहेत.
'इन्स्टिट्यूट फॉर स्ट्रॅटेजिक डायलॉग'च्या संशोधिका ॲन क्रॅनन यांच्या मते, हे केवळ अश्लीलतेपुरते मर्यादित नाही. याचा मुख्य उद्देश महिलांना अपमानित करणे आणि त्यांना गप्प करणे हा आहे. ब्रिटनमधील खासदार जेस असाटो यांनी स्वतः याचा अनुभव घेतला आहे. त्यांनी या विरोधात आवाज उठवल्यामुळे, त्यांना लक्ष्य करण्यासाठी एआयचा वापर करून त्यांचे आक्षेपार्ह फोटो सोशल मीडियावर पसरवण्यात आले.
डरहम युनिव्हर्सिटीच्या प्राध्यापिका क्लेअर मॅकग्लिन म्हणतात, "महिलांना एआय हे एक नवीन तंत्रज्ञान वाटण्याऐवजी, आता छळाचे एक नवीन साधन वाटू लागले आहे. यामुळे महिला ऑनलाईन जगापासून दूर जाण्याची भीती आहे."
थोडक्यात, एआयचे तंत्रज्ञान जसे प्रगत होत आहे, तसे त्याचा गैरवापर करून महिलांना लक्ष्य करण्याचे प्रकारही वाढत आहेत. यावर कडक निर्बंध नसतील, तर ही फक्त संकटाची सुरुवात असू शकते.

--- तुषार भ. कुटे