AI Nudify Apps: एआय न्यूडिफाय ॲप्समुळे गोपनीयतेचा गंभीर प्रश्न, हे तंत्रज्ञान कसे काम करते आणि ॲपल-गुगलची काय आहे भूमिका?
कृत्रिम बुद्धिमत्तेचा गैरवापर करून सामान्य फोटोंचे रूपांतर आक्षेपार्ह सामग्रीत करणाऱ्या 'न्यूडिफाय ॲप्स'चा धोका वाढत आहे. हे ॲप्स कसे कार्य करतात आणि ॲपल तसेच गुगल या तंत्रज्ञान कंपन्यांवर यांच्या नियंत्रणासाठी का दबाव येत आहे, याचा हा आढावा.
आर्टिफिशियल इंटेलिजन्स (AI) तंत्रज्ञानाच्या झपाट्याने होत असलेल्या विकासामुळे एका साध्या फोटोचे रूपांतर आक्षेपार्ह आणि बनावट अश्लील सामग्रीत करणे अतिशय सोपे झाले आहे. सध्या अशा प्रकारची 'न्यूडिफाय ॲप्स' मोठ्या प्रमाणात चर्चेत असून सायबर सुरक्षेच्या दृष्टीने ती गंभीर चिंतेचा विषय ठरत आहेत. ही ॲप्लिकेशन्स अत्याधुनिक अल्गोरिदमचा वापर करून व्यक्तींच्या कपड्यांमधील मूळ फोटोंमध्ये फेरबदल करतात आणि अवघ्या काही सेकंदांत बनावट छायाचित्रे तयार करतात. मुख्य ॲप स्टोअर्सवर अशा ॲप्सची सहज उपलब्धता आणि त्यावर कंपन्यांकडून होणारी कारवाई यावर आता जागतिक स्तरावर चर्चा सुरू झाली आहे.
हे ॲप्स प्रत्यक्षात कसे कार्य करतात?
या ॲप्लिकेशन्सची कार्यपद्धती अत्यंत साधी आणि वापरकर्त्यांसाठी सोपी ठेवण्यात आलेली असते. वापरकर्त्याला कोणत्याही तांत्रिक कौशल्याची गरज नसते. केवळ संबंधित फोटो अपलोड करून ज्या भागामध्ये बदल करायचा आहे तो भाग निवडायचा असतो आणि एक साधी टेक्स्ट कमांड द्यावी लागते.
अल्गोरिदम काही सेकंदांत त्या फोटोवर प्रक्रिया करतो आणि वास्तववादी वाटणारी आक्षेपार्ह प्रतिमा तयार करतो. यातील बहुतांश ॲप्सवर वयाची कोणतीही कठोर पडताळणी नसते. काही ॲप्स तर किशोरवयीन मुलांसाठी उपलब्ध असल्याचे दाखवले जात असल्याने अल्पवयीन मुलांपर्यंत यांची पोहोच सहज होत असल्याचे दिसून आले आहे.
ॲपल आणि गुगल यांची भूमिका व कारवाई
या प्रकारच्या ॲप्सची माहिती समोर आल्यानंतर ॲपल आणि गुगल या दोन्ही प्रमुख कंपन्यांनी आपल्या प्लॅटफॉर्मवरून नियमांचे उल्लंघन करणारे अनेक ॲप्स काढून टाकले आहेत.
ॲपलच्या धोरणानुसार, त्यांच्या ॲप स्टोअरवर लैंगिक किंवा आक्षेपार्ह सामग्री तयार करणाऱ्या साधनांना परवानगी नाही. तसेच डेव्हलपर्ससाठी अशा प्रकारच्या गैरवापरावर नियंत्रण ठेवणारी यंत्रणा असणे बंधनकारक आहे.
गुगलनेही स्पष्ट केले आहे की, त्यांच्या प्ले स्टोअरच्या नियमांनुसार लैंगिकदृष्ट्या अश्लील सामग्रीला पूर्णपणे बंदी आहे. नियमांचे उल्लंघन करणाऱ्या अशा शेकडो ॲप्सवर यापूर्वीच कारवाई करण्यात आली असून संशयास्पद ॲप्स शोधण्यासाठी सुरक्षा तपासण्या सातत्याने केल्या जातात.
कंपन्यांनी आक्षेप नोंदवल्यानंतर ॲप्स हटवले असले, तरी बालसुरक्षा आणि सायबर तज्ज्ञांच्या मते ही कारवाई पुरेशी नाही. सध्याची यंत्रणा केवळ तक्रार आल्यानंतर पावले उचलते, तर खरी गरज हे ॲप्स प्लॅटफॉर्मवर येण्यापूर्वीच रोखण्याची आहे.
ॲप स्टोअर्सनी कोणत्याही ॲपला परवानगी देण्यापूर्वी त्याची सखोल तपासणी केली पाहिजे, जेणेकरून त्या तंत्रज्ञानाचा प्रत्यक्ष वापर कशासाठी केला जाऊ शकतो हे स्पष्ट होईल.