वाचनासाठी 2 मिनिटे

एआयद्वारे अनैतिक संबंधांचे खोटे पुरावे: व्हॉईस क्लोन आणि बनावट चॅटद्वारे होणारी फसवणूक

प्रकाशित अद्ययावत

३० सेकंदांत अर्थ

एआय खोटे पुरावे म्हणजे जोडीदाराला बदनाम करण्यासाठी किंवा पैसे उकळण्यासाठी एआयच्या साहाय्याने तयार केलेले बनावट ऑडिओ आणि संदेश.

अनोळखी क्रमांकावरून आलेला तो एक धक्कादायक ऑडिओ

तुमच्या मोबाईलवर एका अनोळखी क्रमांकावरून अचानक एक व्हॉट्सॲप मेसेज येतो. मेसेजमध्ये एक ऑडिओ क्लिप असते, ज्यात तुमच्या जोडीदाराचा आवाज दुसऱ्याच कोणाशी तरी अत्यंत खाजगी आणि प्रेमळ संवाद साधताना ऐकू येतो. सोबत काही स्क्रोल केलेले चॅट्सचे स्क्रीनशॉट्स असतात, ज्यात अश्लील संभाषण दिसते. खाली संदेश असतो: 'तुमचा जोडीदार तुम्हाला फसवतो आहे. हे घरातल्यांना सांगू नये असे वाटत असेल तर दोन लाख रुपये पाठवा!' हे पाहून पायखालची जमीन सरकते, डोक्यात संशयाचे काहूर माजते आणि अनेक वर्षांचा सुखी संसार उद्ध्वस्त होण्याची वेळ येते.

मात्र सायबर पोलिसांनी स्पष्ट केले आहे की अशा घटनांमध्ये नव्वद टक्क्यांहून अधिक पुरावे संपूर्णपणे खोटे आणि एआयनिर्मित असतात. सोशल मीडियावरील रिल्स किंवा व्हॉट्सॲप स्टेटसवरून बोलण्याचे छोटे तुकडे गोळा करण्याचे काम (व्होकल हार्वेस्टिंग) गुन्हेगार करतात. त्यानंतर व्यक्तीच्या आवाजाची हुबेहूब संगणकीय नक्कल करणाऱ्या तंत्रज्ञानाद्वारे (न्यूरल व्हॉइस क्लोनिंग) जोडीदाराच्या आवाजात कोणताही खोटा संवाद वदवून घेतला जातो. आज इंटरनेटवरील मोफत चॅट जनरेटर टूल्स वापरून कोणत्याही नावाने बनावट व्हॉट्सॲप चॅट तयार करणे लहान मुलांच्या खेळासारखे सोपे झाले आहे.

स्क्रीनशॉट्स आणि ऑडिओ फायली विश्वासार्ह का नाहीत?

आपला समाज अजूनही स्क्रीनशॉट्स आणि ऑडिओ रेकॉर्डिंगला कोर्टासारखा अंतिम पुरावा मानतो. मात्र डिजिटल युगात हे पुरावे सर्वात सहज बनावट करता येतात. खोलीतील पंखा किंवा वाहनांचा नैसर्गिक पार्श्वभूमी आवाज (ॲम्बियंट रूम नॉईज) एआय व्हॉइस क्लिपमध्ये विचित्रपणे तुटलेला असतो. फाईल वारंवार सेव्ह करताना उडणारा डिजिटल धुरकटपणा (कॉम्प्रेशन आर्टिफॅक्ट्स) बनावट स्क्रीनशॉटवर सहज पकडता येतो.

जोडीदारांनी स्वतःचे संरक्षण करण्यासाठी काय करावे?

अशा प्रकारचा संशयास्पद आणि धक्कादायक डिजिटल संदेश आल्यास भांडण करण्यापूर्वी खालील पावले उचलावीत:

  • जोडीदाराशी थेट आणि शांतपणे संवाद साधा: राग व्यक्त करण्याऐवजी तो संदेश जोडीदाराला दाखवा; गुन्हेगारांचे सर्वात मोठे यश नवरा-बायकोमध्ये संशय निर्माण करण्यात असते.
  • मोबाईल कंपनीकडील अधिकृत कॉल नोंदी (कॅरियर लॉग्स) तपासा: संबंधित तारखेला आणि वेळी त्या क्रमांकावरून प्रत्यक्ष कॉल झाला होता का हे कंपनीच्या बिलावरून लगेच स्पष्ट होते.
  • मेसेजच्या पाकिटामागील मूळ तांत्रिक पत्ता (मेसेज हेडर्स) आणि पुरावे जतन करा: धमकी देणाऱ्याचे स्क्रीनशॉट, ऑडिओ फाईल आणि फोन नंबर सुरक्षित सेव्ह करा.
  • कधीही पैसे देऊ नका आणि थेट पोलिसांत तक्रार करा: खंडणी मागणाऱ्याला एक रुपयाही न देता राष्ट्रीय सायबर क्राईम हेल्पलाईन १९३० किंवा जवळच्या सायबर सेलमध्ये तक्रार नोंदवा.

नात्यातील विश्वास हा अनेक वर्षांच्या प्रामाणिक सहवासातून आणि संवादातून तयार होतो. कॉम्प्युटरने बनवलेल्या खोट्या स्क्रीनशॉटमुळे संशयाचे विष कालवू न देता थेट सत्य शोधणे हीच शहाणपणाची कसोटी आहे.

स्रोत
  1. PSA: Generative AI Used to Fabricate Intimate Media and Extortion SchemesFederal Bureau of Investigation (FBI IC3)
  2. Europol Law Enforcement Report: The Criminal Abuse of Generative AIEuropol
  3. Deepfakes, Digital Evidence, and the Erosion of Online TrustElectronic Frontier Foundation (EFF)