वाचनासाठी 4 मिनिटे
डीपफेक: संगणक दुसऱ्या व्यक्तीचा खोटा चेहरा आणि आवाज कसा बनवतो?
३० सेकंदांत अर्थ
डीपफेक हे कृत्रिम बुद्धिमत्तेचे असे तंत्रज्ञान आहे जे एखाद्या व्यक्तीचे जुने फोटो आणि व्हिडिओ तपासून तिचा हुबेहूब चेहरा, हावभाव किंवा आवाज दुसऱ्या व्यक्तीवर बसवून बनावट व्हिडिओ किंवा ऑडिओ तयार करते. चेहऱ्याच्या हालचालींचा अभ्यास करून आणि ओठांची हालचाल संवादाशी जुळवून हे सॉफ्टवेअर अत्यंत विश्वासार्ह वाटणारे बनावट चित्रीकरण तयार करते.
डोळ्यांना फसवणारा आभासी व्हिडिओ आणि आवाज
सोशल मीडियावर कधीतरी असा व्हिडिओ समोर येतो ज्यामध्ये एखादा सुप्रसिद्ध नेता किंवा लोकप्रिय अभिनेता अतिशय विचित्र आणि धक्कादायक विधान करताना दिसतो. त्यांचे ओठ हलत असतात, आवाजातील चढउतार ओळखीचा वाटतो आणि चेहऱ्यावरील सुरकुत्याही नैसर्गिक दिसतात. मात्र काही तासांतच स्पष्ट होते की अशी कोणतीही घटना प्रत्यक्षात घडलीच नव्हती. संगणकीय तंत्रज्ञानाने चेहरे आणि आवाजाची केलेली ही हुबेहूब डिजिटल नक्कल (ज्याला डीपफेक किंवा Deepfake म्हणतात) आज इंटरनेटवर वेगाने पसरत आहे.
हा केवळ जुन्या पद्धतीचा फोटोशॉप किंवा जुजबी व्हिडिओ संपादन नाही, तर अनुभवातून शिकणाऱ्या प्रगत संगणकीय तंत्रज्ञानाचा (डीप लर्निंग) वापर करून निर्माण केलेले संपूर्ण कृत्रिम माध्यम (सिंथेटिक मीडिया) आहे. संगणक माणसाच्या हजारो फोटोंचा आणि व्हिडिओंचा सखोल अभ्यास करतो. त्यावरून व्यक्ती कशी हसते, डोळ्यांच्या पापण्या कशा मिचकावते आणि बोलताना जबड्याची हालचाल कशी होते हे शिकून घेतो. जेव्हा ही शिकलेली माहिती दुसऱ्या व्हिडिओवर हुबेहूब चढवली जाते, तेव्हा डोळ्यांना थक्क करणारा खोटा व्हिडिओ तयार होतो.
चेहऱ्याचे मोजमाप आणि डिजिटल अदलाबदल
स्क्रीनच्या मागे नक्की काय घडते हे समजून घेण्यासाठी चेहऱ्याच्या डिजिटल नकाशाची कल्पना करा. संगणक चेहऱ्यावरील नाकाचा शेंडा, ओठांचे कोपरे, डोळ्यांच्या बाहुल्या आणि हनुवटीची हाडे मोजणारे शेकडो महत्त्वाचे मोजमाप बिंदू (फेशिअल लँडमार्क) टिपून घेतो. या बिंदूंवर संगणक एका अदृश्य लवचिक वायरफ्रेम जाळीसारखा (डिजिटल मेश) मुखवटा तयार करतो. जर मूळ व्हिडिओतील व्यक्ती मान तिरकी करत असेल, तर हा डिजिटल मुखवटाही अगदी त्याच कोनात वळतो.
यानंतर नवनिर्मिती करणारी संगणकीय मेंदूजाळी (जनरेटिव्ह न्यूरल नेटवर्क) कामाला लागतात. ती नवीन चेहऱ्याची त्वचा, सुरकुत्या आणि प्रकाश जुळवून मूळ डोक्यावर बसवतात. नवीन चेहरा वेगळा उठून दिसू नये म्हणून चेहऱ्याच्या बाह्य कडा मऊ करून नैसर्गिकरीत्या मिसळण्याची क्रिया (फेदरिंग) केली जाते. त्याचप्रमाणे, आवाजाच्या फसवणुकीत संगणक जुन्या ऑडिओमधून आवाजाच्या ध्वनी लहरी (स्पीच वेव्हफॉर्म) समजून घेतो. त्यामुळे दुसऱ्याच व्यक्तीने बोललेले शब्द मूळ व्यक्तीच्या आवाजात रूपांतरित होतात.
वरवरचा समज आणि प्रत्यक्ष पडताळणीतील फरक
एकाच व्हायरल व्हिडिओकडे दोन व्यक्ती वेगवेगळ्या दृष्टीने पाहतात:
- वरवर पाहणारा युझर: स्मार्टफोनवर दहा सेकंदांचा लहान व्हिडिओ पाहतो. धक्कादायक विधानामुळे लगेच आश्चर्य वाटते आणि चेहरा ओळखीचा दिसल्यामुळे कॅमेरा खोटे बोलू शकत नाही असे मानून तो त्वरित व्हिडिओ फॉरवर्ड करतो.
- पडताळणी करणारा सजग युझर: संदर्भाची खात्री करण्यासाठी क्षणभर थांबतो. व्हिडिओवर तारीख नाही, वृत्तवाहिनीचे नाव नाही आणि तो अनोळखी खात्यावरून आला आहे हे ओळखून मुख्य बातम्यांमध्ये शोध घेतो, ज्यामुळे खोटेपणा उघड होतो.
दृश्य त्रुटी शोधण्याच्या पद्धतीतील मर्यादा
सुरुवातीच्या डीपफेकमध्ये डोळ्यांची अनैसर्गिक हालचाल किंवा विचित्र दात सहज दिसायचे. परंतु केवळ अशा दृश्य चुकांवर अवलंबून राहणे आता पुरेसे ठरत नाही. पहिले कारण म्हणजे मॉडेल्स वेगाने सुधारत असून त्वचेचा पोत अचूक दाखवत आहेत. दुसरे कारण म्हणजे सोशल मीडियावरील कॉम्प्रेशन होय. फाइलचा आकार लहान करताना उडणारा डिजिटल धुरकटपणा (कॉम्प्रेशन आर्टिफॅक्ट्स) बारीक फेरफार लपवून टाकतो, ज्यामुळे साध्या डोळ्यांनी तपासणे अशक्य होते.
नॅशनल इन्स्टिट्यूट ऑफ स्टँडर्ड्स अँड टेक्नॉलॉजीच्या (एनआयएसटी) ओपन मीडिया फॉरेन्सिक्स संशोधनानुसार, बनावट व्हिडिओ ओळखणे ही तंत्रज्ञानातील सतत चालणारी स्पर्धा आहे. स्वयंचलित साधने कॅमेऱ्याच्या सेन्सरचा सूक्ष्म डिजिटल ठसा (सेन्सर नॉईज) आणि प्रकाशाची दिशा तपासतात; परंतु सामान्य माणसाला केवळ स्क्रीन पाहून अचूक निष्कर्ष काढणे कठीण असते.
बनावट व्हिडिओंच्या युगात सुरक्षित राहण्याच्या सवयी
पिक्सेल तपासून सत्यता सिद्ध करणे कठीण असल्यामुळे, खरी सुरक्षा संदर्भ तपासण्यात आहे:
- अधिकृत नोंद तपासा: सार्वजनिक व्यक्तींची खरी विधाने नेहमी अधिकृत संकेतस्थळांवर आणि नामांकित वृत्तसंस्थांमध्ये प्रसिद्ध होतात; ती अनोळखी खात्यांवर मर्यादित नसतात.
- थेट फोन करून खात्री करा: नातेवाईक किंवा मित्राचा संकटात पैशांची मागणी करणारा व्हिडिओ किंवा कॉल आल्यास आधी फोन कट करून त्यांच्या मूळ नंबरवर थेट कॉल करा.
- कृत्रिम भीती ओळखा: फसव्या व्हिडिओंचा मुख्य हेतू भीती किंवा अवाजवी लोभ निर्माण करून घाईत निर्णय घेण्यास भाग पाडणे हा असतो.
सिनेमा निर्मिती आणि भाषांतराच्या कामात हे तंत्रज्ञान उपयुक्त असले, तरी यामुळे डिजिटल पुराव्यांचे स्वरूप बदलले आहे. स्वतःच्या संरक्षणासाठी क्लिष्ट टूल्सची गरज नसते. तात्काळ भावनिक प्रतिक्रिया देण्याऐवजी शांतपणे मूळ स्त्रोताची खात्री करण्याची सवय आपल्याला फसवणुकीपासून सुरक्षित ठेवते.