क्या डीपफेक फेशियल रिकॉग्निशन को मूर्ख बना सकता है? एक नया अध्ययन कहता है हाँ!

डीपफेक और एआई-जनरेटेड वीडियो यहां रहने के लिए हैं। लेकिन पिछले कुछ वर्षों में, वे गुणवत्ता और मात्रा में बढ़े हैं, जिससे बहुत से लोग राष्ट्रीय सुरक्षा और व्यक्तिगत गोपनीयता को लेकर चिंतित हैं।

फिर भी, गुमनाम ऑनलाइन उपयोगकर्ताओं ने अपने नकली वीडियो को वास्तविक बनाने की कितनी भी कोशिश की हो, वे कभी भी उन्नत चेहरे की पहचान सॉफ़्टवेयर को प्राप्त नहीं कर सके। अब तक।

मूर्ख चेहरा पहचान एपीआई

दक्षिण कोरिया के सुवन में सुंगक्यूंकवान विश्वविद्यालय के शोधकर्ताओं ने वर्तमान डीपफेक तकनीक की गुणवत्ता का परीक्षण किया । उन्होंने ओपन-सोर्स का उपयोग करके अमेज़ॅन और माइक्रोसॉफ्ट एपीआई दोनों का परीक्षण किया और आमतौर पर डीपफेक वीडियो जनरेटिंग सॉफ़्टवेयर का उपयोग करके यह देखने के लिए कि वे कितना अच्छा प्रदर्शन करते हैं।

शोधकर्ताओं ने हॉलीवुड हस्तियों के चेहरों का इस्तेमाल किया। सॉलिड डीपफेक बनाने के लिए, सॉफ्टवेयर को एक ही व्यक्ति के विभिन्न कोणों से बहुत सारी उच्च-गुणवत्ता वाली छवियों की आवश्यकता होती है, जो आम लोगों के बजाय मशहूर हस्तियों को हासिल करना बहुत आसान है।

शोधकर्ताओं ने अपने अध्ययन के लिए बेंचमार्क के रूप में माइक्रोसॉफ्ट और अमेज़ॅन के एपीआई का उपयोग करने का भी फैसला किया क्योंकि दोनों कंपनियां सेलिब्रिटी फेस रिकग्निशन सेवाएं प्रदान करती हैं। उन्होंने सार्वजनिक रूप से उपलब्ध डेटासेट का उपयोग किया और केवल 8,000 से अधिक डीपफेक बनाए। प्रत्येक डीपफेक वीडियो से, उन्होंने कई फेसशॉट निकाले और इसे एपीआई में जमा किया, यह सवालों के घेरे में है।

माइक्रोसॉफ्ट की एज़्योर कॉग्निटिव सर्विसेज के साथ, शोधकर्ता डीपफेक का उपयोग करके सिस्टम को 78 प्रतिशत समय तक मूर्ख बनाने में सक्षम थे। अमेज़ॅन के परिणाम थोड़े बेहतर थे, जिसमें 68 प्रतिशत सबमिट किए गए चेहरों की पहचान वास्तविक के रूप में की गई थी।

डीपफेक डिटेक्टरों के बारे में क्या?

डीपफेक डिटेक्टर कमोबेश उसी तरह काम करते हैं जैसे डीपफेक करता है। डिटेक्टर ऐसे सॉफ़्टवेयर हैं जिन्हें मशीन लर्निंग मॉडल का उपयोग करके प्रशिक्षित किया गया था कि कैसे डीपफेक वीडियो का पता लगाया जाए।

लेकिन डिटेक्टरों को बेवकूफ बनाने के लिए एक अति-यथार्थवादी वीडियो बनाने पर ध्यान केंद्रित करने के बजाय, एआई सिस्टम को भ्रमित करने के लिए डीपफेक अब हर फ्रेम में प्रतिकूल उदाहरण शामिल कर सकते हैं। वास्तव में, इस प्रकार के डीपफेक हमलों की सफलता दर 78 से 99 प्रतिशत तक होती है

यह बदतर हो रही है

डीपफेक एक मशीन लर्निंग एप्लीकेशन है । ऐसी छवि बनाने के लिए जो दूर से भी आश्वस्त करने वाली हो, आपको एक ही व्यक्ति के चेहरे की सैकड़ों छवियों को विभिन्न कोणों से और विभिन्न भावनाओं को प्रदर्शित करने की आवश्यकता है।

बड़ी मात्रा में डेटा की आवश्यकता के कारण, कोई यह सोच सकता है कि केवल बड़ी ऑनलाइन उपस्थिति वाले लोग ही जोखिम में हैं, जैसे सेलिब्रिटी और राजनेता। लेकिन अब वो बात नहीं रही.

डीपट्रेस के अनुसार, अक्टूबर 2019 से जून 2020 तक एक वर्ष के भीतर ऑनलाइन डीपफेक की संख्या में 330 प्रतिशत की वृद्धि हुई। उल्लेख नहीं करने के लिए, सॉफ्टवेयर और एल्गोरिदम डीपफेक निर्माताओं का उपयोग मजबूत और अधिक आसानी से उपलब्ध और सुलभ होता जा रहा है।

डीपफेक के जोखिम में कौन है?

जब डीपफेक पहली बार मुख्यधारा में आए, तो प्राथमिक चिंताएं गोपनीयता और राष्ट्रीय सुरक्षा के लिए थीं । लोगों को डर था कि राजनेताओं और आधिकारिक सरकारी कर्मचारियों के वीडियो फुटेज पर अब भरोसा नहीं किया जा सकता है।

लेकिन जब सुरक्षा जोखिम डीपफेक पोज की अवहेलना करना गैर-जिम्मेदार होगा, तो कई सर्वेक्षणों में पाया गया कि डीपफेक निर्माता अभी तक राजनीति को परेशान करने में दिलचस्पी नहीं ले रहे हैं। ऑनलाइन डीपफेक वीडियो के बहुमत को दो श्रेणियों में विभाजित किया जा सकता है: सेलिब्रिटी साक्षात्कार के मजेदार वीडियो, और फिल्में और अश्लील सामग्री।

जबकि हाल ही में यह अध्ययन सेलिब्रिटी चेहरों का उपयोग करके किया गया था ताकि यह सुनिश्चित किया जा सके कि एपीआई को बेवकूफ बनाने के लिए डीपफेक उच्च गुणवत्ता वाले थे, इसका मतलब यह नहीं है कि आप कम डेटा के साथ डीपफेक नहीं बना सकते। निश्चित रूप से, वे उन्नत चेहरे की पहचान प्रणाली को मूर्ख बनाने का मौका नहीं दे सकते हैं, लेकिन वे अन्य लोगों को धोखा देने के लिए पर्याप्त आश्वस्त हो सकते हैं।

आजकल, सामाजिक उपस्थिति वाले किसी के भी डीपफेक को पक्का बनाया जा सकता है। उन्हें केवल आपकी कुछ तस्वीरें और शायद एक वीडियो चाहिए जिसमें आप दिखाई देते हैं। परिणामी डीपफेक गुणवत्ता में कम हो सकता है, लेकिन यह अभी भी करने योग्य है और हानिकारक हो सकता है।

भविष्य अभी भी अज्ञात है

डीपफेक की स्थिति के बारे में कई विरोधाभासी भविष्यवाणियां हैं, क्योंकि वे जल्द ही दूर नहीं होने वाली हैं।

कुछ एक सर्वनाशकारी साइबर भविष्य की उम्मीद करते हैं जहां आप ऑनलाइन आने वाले किसी भी फुटेज पर भरोसा नहीं कर सकते। अन्य लोग अधिक आशावादी हैं, डीपफेक की तुलना एनीमेशन से करते हैं और कहते हैं कि सामग्री उत्पादन में इसका भविष्य हो सकता है।