फेसबुक और इंस्टाग्राम रिवेंज पोर्न मिटिगेशन टूल प्राप्त कर रहे हैं

मेटा ने एक नया टूल लॉन्च किया है जो फेसबुक और इंस्टाग्राम उपयोगकर्ता प्लेटफॉर्म पर उनकी सहमति के बिना साझा की गई अंतरंग छवियों के प्रसार को रोकते हैं। फेसबुक और उसकी बहन सोशल मीडिया प्लेटफॉर्म उस समस्या के लिए कोई अजनबी नहीं है जो अब 'रिवेंज पोर्न' छत्र शब्द के तहत बदनाम हो गई है। कंपनी के पास 2019 से पहले से ही एक प्रणाली है जो मशीन लर्निंग और कृत्रिम का उपयोग करती है नग्न छवियों और वीडियो का पता लगाने के लिए खुफिया जानकारी, जिन्हें इंस्टाग्राम पर गैर-सहमति से साझा किया गया हो सकता है और फेसबुक।

लेकिन अब तक, व्यवस्था मानवीय हस्तक्षेप पर निर्भर रही है - एक "हमारी सामुदायिक संचालन टीम के विशेष रूप से प्रशिक्षित सदस्य" - यह पता लगाने के लिए कि क्या कोई मीडिया समुदाय के दिशानिर्देशों का उल्लंघन करता है और बहुत नुकसान होने से पहले इसे हटाने की जरूरत है। हालांकि, दोनों प्लेटफॉर्म यौन गोपनीयता और ऑनलाइन उत्पीड़न के आक्रमण के खिलाफ संघर्ष कर रहे हैं, और इसे आंतरिक और बाहरी दोनों विफलताओं पर दोषी ठहराया जा सकता है। हाल ही में लीक हुए आंतरिक शोध से पता चला है कि फेसबुक ने फैलाई परेशान करने वाली सामग्री

 उन उपयोगकर्ताओं के लिए ग्राफिक हिंसा या यौन इमेजरी का चित्रण करना जो सोशल मीडिया पर नेविगेट करने में कुशल नहीं हैं।

सम्बंधित: Instagram उपयोगकर्ता अब चुन सकते हैं कि वे कितनी संवेदनशील सामग्री देखते हैं

इस मुद्दे पर एक और कदम उठाते हुए, कंपनी ने का शुभारंभ किया मुफ़्त साधन उन उपयोगकर्ताओं के लिए जो गैर-सहमति वाली अंतरंग छवि (NCII) के दुरुपयोग के शिकार हैं। टूल, जिसे यूके रिवेंज पोर्न हेल्पलाइन के सहयोग से विकसित किया गया है, को दुनिया भर में 50 से अधिक एनजीओ का समर्थन प्राप्त है और यह दुनिया भर में इंस्टाग्राम और फेसबुक उपयोगकर्ताओं के लिए उपलब्ध होगा। अब मेटा नाम से जा रहे हैं, कंपनी का कहना है कि इसका सुरक्षा उपकरण न केवल "रिवेंज पोर्न" के शिकार उपयोगकर्ताओं के लिए है, बल्कि उन लोगों के लिए भी मददगार हो सकता है जिन्हें डर है कि निकट भविष्य में उनके साथ ऐसा हो सकता है। उपयोगकर्ताओं को एक कोडित चेतावनी प्रणाली बनाने के लिए कहा जाता है जो गैर-सहमति वाली अंतरंग इमेजरी और वीडियो के प्रकाशन को रोक देगा, जोखिम को सक्रिय तरीके से कम करेगा।

एक बड़ी कमी के साथ एक बड़ा कदम

हालाँकि, पूरी प्रक्रिया हो सकती है उपयोगकर्ताओं को असहज महसूस कराएं क्योंकि सिस्टम उन्हें मेल खाने के लिए अंतरंग तस्वीरें और वीडियो जमा करने के लिए कहता है। गोपनीयता पहलू के बारे में, मेटा का कहना है कि हैशिंग का उपयोग करने से यह एक छवि में पहचाने जाने योग्य डेटा को सूचीबद्ध करने की अनुमति देगा, जबकि मीडिया को खुद को उस व्यक्ति के लिए निजी रखेगा जिसने इसे सबमिट किया था। जब उपयोगकर्ता एक छवि या वीडियो साझा करते हैं, तो इसे तुरंत एक अद्वितीय डिजिटल कोड में परिवर्तित कर दिया जाता है, जो एक एल्गोरिथ्म का उपयोग करता है जो मिलान के लिए एक डिजिटल फिंगरप्रिंट के रूप में कार्य करता है। उदाहरण के लिए, किसी छवि के डुप्लीकेट में मूल फ़िंगरप्रिंट के समान ही डिजिटल फ़िंगरप्रिंट होता है, और इस तरह संपूर्ण पहचान और निष्कासन प्रणाली कार्य करती है। वास्तविक छवि कभी भी उपयोगकर्ता के उपकरण को नहीं छोड़ती है, और StopNCII के साथ-साथ भाग लेने वाली कंपनियां केवल इस हैश किए गए डेटा को सुरक्षा उपाय के रूप में प्राप्त करती हैं।

Apple इसके लिए हैश जेनरेशन प्रक्रिया पर भी निर्भर करता है बाल यौन शोषण सामग्री (सीएसएएम) का पता लगाना आईक्लाउड फोटो मिलान प्रणाली के हिस्से के रूप में। मेटा हैशिंग फ़ोटो और वीडियो के लिए ओपन-सोर्स उद्योग-मानक एल्गोरिदम का उपयोग कर रहा है जिसे मिलान के लिए प्लेटफ़ॉर्म पर आसानी से लागू किया जा सकता है। लेकिन एनसीआईआई छवि या वीडियो में किए गए मामूली संपादन के साथ सिस्टम को आसानी से बेवकूफ़ बनाया जा सकता है। "अगर हैश की गई छवि को क्रॉप करके संपादित किया गया है, फ़िल्टर जोड़ा गया है या वीडियो क्लिप किया गया है, तो मूल हैश छवि को पहचान नहीं सकता है। नई छवि को अलग से हैश करने की आवश्यकता होगी," एंटी-रिवेंज पोर्न टूल का एफएक्यू सेक्शन कहता है।

अगला: Instagram लक्षित किशोर, और अब राज्य Instagram को लक्षित कर रहे हैं

स्रोत: मेटा, StopNCII.org

हबल एक आश्चर्यजनक नई तस्वीर में लाखों प्रकाश-वर्ष दूर आकाशगंगा को देखता है

लेखक के बारे में