Εργαλείο μετριασμού του πορνό στο Facebook και το Instagram

Η Meta κυκλοφόρησε ένα νέο εργαλείο που θα το αφήσει Facebook και οι χρήστες του Instagram σταματούν τη διάδοση προσωπικών εικόνων που κοινοποιούνται χωρίς τη συγκατάθεσή τους στις πλατφόρμες. Το Facebook και η αδελφή του πλατφόρμα μέσων κοινωνικής δικτύωσης δεν είναι ξένοι στο πρόβλημα που τώρα έχει κερδίσει τη φήμη κάτω από τον όρο «εκδικητική πορνογραφία». Η εταιρεία έχει ήδη ένα σύστημα σε εφαρμογή από το 2019 που χρησιμοποιεί μηχανική μάθηση και τεχνητή νοημοσύνη για τον εντοπισμό γυμνών εικόνων και βίντεο που μπορεί να έχουν κοινοποιηθεί χωρίς συναινετικά στο Instagram και Facebook.

Αλλά μέχρι στιγμής, το σύστημα βασιζόταν στην ανθρώπινη παρέμβαση — ένα "ειδικά εκπαιδευμένο μέλος της κοινοτικής μας ομάδας Επιχειρήσεων" — για να εντοπίσετε εάν ένα μέσο παραβιάζει τις οδηγίες της κοινότητας και πρέπει να αφαιρεθεί πριν προκληθεί μεγάλη ζημιά. Ωστόσο, οι δύο πλατφόρμες αγωνίζονται ενάντια στην παραβίαση του σεξουαλικού απορρήτου και της διαδικτυακής παρενόχλησης και μπορεί να κατηγορηθεί τόσο για εσωτερικές όσο και εξωτερικές αποτυχίες. Αυτό αποκάλυψε πρόσφατα μια εσωτερική έρευνα που διέρρευσε

Το Facebook κυκλοφόρησε ενοχλητικό περιεχόμενο απεικονίζει παραστατική βία ή σεξουαλικές εικόνες σε χρήστες που δεν είναι ειδικευμένοι στην πλοήγηση στα μέσα κοινωνικής δικτύωσης.

Σχετίζεται με: Οι χρήστες του Instagram μπορούν τώρα να επιλέξουν πόσο ευαίσθητο περιεχόμενο βλέπουν

Παίρνοντας άλλη μια ματιά στο θέμα, η εταιρεία έχει εκτοξεύτηκε ένα δωρεάν εργαλείο για χρήστες που πέφτουν θύματα κατάχρησης μη συναινετικής οικείας εικόνας (NCII). Το εργαλείο, το οποίο αναπτύχθηκε σε συνεργασία με τη Γραμμή Βοήθειας για το UK Revenge Porn, έχει την υποστήριξη περισσότερων από 50 ΜΚΟ σε όλο τον κόσμο και θα είναι διαθέσιμο στους χρήστες του Instagram και του Facebook σε όλο τον κόσμο. Τώρα με το όνομα Μέτα, η εταιρεία λέει ότι το εργαλείο ασφαλείας της δεν προορίζεται μόνο για χρήστες που πέφτουν θύματα «εκδικητικής πορνογραφίας», αλλά μπορεί επίσης να είναι χρήσιμο για όσους φοβούνται ότι μπορεί να τους συμβεί στο εγγύς μέλλον. Οι χρήστες καλούνται να δημιουργήσουν ένα κωδικοποιημένο σύστημα προειδοποίησης που θα σταματήσει τη δημοσίευση μη συναινετικών εικόνων και βίντεο, μειώνοντας τους κινδύνους με προληπτικό τρόπο.

Ένα μεγάλο βήμα με ένα τεράστιο μειονέκτημα

Ωστόσο, η όλη διαδικασία μπορεί κάνει τους χρήστες να αισθάνονται άβολα επειδή το σύστημα τους ζητά να υποβάλουν οικείες φωτογραφίες και βίντεο για λόγους αντιστοίχισης. Όσον αφορά την πτυχή του απορρήτου, η Meta λέει ότι η χρήση κατακερματισμού θα της επιτρέψει να καταγράψει τα αναγνωρίσιμα δεδομένα σε μια εικόνα, διατηρώντας παράλληλα τα ίδια τα μέσα απόρρητα στο άτομο που τα υπέβαλε. Όταν οι χρήστες μοιράζονται μια εικόνα ή ένα βίντεο, αυτό μετατρέπεται αμέσως σε έναν μοναδικό ψηφιακό κώδικα χρησιμοποιώντας έναν αλγόριθμο που χρησιμεύει ως ψηφιακό δακτυλικό αποτύπωμα για αντιστοίχιση. Για παράδειγμα, ένα αντίγραφο μιας εικόνας έχει το ίδιο ψηφιακό δακτυλικό αποτύπωμα με το πρωτότυπο και με αυτόν τον τρόπο ενεργοποιείται ολόκληρο το σύστημα αναγνώρισης και αφαίρεσης. Η πραγματική εικόνα δεν φεύγει ποτέ από τη συσκευή του χρήστη και το StopNCII καθώς και οι συμμετέχουσες εταιρείες λαμβάνουν μόνο αυτά τα κατακερματισμένα δεδομένα ως μέτρο ασφαλείας.

Η Apple βασίζεται επίσης στη διαδικασία δημιουργίας κατακερματισμού για ανίχνευση υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) ως μέρος του συστήματος αντιστοίχισης φωτογραφιών iCloud. Η Meta χρησιμοποιεί αλγόριθμους βιομηχανικών προτύπων ανοιχτού κώδικα για κατακερματισμό φωτογραφιών και βίντεο που μπορούν να εφαρμοστούν εύκολα σε πλατφόρμες για αντιστοίχιση. Αλλά το σύστημα μπορεί επίσης να ξεγελαστεί εύκολα με μικρές επεξεργασίες που γίνονται σε μια εικόνα ή ένα βίντεο NCII. "Εάν μια εικόνα που έχει κατακερματιστεί υποβληθεί σε επεξεργασία μέσω περικοπής, προσθήκης φίλτρων ή αποκοπής βίντεο, ο αρχικός κατακερματισμός ενδέχεται να μην αναγνωρίσει την εικόνα. Η νέα εικόνα θα πρέπει να κατακερματιστεί ξεχωριστά." λέει η ενότητα Συχνές ερωτήσεις του εργαλείου πορνό κατά της εκδίκησης.

Επόμενο: Το Instagram στόχευσε τους εφήβους και τώρα οι πολιτείες στοχεύουν στο Instagram

Πηγές: Μετα, StopNCII.org

Το Hubble κοιτάζει έναν γαλαξία που απέχει εκατομμύρια έτη φωτός σε μια εκπληκτική νέα φωτογραφία

Σχετικά με τον Συγγραφέα