Facebook un Instagram atriebības pornogrāfijas mazināšanas rīks

Meta ir laidusi klajā jaunu rīku, kas ļaus Facebook un Instagram lietotāji aptur intīmo attēlu izplatību platformās bez viņu piekrišanas. Facebook un tā māsas sociālo mediju platforma nav sveša problēmai, kas tagad ir guvusi slavu ar terminu “atriebības pornogrāfija”. Uzņēmumam jau ir sistēma kopš 2019. gada, kas izmanto mašīnmācīšanos un mākslīgo izlūkdati, lai atklātu kailu attēlus un videoklipus, kas varētu būt kopīgoti Instagram bez piekrišanas un Facebook.

Taču līdz šim sistēma ir balstījusies uz cilvēka iejaukšanos —īpaši apmācīts mūsu kopienas operāciju komandas loceklis" — lai noteiktu, vai plašsaziņas līdzeklis pārkāpj kopienas vadlīnijas un ir jānoņem, pirms tiek nodarīts liels kaitējums. Tomēr abas platformas ir cīnījušās pret seksuālās privātuma iejaukšanos un tiešsaistes uzmākšanos, un to var vainot gan iekšējās, gan ārējās nepilnībās. To nesen atklāja nopludinātie iekšējie pētījumi Facebook izplatīja satraucošu saturu kurā attēlota grafiska vardarbība vai seksuāla rakstura attēli lietotājiem, kuri nav kvalificēti orientēties sociālajos saziņas līdzekļos.

Saistīts: Instagram lietotāji tagad var izvēlēties, cik daudz sensitīva satura viņi redz

Vēlreiz pievēršoties šim jautājumam, uzņēmums to ir izdarījis palaists bezmaksas rīks lietotājiem, kuri ir kļuvuši par Intimate Image (NCII) ļaunprātīgas izmantošanas upuri. Rīku, kas izstrādāts sadarbībā ar Apvienotās Karalistes atriebības porno palīdzības līniju, atbalsta vairāk nekā 50 NVO visā pasaulē, un tas būs pieejams Instagram un Facebook lietotājiem visā pasaulē. Tagad saucu Meta, uzņēmums saka, ka tā drošības rīks ir paredzēts ne tikai lietotājiem, kuri ir “atriebības pornogrāfijas” upuri, bet var būt noderīgs arī tiem, kuri baidās, ka tas varētu notikt ar viņiem tuvākajā nākotnē. Lietotāji tiek lūgti izveidot kodētu brīdinājuma sistēmu, kas pārtrauks bez piekrišanas balstītu intīmu attēlu un videoklipu publicēšanu, proaktīvi samazinot riskus.

Liels solis ar vienu milzīgu trūkumu

Tomēr visa procedūra varētu likt lietotājiem justies neomulīgi jo sistēma lūdz viņiem iesniegt intīmus fotoattēlus un videoklipus, lai nodrošinātu atbilstību. Attiecībā uz privātuma aspektu Meta saka, ka jaukšanas izmantošana ļaus tai kataloģizēt attēlā identificējamos datus, vienlaikus saglabājot mediju privātumu personai, kas to iesniedza. Kad lietotāji kopīgo attēlu vai videoklipu, tas tiek nekavējoties pārveidots unikālā digitālā kodā, izmantojot algoritmu, kas kalpo kā digitālais pirkstu nospiedums atbilstības noteikšanai. Piemēram, attēla dublikātam ir tāds pats digitālais pirkstu nospiedums kā oriģinālam, un tādējādi visa identifikācijas un noņemšanas sistēma sāk darboties. Faktiskais attēls nekad netiek atstāts no lietotāja ierīces, un StopNCII, kā arī iesaistītie uzņēmumi saņem šos jauktos datus tikai kā drošības līdzekli.

Apple arī paļaujas uz jaucējkoda ģenerēšanas procesu bērnu seksuālas izmantošanas materiāla (CSAM) atklāšana kā daļu no tās iCloud fotoattēlu saskaņošanas sistēmas. Meta fotoattēlu un videoklipu jaukšanai izmanto atvērtā koda nozares standarta algoritmus, kurus var viegli ieviest dažādās platformās, lai nodrošinātu atbilstību. Taču sistēmu var viegli arī apmānīt, veicot nelielas NCII attēla vai video izmaiņas. “Ja jauktais attēls tiek rediģēts, apgriežot, pievienojot filtrus vai izgriežot videoklipu, sākotnējais jauktais attēls var neatpazīt. Jaunais attēls būs jājauc atsevišķi. saka anti-atriebības pornogrāfijas rīka FAQ sadaļa.

Nākamais: Instagram mērķauditorija ir pusaudži, un tagad valstis ir mērķētas uz Instagram

Avoti: Meta, StopNCII.org

Habls skatās uz galaktiku miljoniem gaismas gadu attālumā satriecošā jaunā fotoattēlā

Par autoru