Facebook ve Instagram İntikam Alıyor Porno Azaltma Aracı

Meta, izin verecek yeni bir araç başlattı Facebook ve Instagram kullanıcıları, rızaları olmadan paylaşılan mahrem görüntülerin platformlarda yayılmasını engellemektedir. Facebook ve kardeş sosyal medya platformu, 'intikam pornosu' çatı terimi altında artık kötü şöhret kazanan soruna yabancı değil. Şirketin halihazırda 2019'dan beri makine öğrenimi ve yapay zeka kullanan bir sistemi var. Instagram'da rıza dışı bir şekilde paylaşılmış olabilecek çıplak görüntüleri ve videoları tespit etmek için istihbarat ve Facebook.

Ancak şimdiye kadar, sistem insan müdahalesine dayanıyordu - bir "Topluluk Operasyonları ekibimizin özel olarak eğitilmiş üyesi" — bir medyanın topluluk kurallarını ihlal edip etmediğini ve çok fazla hasar oluşmadan kaldırılması gerekip gerekmediğini tespit etmek için. Bununla birlikte, iki platform cinsel mahremiyetin istilasına ve çevrimiçi tacize karşı mücadele ediyor ve hem iç hem de dış başarısızlıklardan sorumlu tutulabilir. Son zamanlarda sızdırılan dahili araştırmalar şunu ortaya çıkardı:

Facebook rahatsız edici içeriği dağıttı sosyal medyada gezinme becerisine sahip olmayan kullanıcılara sansürlenmemiş şiddet veya cinsel tasvirler göstermek.

İlişkili: Instagram Kullanıcıları Artık Ne Kadar Hassas İçerik Göreceklerini Seçebiliyor

Konuya bir kez daha yaklaşan şirket, başlatılan bedava alet Rıza Dışı Mahrem Görüntü (NCII) istismarının kurbanı olan kullanıcılar için. UK Revenge Porn Helpline ile işbirliği içinde geliştirilen araç, dünya çapında 50'den fazla STK'nın desteğine sahiptir ve dünya çapında Instagram ve Facebook kullanıcılarının kullanımına sunulacaktır. Şimdi Meta adıyla gidiyor, şirket, güvenlik aracının yalnızca "intikam pornosu" kurbanı olan kullanıcılar için olmadığını, aynı zamanda yakın gelecekte başlarına gelmesinden korkanlar için de yardımcı olabileceğini söylüyor. Kullanıcılardan, rıza dışı mahrem görüntülerin ve videoların yayınlanmasını durduracak ve riskleri proaktif bir şekilde azaltacak kodlu bir uyarı sistemi oluşturmaları istenir.

Büyük Bir Dezavantajı Olan Büyük Bir Adım

Ancak, tüm prosedür olabilir kullanıcıları rahatsız etmek çünkü sistem, eşleştirme uğruna samimi fotoğraflar ve videolar göndermelerini ister. Gizlilik yönü ile ilgili olarak Meta, karma kullanmanın, medyanın kendisini onu gönderen kişiye özel tutarken bir görüntüdeki tanımlanabilir verileri kataloglamasına izin vereceğini söylüyor. Kullanıcılar bir görüntü veya video paylaştığında, eşleştirme için dijital parmak izi işlevi gören bir algoritma kullanılarak anında benzersiz bir dijital koda dönüştürülür. Örneğin, bir görüntünün kopyası, orijinaliyle aynı dijital parmak izine sahiptir ve tüm tanımlama ve kaldırma sistemi bu şekilde harekete geçer. Gerçek görüntü, kullanıcının cihazından asla ayrılmaz ve StopNCII ve katılımcı şirketler, bu karma verileri yalnızca bir güvenlik önlemi olarak alır.

Apple ayrıca aşağıdakiler için karma oluşturma sürecine de güvenir: Çocukların Cinsel İstismarı Malzemesini (CSAM) tespit etmek iCloud fotoğraf eşleştirme sisteminin bir parçası olarak. Meta, eşleştirme için platformlar arasında kolayca uygulanabilen fotoğrafları ve videoları hash etmek için açık kaynaklı endüstri standardı algoritmalar kullanıyor. Ancak sistem, bir NCII görüntüsü veya videosunda yapılan küçük düzenlemelerle de kolayca kandırılabilir. “Karma işlemi uygulanmış bir görüntü kırpma, eklenen filtreler veya kırpılmış bir video yoluyla düzenlenirse, orijinal karma görüntüyü tanımayabilir. Yeni görüntünün ayrı ayrı hash edilmesi gerekecek.” intikam karşıtı porno aracının SSS bölümünde yazıyor.

Sonraki: Instagram Gençleri Hedefliyor ve Şimdi Devletler Instagram'ı Hedefliyor

Kaynaklar: Meta, StopNCII.org

Hubble Çarpıcı Yeni Fotoğrafta Milyonlarca Işıkyılı Uzaktaki Bir Galaksiye Bakıyor

Yazar hakkında