Facebook, Yapay Zekasının Kötü İçeriği Yakalamada Selefinden Daha Hızlı Olduğunu İddia Ediyor

Facebook yeni yapay zeka (AI) denetleme sisteminin ayrıntılarını açıkladı ve kötü gönderileri ortaya çıkarmada önceki yinelemeye göre daha iyi olduğunu iddia ediyor. Sosyal ağ, platformundaki içeriği denetleme konusunda uzun süredir zorluklarla karşı karşıya kaldı; bu, yalnızca kullanıcı tabanının boyutu ve desteklediği dillerin çokluğu nedeniyle daha da kötüleşen bir durum. Facebook'a ne kadar çok kişi katılırsa, o kadar çok söylediklerini izlemek zorunda, ve bunu söyledikleri zıt diller.

Yıllar boyunca, Meta'nın sahip olduğu firma, her şeyin üstesinden gelmek zorunda kaldı. intikam pornosu ve Myanmar'daki seçim müdahalesi ve soykırıma ilişkin COVID-19 yanlış bilgilendirmesi. Ancak her sorunun farklı olması gibi, ilgili içeriği belirlemek ve kaldırmak için gereken beceriler de sıklıkla gereklidir. Bunun için şirket, işi potansiyel olarak saldırgan gönderilerin raporlarını incelemek olan bir insan moderatör ordusuna güveniyor. Yine de, Facebook büyüklüğünde bir operasyon için, böyle bir işi yapmak için yeterli sayıda insanı işe almak, ölçeklendirmek zordur ve bu nedenle, cephe savunması olarak hizmet etmek için AI araçlarına güvenir. Bu programlar, çok sayıda örnek veri (resimler, videolar, metinler) üzerinde eğitilerek, makinenin neyin kötü içeriği oluşturduğunu etkili bir şekilde öğrenmesini ve böylece daha sonra kaldırılabilmesini sağlar.

Facebook, rahatsız edici materyalleri ortaya çıkarmada daha verimli olduğunu söylediği Few-Shot Learner adlı yeni bir AI sistemini tanıttı. Olarak kablolu Menlo Park tabanlı sosyal platform, Few-Shot Learner'ın daha küçük bir eğitim seti ile çalışabileceğini iddia ediyor. önceki altı hafta aralığından yalnızca altı hafta içinde ihlal eden içeriğin üstesinden gelmesine izin veriyor aylar. Facebook, Few-Shot Learner'ı bu yılın başlarında ilk kez tanıttığını ve zaten üstesinden gelebileceğini söyledi başkalarını COVID-19 aşılarını yaptırmamaya teşvik eden gönderiler, bu kural şu ​​anda yürürlüğe girdi. Eylül.

Daha İyi Kural Yorumu

Bir Facebook AI ürün yöneticisi olan Cornelia Carapcea, bunun sadece daha küçük şirketlerle çalışma yeteneği olmadığını söylüyor. Few-Shot Learner'ı bu kadar kullanışlı kılan eğitim setleri, aynı zamanda platformun bilgilerini daha iyi yorumlayabilmesidir. kullanıcı terimleri. Tipik olarak, insan moderatörlerin binlerce kuralı kapsayan ve giderek daha fazla uç vakayı kapsayacak şekilde sürekli olarak değiştirilen bir el kitabına çapraz referans vermesi gerekir. Kısmen bu karmaşıklık seviyesinden dolayı Facebook, Gözetim Kurulu uyguladığı kuralları izlemek için. Carapcea, Few-Shot Learner'ın yalnızca geniş istemleri kullanarak ihlalleri daha iyi tanımlayabileceğini iddia ediyor.

Yine de, tüm vaatlerine rağmen, Facebook'un İngilizce konuşulmayan kültürlerde içeriği denetleme yeteneği, çoğu zaman önemli bir eleştiri noktası olmuştur. 2021 sonbaharının başlarında, bir önceki Facebook çalışan sızdırılmış belgeler dahili araştırmalarla ilgiliydi ve ABD ve Birleşik Krallık milletvekillerine yönelik küresel gözetim zayıflıklarını vurguladı. Şimdi sosyal ağ, Few-Shot Learner çalışmalarını 100 dilde ortaya çıkararak bu saldırıları ele almaya çalışıyor. Bu, platformda kullanılan yüzlerce sayının hala çok altında, ancak şirketin olduğundan daha iyi bir konumda olduğunun bir işareti. Firma aracı yinelemeye devam edebilirse, aracını tamir etmenin bir yolunu bulabilir. zedelenmiş itibar.

Kaynak: kablolu

The Batman: WB, Filmin İki Kesimi Arasında Karar Veriyor

Yazar hakkında