Kulüp Binası 'Rapor Odaları' Özelliği Üzerinde Çalışıyor, Ancak Moderasyon Sorunlarını Çözecek mi?

Kulüp binası Listelenen konunun topluluk kurallarını ihlal ettiği tespit edilirse, kullanıcıların bir Odayı bildirmelerine olanak tanıyan yeni bir güvenlik özelliği üzerinde çalışıyor. Platformun halihazırda, kullanıcılara nefret dolu, ayrımcı ve doğası gereği küfürlü konuşmalardan kaçınmalarını tavsiye eden bir dizi kuralı vardır. Bunları uygulamak için Clubhouse, aşağıdakiler gibi bir dizi kullanıcıya yönelik çözüm yarattı: sessize alma yeteneğidevam eden bir canlı ses oturumundan kötü niyetli kişileri, engelleyin veya kovun.

Kullanıcılar zaten bir kitle üyesini gerçek zamanlı olarak şu şekilde bildirebilir: konuşma devam ediyor. Ayrıca, oda sona erdikten sonra geçmiş bir olayı bildirme seçeneği de vardır. Ancak, bir oda yalnızca yanlış bilgi yaymak amacıyla oluşturulmuşsa veya nefret dolu içerik ve herhangi bir katılımcıyı kuralları ihlal ettiği için bildirme olasılığı düşük olan benzer düşünen insanlarla doldurulur. Bu oda özelse, sağlıksız Kulüp binası konuşmalarını keşfetme ve bildirme şansı daha da düşüktür.

Geçtiğimiz birkaç ay içinde, COVID-19 komplolarını ve Yahudi düşmanlığını tartışan çok sayıda Clubhouse sohbeti olayı yaşandı. Dijital aktivistleri bu tür Odalar ve konuşmalar. Şimdi bir çözüm işlerde olabilir gibi görünüyor. Jane Manchun Wong Clubhouse'da, kullanıcıların bir Oda için listelenen konu sakıncalı görünüyorsa bildirmelerini sağlayan geliştirme aşamasındaki bir özelliğin yakın zamanda paylaşılan ekran görüntüleri. Ekran görüntülerine göre, Clubhouse kullanıcıları sorunlu bir Oda ile karşılaşırlarsa yakında iki eyleme geçirilebilir seçeneğe sahip olacaklar: sakla veya bildir. Kullanıcılar bir Odayı şikayet etmeyi seçerlerse, taciz ve şiddete teşvikten nefret söylemine kadar herhangi bir şey olabilecek nedeni belirtmeleri istenecektir.

Hoş Geldiniz Değişikliği Ama Yeterli mi?

Yüzeyde, Odalar bildirme yeteneği anlamlı bir ek gibi görünüyor ve iyi ele alınırsa, platformu içerik sorunlarından korumak için uzun bir yol kat edebilir. Facebook'un beğenisini topladı ve Twitter. Ancak, bir Odanın adının gerçek amacının göstergesi olmaması durumunda, gelecek özelliğin neredeyse işe yaramaz hale gelmesi muhtemeldir. Ayrıca, Odaları rapor etme yeteneği, Clubhouse içerik denetleme sorunlarının tümünü, özellikle de sesi gerçek zamanlı olarak denetlemenin getirdiği zorlukları çözmeyecektir. Ayrıca, siyasi veya ideolojik bir gündemi olan hedefli bir "haber verme saldırısı" riski de vardır. Bir Odaya karşı başlatılabilir ve görünüşte verimli bir konuşmayı daha öncesinden sabote edebilir. başlar. Bu tanıdık geliyorsa, bunun nedeni benzer bir çevrimiçi 'bombalamayı gözden geçir' fenomen çok gerçektir ve son zamanlarda yayıncılar ve içerik oluşturucular için büyük bir sorun haline gelmiştir. Son olarak, özelliğin kendisi şu anda geliştirme aşamasındadır; bu, bir Odayı bildirmenin asla deney aşamasından çıkmama olasılığı olduğu anlamına gelir.

Clubhouse, ekibinin bir olayın rapor edilip edilmediğini derhal araştırdığını ve en ileri noktaya kadar gittiğini söylüyor. uygun şekilde almadan önce sorunlu içeriği belirlemek için ses kayıtlarını geçici olarak saklamak cezai işlem. Ancak, her zaman yeterli değildir. Bunun temel nedeni, sesin metin, resim ve videolara kıyasla tamamen farklı bir varlık olmasıdır. Örneğin, platformlar genellikle bir engelleyen sistem sorunlu hashtag'ler veya küfürlü veya zararlı kelimeleri otomatik olarak işaretler. Benzer şekilde, makine öğrenimi modelleri, şiddet içeren veya müstehcen görsel içeriği belirlemek için eğitilebilir ve halihazırda birden çok platformda kullanılmaktadır.

Ses ile, gereken ilk adım, AI destekli sistemlerin oluşturulması zararlı kelimeleri veya cümleleri gerçek zamanlı olarak işaretleyebilen doğal dil işleme pirzolaları ile. Birden fazla dilde ve çeşitli aksanlarda bahsetmeye gerek yok. Bu sistem çalışmaya başladığında, makine tarafından oluşturulan raporların ardından hızla harekete geçebilen bir insan moderatör ekibi bir zorunluluk haline gelir. Ancak, zararlı ses içeriğini belirleme ve bildirme teknolojisi, metin ve görsel işaretleyiciler için kullanılanlar kadar olgun değildir. Bunun da ötesinde, Clubhouse'un, platform tartışmalı içerikle boğulmadan önce sorunu çözmek için hem teknoloji hem de insan gücü açısından yeterince hızlı ölçeklenmesi gerekecek. Bütün bunları söylemek yapmaktan daha kolay.

Evet, yatırımcılar son zamanlarda gerekli altyapıyı geliştirmesine ve aşırı potansiyeline ulaşmasına yardımcı olmak için şirkete milyarlarca dolar akıttı. Aynı zamanda, Clubhouse'un "bir sonraki "olma" arzusundan endişe duyan startup uzmanları da yok denecek kadar azdır. sosyal medya fenomen' öngörülebilir bir yol izliyor ve yakında çökecek. Yüce ticari hedeflerin gerçekleştirilebilmesi için önce, Clubhouse'un bunu yapabileceğini yetkili bir şekilde göstermesi gerekiyor. yanlış bilgi ve nefret dolu davranış sorununu sosyal medyadaki daha büyük köpekbalıklarından daha iyi bir şekilde ele almak okyanus. Tüm bunlar, baş döndürücü bir hızla gelişiyor gibi görünen Twitter Spaces gibi şirketlerin artan rekabetiyle aynı anda rekabet ederken de gerçekleşmelidir. Clubhouse, özellikle Hindistan gibi pazarlarda etkileyici bir hızla yeni kullanıcılar ekliyor, bu da paydaşlar için kesinlikle iyi bir haber. Ancak Clubhouse'un bu büyümeyi verimli bir içerik denetleme sisteminin geliştirilmesiyle eşleştirmesi gerekiyor.

Kaynak: Jane Manchun Wong/Twitter

WandaVision'dan Monica Rambeau, Epic Fan Art'ta Gerçek Bir Süper Kahraman

Yazar hakkında