Clubhouse arbeitet an der Funktion "Räume melden", aber wird sie Moderationsprobleme lösen?

Clubhaus arbeitet an einer neuen Sicherheitsfunktion, die es Benutzern ermöglicht, einen Raum zu melden, wenn festgestellt wird, dass das aufgeführte Thema gegen die Community-Richtlinien verstößt. Die Plattform verfügt bereits über eine Reihe von Regeln, die Benutzern raten, hasserfüllte, diskriminierende und beleidigende Gespräche zu unterlassen. Um sie durchzusetzen, hat Clubhouse eine Vielzahl von benutzerorientierten Lösungen entwickelt, wie z die Fähigkeit zum Stummschalten, blockieren oder werfen Sie Schurken aus einer laufenden Live-Audio-Sitzung heraus.

Nutzer können bereits einen Zuschauer in Echtzeit melden als das Gespräch geht weiter. Darüber hinaus besteht auch die Möglichkeit, einen vergangenen Vorfall nach Beendigung des Raums zu melden. Schwieriger wird die Situation jedoch, wenn ein Raum ausschließlich mit dem Ziel geschaffen wurde, Fehlinformationen zu verbreiten oder hasserfüllte Inhalte und wird von Gleichgesinnten bevölkert, die wahrscheinlich keinen Teilnehmer wegen Verstoßes gegen die Regeln melden. Wenn dieser Raum privat ist, sind die Chancen, die ungesunden Clubhaus-Gespräche zu entdecken und zu melden, noch geringer.

In den letzten Monaten gab es mehrere Vorfälle von Clubhaus-Chats, in denen COVID-19-Verschwörungen und Antisemiten diskutiert wurden Diskurse wurden gemeldet, was digitale Aktivisten dazu veranlasste, robustere Funktionen zu fordern, um solche Räume zu melden und Gespräche. Jetzt sieht es so aus, als sei eine Lösung in Arbeit. Jane Manchun Wong kürzlich geteilte Screenshots einer in der Entwicklung befindlichen Funktion in Clubhouse, die es Benutzern ermöglicht, einen Raum zu melden, wenn das dafür aufgeführte Thema anstößig erscheint. Basierend auf den Screenshots haben Clubhouse-Benutzer bald zwei umsetzbare Optionen, wenn sie auf einen problematischen Raum stoßen – verstecken oder melden. Wenn Benutzer einen Raum melden möchten, werden sie aufgefordert, den Grund anzugeben, der von Belästigung und Gewalt bis hin zu Hassreden reichen kann.

Eine willkommene Abwechslung, aber reicht es?

Oberflächlich betrachtet scheint die Möglichkeit, Räume zu melden, eine sinnvolle Ergänzung zu sein, und wenn sie gut gehandhabt wird, könnte sie einen großen Beitrag dazu leisten, die Plattform vor den Inhaltsproblemen zu schützen, die aufgetreten sind verfolgte die Likes von Facebook und Twitter. Falls der Name eines Raums jedoch nicht auf seinen wahren Zweck hindeutet, wird die bevorstehende Funktion wahrscheinlich fast nutzlos. Darüber hinaus wird die Möglichkeit, Räume zu melden, nicht alle Probleme bei der Moderation von Clubhouse-Inhalten lösen, insbesondere die Herausforderungen, die mit der Moderation von Audio in Echtzeit einhergehen. Außerdem besteht die Gefahr, dass ein gezielter „Berichterstattungsangriff“ mit politischer oder ideologischer Agenda könnte gegen einen Raum gestartet werden und ein scheinbar produktives Gespräch schon vorher sabotieren beginnt. Wenn Ihnen das bekannt vorkommt, liegt das daran, dass ein ähnliches Online- „Überprüfungsbombardierung“ Das Phänomen ist sehr real und hat sich in letzter Zeit zu einem großen Problem für Herausgeber und Ersteller von Inhalten entwickelt. Schließlich befindet sich die Funktion selbst derzeit in der Entwicklung, was bedeutet, dass es möglich ist, dass die Meldung eines Raums das Experimentierstadium nie verlässt.

Clubhouse sagt, dass sein Team umgehend nachforscht, wenn ein Vorfall gemeldet wird, und zwar so weit wie vorübergehendes Aufbewahren der Audioaufnahmen, um problematische Inhalte zu identifizieren, bevor geeignete aufgenommen werden Strafaktion. Es reicht jedoch nicht immer. Das liegt in erster Linie daran, dass Audio eine ganz andere Einheit ist als Text, Bilder und Videos. Zum Beispiel werden Plattformen oft eingerichtet a System, das blockiert problematische Hashtags oder markiert automatisch Wörter, die beleidigend oder schädlich sind. In ähnlicher Weise können Modelle für maschinelles Lernen trainiert werden, um gewalttätige oder explizite visuelle Inhalte zu erkennen, und sie werden bereits auf mehreren Plattformen verwendet.

Bei Audio ist der erste erforderliche Schritt der Erstellung von KI-gestützten Systemen mit natürlichen Sprachverarbeitungs-Chops, die schädliche Wörter oder Phrasen in Echtzeit kennzeichnen können. Ganz zu schweigen von mehreren Sprachen und unterschiedlichen Akzenten. Sobald dieses System betriebsbereit ist, wird ein Team von menschlichen Moderatoren, die nach maschinell generierten Berichten schnell reagieren können, eine Notwendigkeit. Die Technologie zum Identifizieren und Melden schädlicher Audioinhalte ist jedoch nicht so ausgereift wie die für Text- und visuelle Markierungen. Darüber hinaus müsste Clubhouse sowohl technologisch als auch personell schnell genug skalieren, um das Problem zu lösen, bevor die Plattform mit kontroversen Inhalten überschwemmt wird. Das ist alles leichter gesagt als getan.

Ja, Investoren haben kürzlich Milliarden von Dollar in das Unternehmen gesteckt, um ihm zu helfen, die notwendige Infrastruktur zu entwickeln und sein gehyptes Potenzial auszuschöpfen. Gleichzeitig mangelt es auch nicht an Startup-Experten, die sich Sorgen machen, dass Clubhouses Ambitionen „der nächste“ zu werden sozialen Medien Phänomen' folgen einem vorhersehbaren Weg und werden bald zusammenbrechen. Bevor die hochgesteckten geschäftlichen Ambitionen verwirklicht werden können, muss Clubhouse maßgebend beweisen, dass es in der Lage ist Umgang mit Fehlinformationen und hasserfülltem Verhalten besser als die größeren Haie in den sozialen Medien Ozean. All dies muss auch passieren, während gleichzeitig mit der zunehmenden Konkurrenz von Twitter Spaces konkurriert wird, die sich in rasender Geschwindigkeit zu entwickeln scheinen. Clubhouse gewinnt in beeindruckender Geschwindigkeit neue Benutzer, insbesondere in Märkten wie Indien, was für die Interessengruppen definitiv eine gute Nachricht ist. Clubhouse muss dieses Wachstum jedoch mit der Entwicklung eines effizienten Content-Moderationssystems ausgleichen.

Quelle: Jane Manchun Wong/Twitter

Monica Rambeau von WandaVision ist ein wahrer Superheld in der epischen Fankunst

Über den Autor