Wie Facebook KI verwendet, um gefälschte Konten zu finden und zu entfernen

Facebook verwendet ein neues künstliches Intelligenzsystem (KI), um Milliarden von gefälschten Konten zu erkennen und zu entfernen. Gefälschte und Spam-Konten, die zu schädlichen Zwecken erstellt wurden, bleiben eine ernsthafte Herausforderung für den Social-Media-Riesen. Jetzt scheint es, als hätten Facebook-Ingenieure eine effektive KI-Lösung für dieses Problem gefunden.

Eine riesige Social-Media-Plattform zu betreiben ist eine Sache, sie zu überwachen eine ganz andere. Seit den US-Präsidentschaftswahlen 2016 und dem Brexit-Referendum im Vereinigten Königreich sind Social-Media-Plattformen mehr proaktiv bei der Regulierung Benutzeraktivitäten und Inhalte, um Fehlinformationen zu reduzieren. Doch trotz der verfügbaren Ressourcen sind Facebook und Google hatte nur begrenzten erfolg dabei. Die schiere Menge an Konten und Inhalten erfordert, dass Sie sich auf leistungsstarke automatisierte Systeme verlassen müssen, um sie zu durchsuchen. und obwohl Fake News noch effektiv bekämpft werden müssen, scheint es mit Fake-Accounts besser zu gehen.

Facebooks neuster Bericht zur Durchsetzung von Community-Standards Behauptungen dass die Social-Media-Plattform allein im letzten Jahr mehr als 6 Milliarden gefälschte Konten mit missbräuchlichem Verhalten entdeckt und entfernt hat. Die KI-Technologie, die Facebook dafür einsetzt, ist ein Machine-Learning-Framework namens Tiefe Unternehmensklassifizierung (DEC). Der Bericht weist darauf hin, dass die Zahl der gefälschten Konten 5 Prozent aller seiner monatlichen Benutzer ausmacht. Das ist zwar ein hoher Prozentsatz, aber Millionen von ihnen werden innerhalb von Minuten nach der Registrierung erwischt.

Wie Facebooks KI-Technologie tatsächlich funktioniert

Da isolierte Konten schwer zu klassifizieren sind, analysiert DEC nicht nur die individuelle Aktivität eines Kontos, sondern auch, wie es mit anderen Entitäten interagiert. Während es für Angreifer leicht ist, ihre individuellen Aktivitäten normal zu halten, ist es für sie weniger leicht, normales Verhalten und Interaktionen mit anderen Konten, Seiten oder Gruppen vorzutäuschen. Dies hilft dem Facebook-System, den sozialen Graphen verdächtiger Konten zu untersuchen, und dies erfolgt auf mehreren Ebenen unter Verwendung von Direkt-, Fanout- und aggregierten Funktionen. Direkte Funktionen umfassen Aspekte wie Alter, Geschlecht und Anzahl der Freunde, wenn es sich um ein persönliches Konto handelt. Für Seiten (oder Gruppen) betrachtet DEC die Anzahl der Fans (oder Mitglieder) und Kategorien. In der Zwischenzeit bestehen Fanout-Typen aus verwalteten Seiten, Beiträgen oder Statusaktualisierungen und der Anzahl der Administratoren, wenn es sich um eine Gruppe oder eine Seite handelt. Darüber hinaus werden diese beiden Arten von Merkmalen mit mathematischen Funktionen aggregiert, um eine tiefere Analyse zu ermöglichen. DEC verwendet Tausende solcher Funktionen in seinem Entscheidungsprozess, um Konten zu analysieren und ist so in der Lage, die gefälschten Konten effektiver als je zuvor zu lokalisieren.

Es wäre interessant zu sehen, wie groß der Einfluss dieses Systems auf die bevorstehenden US-Präsidentschaftswahlen sein wird. Facebook, frisch aus dem Cambridge Analytica-Skandal, ist weiterhin konfrontiert harte Kritik dafür, dass sie nicht genug tun, um Fake News einzudämmen, und während andere Social-Media-Plattformen diesbezüglich einige Maßnahmen ergreifen, hat Facebook weniger weitreichende Änderungen vorgenommen. Darüber hinaus waren das Unternehmen und der CEO, Mark Zuckerberg, beschuldigt, aktiv geholfen zu haben bei der Wählermanipulation. Obwohl dieses Vorgehen gegen Fake-Accounts (und die letzte Ankündigung über Maßnahmen gegen Deepfakes) Schritte in die richtige Richtung sind, würden viele argumentieren, dass Facebook noch viel zu tun hat.

Quelle: Facebook

Thor Writer entschuldigt sich für riesigen Marvel-Kontinuitätsfehler mit Mjolnir

Über den Autor