Facebook beweert dat zijn AI sneller is dan zijn voorganger bij het vangen van slechte inhoud

Facebook heeft details onthuld van zijn nieuwe kunstmatige intelligentie (AI) moderatiesysteem en beweert dat het zelfs beter is in het ontdekken van slechte berichten dan de vorige iteratie. Het sociale netwerk heeft lang te maken gehad met uitdagingen bij het controleren van inhoud op zijn platform, een situatie die alleen maar verergerd wordt door de omvang van het gebruikersbestand en het enorme aantal talen dat het ondersteunt. Hoe meer mensen lid worden van Facebook, hoe meer het moet controleren wat ze zeggen, en de contrasterende tongen waarmee ze het zeggen.

In de loop der jaren heeft het bedrijf van Meta alles moeten aanpakken, van: wraakporno en COVID-19-desinformatie over verkiezingsinmenging en genocide in Myanmar. Maar net zoals elk probleem anders is, zo vaak zijn de vaardigheden die nodig zijn om bijbehorende inhoud te identificeren en te verwijderen. Daarvoor vertrouwt het bedrijf op een leger van menselijke moderators wiens taak het is om berichten over mogelijk aanstootgevende berichten te doorzoeken. Toch is het voor een operatie van de omvang van Facebook moeilijk op te schalen om voldoende mensen aan te werven om zo'n taak te doen, en daarom is het afhankelijk van AI-tools om als frontlinieverdediging te dienen. Die programma's zijn getraind op een overvloed aan voorbeeldgegevens (afbeeldingen, video's, tekst), waardoor de machine effectief kan leren wat slechte inhoud is, zodat deze vervolgens kan worden verwijderd.

Facebook heeft een nieuw AI-systeem geïntroduceerd met de naam Few-Shot Learner, waarvan het zegt dat het efficiënter is in het blootleggen van verontrustend materiaal. Als Bedrade merkt op, het op Menlo Park gebaseerde sociale platform beweert dat Few-Shot Learner kan werken met een kleinere trainingsset, waardoor het in slechts zes weken tijd kan omgaan met inbreukmakende inhoud, minder dan het vorige bereik van zes maanden. Facebook zegt dat het eerder dit jaar voor het eerst Few-Shot Learner introduceerde en dat het nu al aankan berichten die anderen aanmoedigen om geen COVID-19-vaccinaties te krijgen, een regel die van kracht werd in September.

Betere interpretatie van regels

Cornelia Carapcea, een Facebook AI-productmanager, zegt dat het niet alleen de mogelijkheid is om met kleinere te werken trainingssets die Few-Shot Learner zo nuttig maken, is dat het ook de platformen beter kan interpreteren gebruikersvoorwaarden. Doorgaans moeten menselijke moderators een handboek raadplegen dat duizenden regels omvat en dat voortdurend wordt aangepast om steeds meer randgevallen te behandelen. Het was deels vanwege dit niveau van complexiteit dat Facebook een Raad van toezicht om toezicht te houden op de regels die het handhaaft. Carapcea beweert dat Few-Shot Learner schendingen beter kan identificeren met behulp van alleen brede aanwijzingen.

Ondanks alle beloftes is het vermogen van Facebook om inhoud in niet-Engelstalige culturen te modereren vaak een belangrijk punt van kritiek geweest. In het vroege najaar van 2021, a vroegere Facebook werknemer gelekte documenten met betrekking tot intern onderzoek en benadrukte de zwakke punten van het wereldwijde toezicht bij wetgevers in de VS en het VK. Nu probeert het sociale netwerk die aanvallen aan te pakken door te onthullen dat Few-Shot Learner werkt in 100 talen. Dat is nog steeds veel minder dan de honderden die op het platform worden gebruikt, maar het is een teken dat het bedrijf zich in een betere positie bevindt dan het was. Als het bedrijf de tool kan blijven herhalen, kan het een manier zijn om het te repareren beschadigde reputatie.

Bron: Bedrade

The Batman: WB Kiezen tussen twee delen van de film

Over de auteur