Facebook susține că AI-ul său este mai rapid decât predecesorul la capturarea conținutului rău

Facebook a divulgat detalii despre noul său sistem de moderare a inteligenței artificiale (AI) și susține că este chiar mai bun la descoperirea postărilor proaste decât versiunea anterioară. Rețeaua de socializare s-a confruntat de multă vreme cu provocări de control al conținutului de pe platforma sa, o situație doar exacerbată de dimensiunea bazei sale de utilizatori și de volumul mare de limbi pe care le acceptă. Cu cât mai mulți oameni se înscriu pe Facebook, cu atât mai mulți trebuie să monitorizeze ce spun ei, și limbile contrastante cu care o spun.

De-a lungul anilor, firma deținută de Meta a trebuit să se ocupe de toate porno răzbunare și dezinformarea COVID-19 la interferența electorală și genocidul din Myanmar. Dar, așa cum fiecare problemă este diferită, la fel de des sunt abilitățile necesare pentru a identifica și elimina conținutul asociat. Pentru asta, compania se bazează pe o armată de moderatori umani a căror sarcină este să verifice rapoartele despre postări potențial ofensatoare. Totuși, pentru o operațiune de dimensiunea Facebook, recrutarea suficienților oameni pentru a face o astfel de muncă este dificil de scalat și, prin urmare, se bazează pe instrumente AI pentru a servi drept apărare de primă linie. Aceste programe sunt instruite pe o multitudine de date eșantioane (imagini, videoclipuri, text), permițând mașinii să învețe în mod eficient ce reprezintă conținut prost, astfel încât să poată fi apoi eliminat.

Facebook a introdus un nou sistem AI numit Few-Shot Learner, despre care spune că este mai eficient în descoperirea materialelor supărătoare. La fel de Cablat notează, platforma socială din Menlo Park susține că Few-Shot Learner poate lucra cu un set de antrenament mai mic, permițându-i să facă față conținutului care încalcă în doar șase săptămâni, în scădere față de intervalul anterior de șase luni. Facebook spune că a introdus pentru prima dată Few-Shot Learner la începutul acestui an și că se poate descurca deja postări care îi încurajează pe alții să nu se vaccineze împotriva COVID-19, o regulă care a intrat în vigoare în Septembrie.

O mai bună interpretare a regulilor

Cornelia Carapcea, manager de produs Facebook AI, spune că nu este vorba doar de capacitatea de a lucra cu mai mici seturi de antrenament care îl fac pe Few-Shot Learner atât de util, încât poate interpreta mai bine platforma termenii de utilizare. În mod obișnuit, moderatorii umani trebuie să facă referințe încrucișate la un manual care acoperă mii de reguli și care este în mod constant ajustat pentru a acoperi tot mai multe cazuri marginale. Din cauza acestui nivel de complexitate, Facebook a introdus un Consiliul de Supraveghere pentru a monitoriza regulile pe care le-a aplicat. Carapcea susține că Few-Shot Learner poate identifica mai bine încălcările folosind doar indicații ample.

Totuși, în ciuda tuturor promisiunilor, capacitatea Facebook de a modera conținutul în culturile care nu vorbesc engleza a fost adesea un punct cheie de critică. La începutul toamnei anului 2021, a fost Facebook angajat a scurs documente referitoare la cercetarea internă și a evidențiat deficiențele sale globale de supraveghere în fața legislatorilor din SUA și Marea Britanie. Acum, rețeaua socială încearcă să abordeze aceste atacuri dezvăluind lucrările Few-Shot Learner în 100 de limbi. Este încă mult sub sutele folosite pe platformă, dar este un semn că compania se află într-o poziție mai bună decât era. Dacă firma poate continua să repete instrumentul, ar putea merge într-un fel pentru a-l repara reputația deteriorată.

Sursă: Cablat

The Batman: WB decide între două tronsoane de film

Despre autor