Twitter si klade za cíl opravit svůj algoritmus pro ořezávání obrázků pomocí programu Bug Bounty
Cvrlikání spouští program odměn, jehož cílem je najít zaujatost vůči AI a pomoci opravit její algoritmy, a vychvalovat jej jako první program odměn za chyby svého druhu v oboru. Twitteru a dalším platformám sociálních médií není problém zaujatosti AI cizí. Začátkem tohoto roku Twitter upustil od svého algoritmu ořezávání obrázků poté, co bylo zjištěno, že AI za ním vystavuje "nerovné zacházení na základě demografických rozdílů." Uživatelé zjistili, že algoritmus oříznutí upřednostňoval tváře se světlejšími tóny pleti a zvýraznil je v rámečku, zatímco tváře s tmavou pletí byly oříznuty.
V pozoruhodném zobrazení transparentnosti Twitter sdílel zjištění v podrobné analýze po provedení hodnocení pomocí 10 000 obrázků. Twitter však není zdaleka jedinou platformou, která má problémy se zkreslením algoritmu. Nástroje hromadného sledování se ukázaly být nepřesné, pokud jde o technologii rozpoznávání obličeje v jejich srdci, protože datová sada, na kterou byli vyškoleni, je zkosená, a proto negativně ovlivňovat menšiny
Twitter, který okusil neblahé efekty systému s algoritmickým zkreslením, je nyní outsourcing práce při hledání nedostatků ve svém vlastním systému prostřednictvím programu odměn za chyby. Toto je běžný přístup k řešení problémů se vstupem řízeným komunitou. Obři jako Apple a Microsoft dosud zaplatili miliony dolarů v programech odměn za chyby a nadále nabízejí lukrativní výplatu za odhalení vážných zranitelností jejich systémů. Co však odděluje iniciativu Twitteru, je to, že je to první program odměn za chyby, který plní úkoly vědci, kteří se zabývají problémem algoritmického zkreslení a zjišťováním nedostatků v systému řízeném AI, který Twitter má vytvořeno.
Twitter vytváří precedens pro platformy sociálních médií
Algoritmická výzva k odměně za zaujatost předpojatosti Twitteru pokrývá zejména její algoritmus významnosti - software, který stojí za jejím oříznutí obrázku Systém. Cílem je vyhledat pomoc od nezávislých odborníků a identifikovat potenciálně škodlivé aspekty algoritmu ořezávání obrázků nad rámec toho, co již Twitter zdokumentoval. Výzva, která je součástí konvence DEF CON AI Village pro rok 2021, má za cíl řešit širší škálu problémů, které tvoří součást celoodvětvové etiky strojového učení a společně identifikují algoritmické zkreslení na mnohem větším měřítko. Twitter bude jako hlavní cenu nabízet odměnu 3 500 $ a bude zasílat příspěvky do 6. srpna 2021 prostřednictvím portálu HackerOne. Účastníci budou požádáni, aby vytvořili vlastní hodnocení na základě modelu význačnosti a kódu, který byl zveřejněn veřejně.
I když je tato výzva pozitivním krokem vpřed správným směrem, Cvrlikání má před sebou ještě dlouhou cestu, stejně jako ostatní společnosti na sociálních sítích. Pro připomenutí oznámil také Facebook plány na zkoumání rasové zaujatosti a posílení inkluzivity platformy v loňském roce. V roce 2019 Cornellova studie odhalila, že tweety od lidí z afroamerické komunity jsou mnohem pravděpodobněji označeny jako nenávistné projevy, což ukazuje na systematickou rasovou zaujatost. Studie provedená výzkumníky University of Washington ve stejném roce také zjistila podobnou sadu problémů s nástrojem vytvořeným společností Google.
Zdroj: Cvrlikání
Změna jména na Facebooku je smutný, zoufalý pokus vás oklamat
O autorovi