Zoom želi pratiti vaše emocije, evo što biste trebali znati

Pozvao je kolektiv od 28 organizacija za ljudska prava Zumzaustaviti svoj rad na sustavu za praćenje emocija koji ima za cilj analizirati angažman i osjećaje korisnika. Naravno, ideja zvuči invazivno od samog početka, ali to nije prvi projekt takve vrste kada je u pitanju krajnji cilj. Već postoji tona softverskih proizvoda usmjerenih na udaljene radnike koji prate sve, od klikova mišem do web aktivnosti u ime poslodavaca.

Ovi proizvodi već imaju podijeljena mišljenja, ali praćenje aktivnosti korisnika događa se u svim oblicima i oblicima, a ponekad i iz vrlo nesuđenih izvora. Nedavna istraga otkrila je da je zdrav broj aplikacije za mentalno zdravlje i meditaciju koje se bave rudarenjem podataka te ga predao trećim osobama na oglašavanje. No, opseg praćenja aktivnosti korisnika proširio se u eri pandemije pod okriljem korporativnih rješenja za procjenu dostupnosti i pažnje radnika. Čini se da je Zoom, jedna od najvećih uspješnica u ovoj eri dramatične radne smjene, također bio angažiran u vlastitom zabrinjavajućem projektu.

Borba za budućnost, zajedno s 27 drugih organizacija za ljudska prava, ima napisano otvoreno pismo za Zoom, pozivajući ga da zaustavi softver za praćenje emocija vođen umjetnom inteligencijom koji proučava izraz lica sudionika videopoziva. Organizacija je softver klasificirala kao "diskriminatorno, manipulativno, potencijalno opasno”, nadalje ističući da se temelji na pogrešnoj pretpostavci da su markeri poput uzorka glasa, izraza lica i govora tijela ujednačeni za sve ljude. Iza kritike stoji valjana zabrinutost, kao facijalna algoritmi za prepoznavanje i drugi proizvodi temeljeni na umjetnoj inteligenciji pokazali su se skloni greškama kada je u pitanju obrada slika koje prikazuju ljude boja i različitih oblika tijela. Prema izvješću iz Protokol, div za video konferencije radi na proizvodu pod nazivom Zoom IQ koji će domaćinu sastanka ponuditi nešto što se zove izvješće o analizi osjećaja nakon završetka razgovora.

Nova era praćenja vođenog umjetnom inteligencijom

Postoje tvrtke kao što su Uniphore i Sybill koje navodno razvijaju proizvode koji imaju za cilj iskoristiti AI za praćenje ljudskog ponašanja tijekom videopoziva u stvarnom vremenu. Zoom, s druge strane, navodno istražuje načine koji će mu omogućiti da ugradi takav sustav u svoj portfelj proizvoda. “To su informativni signali koji mogu biti korisni; nisu nužno odlučujuće“, citiran je Josh Dulberger, voditelj proizvoda (podaci i AI) u Zoomu. Unatoč opreznom gledištu izvršnog direktora Zooma, ideja da umjetna inteligencija analizira izraze lica i ocjenjuje osjećaje sudionika u videopozivu je, blago rečeno, prilično uznemirujuća. Zabrinutost je opravdana, a nakon godina zagovaranja stručnjaka i aktivista, Američka vlada također se zagrijala za tu ideju reguliranja umjetne inteligencije.

Iako je pretpostavka narušavanja privatnosti s Zoomovim proizvodom svakako zvona za uzbunu, ono što je uistinu zabrinjavajuće je pretpostavka "jedan za sve" i je li takva tehnologija uopće pouzdana. U drugom pismu za Zoom, stručnjaci su upozorili da se takav sustav temelji na pseudoznanosti kao stroj učenje se zapravo nije pokazalo sposobnim za razumijevanje ljudskih emocija na temelju lica izrazi. Stručnjaci su to dodatno upozorili unatoč svim svojim dobrim namjerama, takav proizvod bi se mogao izokrenuti za provođenje kaznenih mjera u više domena nego samo u korporativnom svijetu, a također će utrti put za nova industrija u kojoj će analiza emocija dovesti do snažnije digitalne manipulacije i otvoriti vrata za prikupljanje iznimno osobnih korisnika podaci. Ako se provodi, Zoom proizvod bi dodao potpuno novu dimenziju diskriminirajućim normama umjetne inteligencije.

Izvor: Borite se za budućnost, Protokol

Faza 4 pretvorila je završetak Vječnih u divovsku MCU radnu rupu

O autoru