Tālummaiņa vēlas izsekot jūsu emocijām. Lūk, kas jums jāzina
28 cilvēktiesību organizāciju kolektīvs ir mudinājis Tālummaiņapārtraukt darbu pie emociju izsekošanas sistēmas, kuras mērķis ir analizēt lietotāju iesaistīšanos un noskaņojumu. Protams, ideja jau sākotnēji izklausās invazīva, taču tas nav pirmais šāda veida projekts, kad runa ir par gala mērķi. Jau tagad ir pieejami daudzi programmatūras produkti, kas paredzēti attālinātiem darbiniekiem, kas izseko visu, sākot no peles klikšķiem līdz darbībām tīmeklī darba devēju vārdā.
Par šiem produktiem jau ir dalījušies viedokļi, taču lietotāju darbību uzraudzība notiek visās formās un formās, un dažreiz arī no ārkārtīgi nenojaušamiem avotiem. Nesenā izmeklēšanā atklājās, ka vesels skaits garīgās veselības un meditācijas lietotnes, kas saistītas ar datu ieguvi un nodeva to trešajām personām reklamēšanai. Taču lietotāju aktivitāšu uzraudzības joma pandēmijas laikmetā paplašinājās, izmantojot korporatīvos risinājumus, lai novērtētu darbinieku pieejamību un uzmanību. Šķiet, ka Zoom, viens no lielākajiem veiksmes stāstiem šajā dramatiskās darba maiņas laikmetā, arī bija iesaistīts savā satraucošā projektā.
Cīņa par nākotni kopā ar 27 citām cilvēktiesību organizācijām ir rakstīts atklāta vēstule Zoom, aicinot apturēt AI vadīto emociju izsekošanas programmatūru, kas pēta videozvana dalībnieku sejas izteiksmi. Organizācija klasificēja programmatūru kā "diskriminējoša, manipulatīva, potenciāli bīstama”, turklāt norādot, ka tā pamatā ir kļūdains pieņēmums, ka tādi marķieri kā balss raksts, sejas izteiksmes un ķermeņa valoda ir vienādi visiem cilvēkiem. Aiz kritikas, piemēram, sejas, slēpjas pamatotas bažas atpazīšanas algoritmus un citus uz AI balstītus produktus ir izrādījušies kļūdu iespējamība, apstrādājot attēlus, kuros attēloti cilvēki ar dažādām krāsām un dažādām ķermeņa formām. Saskaņā ar ziņojumu no Protokols, videokonferenču gigants strādā pie produkta Zoom IQ, kas sapulces rīkotājam piedāvās kaut ko, ko sauc par noskaņojuma analīzes ziņojumu, tiklīdz zvans būs beidzies.
Jauns AI vadītas izsekošanas laikmets
Tiek ziņots, ka ir uzņēmumi, piemēram, Uniphore un Sybill, kas izstrādā produktus, kuru mērķis ir izmantot AI, lai reāllaikā uzraudzītu cilvēku uzvedību videozvanu laikā. No otras puses, Zoom pēta veidus, kas ļaus iekļaut šādu sistēmu savā produktu portfelī. “Tie ir informatīvi signāli, kas var būt noderīgi; tie ne vienmēr ir izšķiroši"Zoom produktu (datu un AI) vadītājs Džošs Dulbergers citēja. Neskatoties uz Zoom vadītāja piesardzīgo skatījumu, ideja par AI analizēt videozvana dalībnieku sejas izteiksmes un vērtējumu noskaņojumu, maigi izsakoties, ir diezgan satraucoša. Bažas ir pamatotas, un pēc gadiem ilgas ekspertu un aktīvistu aizstāvības Arī ASV valdība ir iesildījusi šo ideju mākslīgā intelekta regulēšanai.
Lai gan Zoom produkta privātuma iejaukšanās priekšnoteikums noteikti zvana trauksmes zvani, patiesi satraucošs ir pieņēmums “viens izmērs der visiem” un tas, vai šāda tehnoloģija vispār ir uzticama. Otrā vēstulē Zoom eksperti brīdināja, ka šādas sistēmas pamatā ir pseidozinātne kā mašīna mācīšanās nav īsti pierādījusi, ka spēj izprast cilvēka emocijas, kuru pamatā ir seja izteiksmes. Par to arī brīdināja eksperti neskatoties uz visiem tās labajiem nodomiem, šāds produkts varētu tikt izmantots, lai īstenotu soda darbības vairākās jomās, nevis tikai korporatīvajā pasaulē, un tas arī pavērs ceļu jauna nozare, kurā emociju analīze novedīs pie spēcīgākām digitālajām manipulācijām un atvērs slūžas ārkārtīgi personisku lietotāju ievākšanai datus. Ja tiek izpildīts, Tālummaiņa produkts piešķirtu pilnīgi jaunu dimensiju diskriminējošām AI normām.
Avots: Cīnies par nākotni, Protokols
Ceturtā fāze ir pārvērtusi mūžības beigas milzīgā MCU sižeta caurumā
Par autoru