Kako podoba 'belega Obame' poudarja rasno pristranskost umetne inteligence

An AI Ugotovljeno je bilo, da algoritem za ustvarjanje de-pikseliziranih fotografij iz pikseliranih ustvari bel obraz iz slikovne slike Baracka Obame. To ni presenetljivo glede na nenehne razprave o rasni pristranskosti orodij za prepoznavanje obrazov AI in primere, ki smo jih prej našli v drugih rešitvah. Takšna pristranskost v AI je velika skrb, saj se na splošno šteje za tehnologijo, ki lahko spremeni številne vidike družbe.

Gibanje Black Lives Matter postavlja vprašanja o sistemskem rasizmu v sodobnih organih pregona, vključno s tehnologijami in orodji, ki jih uporablja policija. Nekaj ​​primerov, kako rasna pristranskost po AI tehnologije Zaposleni v policijskih upravah, se lahko manifestira v prepoznavanju osumljencev in napovedovanju 'ogroženih' sosesk z uporabo predhodno zbranih podatkov. To je že nekaj časa zaskrbljujoče med raziskovalci in aktivisti, pri čemer je splošno razumevanje tako Orodja AI lahko nesorazmerno vplivajo manjšine, predvsem zaradi pomanjkljivih podatkovnih nizov, ki so bili uporabljeni za njihovo usposabljanje. V zadnjem času je to pripeljalo do tega, da so številna podjetja, ki razvijajo in prodajajo te tehnologije organom pregona, ponovno premislila o svojem trenutnem stališču. V primeru Amazona je podjetje nedavno potrdilo, da je

določitev enoletne prepovedi o uporabi njegove rešitve za prepoznavanje obrazov.

Pred kratkim je algoritem strojnega učenja, imenovan PULSE, ustvaril bel obraz iz slikovne slike Baracka Obame. Ker je Obama verjetno eden najbolj znanih temnopoltih ljudi na svetu, je to opomin na rasno pristranskost, ki jo lahko vidimo v orodjih za slikanje AI. Težavo so na Twitterju označili programerji, ki so testirali PULSE po prenosu objavljena koda iz GitHuba. Kot The Verge poročali, da algoritem ni zasnovan tako, da bi pravilno identificiral pikselizirano vhodno sliko, ampak za izdelavo novega umetnega obraza, ki je podoben pikselirani sliki. Kljub temu se zdi, da kaže resno pristranskost, ko gre za nebele obraze. Algoritem ustvarja tudi obraze s kavkaškimi značilnostmi, ko je vhod pikselirana fotografija kongresnice Alexandre Ocasio-Cortez in igralke Lucy Liu.

Kako deluje PULSE in od kod prihaja pristranskost

PULSE so razvili raziskovalci z univerze Duke z uporabo algoritma StyleGAN, ki so ga ustvarili računalniški znanstveniki NVIDIA. Uporabljali so ga za izdelavo spletnih mest, ki so videti za ustvarjanje realističnih človeških obrazov. Raziskovalci so uporabili StyleGAN za nadgradnjo vizualnih podatkov, to je za zapolnitev manjkajočih podatkov v vnesete pikseliziran obraz in si zamislite nov obraz visoke ločljivosti, ki je podoben vhodni sliki, ko pikselirano.

Po rasna pristranskost je bilo objavljeno, so prvotni ustvarjalci potrdili težavo in pojasnili, da čeprav niso prepričani, gre najverjetneje za napako, podedovano iz podatkovnih nizov, ki so bili uporabljeni za usposabljanje StyleGAN. Svojemu so dodali tudi nov razdelek objavljen prispevek o rasni pristranskosti algoritma in različnih načinih, kako bi lahko nastal. To je spodbuden korak, saj lahko iskanje in poročanje o slabostih tehnologije na raziskovalni ravni v veliki meri pomaga pri razvoju praktičnih orodij.

Kljub temu je incident opomnik, kako se lahko pristranskost prikrade v tehnologije, zgrajene z uporabo podatkov, ki se zbirajo več let. Od veliki podatki bo ključnega pomena pri oblikovanju prihodnosti, je ključnega pomena, da se sprejmejo potrebni ukrepi za zagotovitev kakršne koli diskriminacije Vsebovani v naboru podatkov umetne inteligence ne pomeni resne pristranskosti v tehnologiji, ustvarjeni z uporabo podatkov.

vir: The Verge, GitHub

Film Uncharted: Zakaj je Drakeov brat Sam skrit v napovedniku?

O avtorju