Aplikacija za urejanje fotografij Gradient kritizirana zaradi "rasistične" funkcije AI obraza

Urejanje fotografij pametni telefon Aplikacija Gradient je na družbenih medijih pod kritikami zaradi nove oglaševane funkcije, ki ljudem omogoča ogled podobe samega sebe pri različnih etničnih skupinah. Čeprav aplikacija Gradient še ni postala virusna, so začetne povratne informacije spletne skupnosti zdi se, da se preprosto zabava s slikami ali pa je globoko zaskrbljen zaradi morebitne rasne pristranskosti igraj.

Aplikacijo Gradient je v trgovinah Google Play in App Stores jeseni 0f 2019 predstavila Ticket to the Moon, Inc. Vodila sta jo dva navdušenca nad umetno inteligenco in strojnim učenjem, sprva pa se je začela kot aplikacija za urejanje obraza, ki uporablja umetno inteligenco za učinkovitejšo manipulacijo selfijev in drugih slik družbenih medijev. Razvijalci so kmalu dodali še trivialne funkcije za zabavo, kot je možnost spreminjanja svoje slike v klasičen portret. Pri naslednji posodobitvi, izdani marca, bi lahko aplikacija Gradient skeniranje obraza osebe in napovedujejo njihov DNK prednik, čemur sledi značilnost, ki napoveduje, kateri živali je oseba najbolj podobna. Vendar pa se je ekipa Gradient kmalu začela podajati na bolj tvegano ozemlje in ljudem v aplikaciji ponudila možnost, da se sami skenirajo in prejmejo 'lepotni rezultat'. tole prejšnji teden je zadnja posodobitev aplikacije uporabljala umetno inteligenco in prepoznavanje obraza za preoblikovanje slike in prikaz, kako bi ta oseba izgledala v »Evropi«, »Aziji«, »Indiji« in "Brazilija."

Glede na Gradient Spletna stran, ta nova funkcija, imenovana AI Face, omogoča osebi, 'ugotovite, kako bi izgledali, če bi bili rojeni na drugi celini.' Spletno mesto in posnetki zaslona aplikacije na Twitterju razkrivajo, da je več ponujenih lokacij dejansko držav, ne celin, vključno z Brazilijo in Indijo. Medtem ko sta Indija in Azija dve ločeni izbiri, ki sta na voljo na Gradient to manipulirati s tonom kože in obliko obraza, je pomembno omeniti, da je Indija v resnici del Azije. Tovrstno široko združevanje različnih kultur in etničnih skupin je že začelo nabirati negativno oglaševanje aplikacije, zlasti po naključni uporabi zvezdnikov resničnosti z B-seznama za njeno promocijo na družbenih omrežjih medijev.

Gradient: kratkotrajna muha ali hrib, na katerem je vredno umreti?

Zaenkrat se zdi, da je veliko ljudi, ki uporabljajo aplikacijo Gradient, enkrat poskusili za zabavo, da bi videli, kako izgledajo kot oseba drugih etničnih skupin, nato pa nadaljujejo. Vendar drugi tega ne vidijo kot nedolžno in jih bolj skrbi pristranskosti, ki jih kodira sama AI. Resnični osebnosti Scott Disick in Brody Jenner sta objavila svoje slike na Twitterju z uporabo Gradientove funkcije AI Face in oba sta bila v svojih tvitih zelo jasna, da gre za plačan oglas. Vendar je Twitter hitro napadel in podvomil o namerah aplikacije, medtem ko je izrazil ogorčenje nad slikami. Tako Disick kot Jenner sta onemogočila komentarje, potem ko sta bila bombardirana z obtožbami o rasizmu in promociji 'blackface'. Raje kot preprosto skočite na nekoga za promocijo aplikacije za denar, nekateri bolj obveščeni posamezniki v skupnosti AI so pozvali k konstruktivnemu dejanje.

Profesorica Anima Anandkumar, direktorica raziskav umetne inteligence pri Nvidii, Objavljeno na Twitterju čeprav aplikacija Gradient očitno uporablja rasno pristranskost, ki je nezaželena, bi lahko služila kot učinkovita priložnost za Twitter, da izvede nadzorovano študijo lastne tehnologije obrezovanja AI. prof. Anandkumar je sama uporabila aplikacijo v več tvitih za izkoriščanje AI rasna pristranskost Twitter je nastopil, na katerem fotografije s temnejšo poltjo nikoli ni bilo izbran kot kandidat za predstavljeno pridelka.

Medtem ko je Anandkumar še vedno uporabljala svojo platformo, da bi opozorila na jasne rasne pomanjkljivosti aplikacije Gradient, je Anandkumar je tudi pozval Twitter, naj izkoristi priložnost za popravo lastne rasne pristranskosti, ki je prepričljivo prisotna v njej AI. Če bi aplikacija Gradient pridobila večji zagon in se premaknila na vročo aplikacijo, kot je TikTok, bi to zagotovo povzročilo več polemik. Za zdaj pa aplikacija Gradient (čeprav je očitno pomanjkljiva) večinoma še vedno leti pod radarjem družbe.

vir: Gradient, prof. Anima Anandkumar/Twitter

Vojna zvezd razkriva izvirne viteze Rena, vključno z Nezemljani

O avtorju