Gradient-fotoredigeringsapp kritiseret over 'racistisk' AI-ansigtsfunktion

Fotoredigering smartphone app Gradient er under beskydning på sociale medier for en ny annonceret funktion, der lader folk se et billede af sig selv i forskellige etniciteter. Selvom Gradient -appen ikke ligefrem er blevet viral, er den første feedback fra onlinefællesskabet ser ud til enten bare at have det sjovt med billeder eller dybt bekymret over den potentielle racemæssige skævhed ved Spil.

Gradient -appen blev lanceret i Google Play og App Stores i efteråret 0f 2019 af Ticket to the Moon, Inc. Drevet af to kunstige intelligens- og maskinlæringsentusiaster begyndte det oprindeligt som en ansigtsredigeringsapp, der udnyttede AI til mere effektiv manipulation af selfies og andre sociale mediebilleder. Udviklerne tilføjede snart flere trivielle funktioner for sjov, såsom muligheden for at gøre sit billede til et klassisk portræt. Ved den næste opdatering, der blev frigivet i marts, kunne Gradient -appen scanne en persons ansigt og forudsige deres DNA -aner efterfulgt af en funktion, der forudsiger, hvilket dyr en person mest ligner. Team Gradient begyndte imidlertid snart at vove sig ind i mere risqué -område og tilbyder folk i appen muligheden for at scanne sig selv og modtage en 'beauty score'. Det her i sidste uge bruger appens seneste opdatering AI og ansigtsgenkendelse til at forandre et billede og demonstrere, hvordan denne person ville se ud i 'Europa', 'Asien', 'Indien' og 'Brasilien.'

Ifølge Gradient's internet side, denne nye funktion, kaldet AI Face, giver en person mulighed for at 'finde ud af, hvordan du ville se ud, hvis du var født på et andet kontinent. ' Webstedet og skærmbilleder af appen på Twitter afslører, at flere af de udbudte steder faktisk er lande, ikke kontinenter, herunder Brasilien og Indien. Mens Indien og Asien er to separate valgmuligheder på Gradient til manipulere ens hudfarve og ansigtsform, er det vigtigt at bemærke, at Indien faktisk er en del af Asien. Denne form for bred forening af forskellige kulturer og etniciteter er allerede begyndt at høste negativt reklame for appen, især efter tilfældigt at have brugt B-List reality-stjerner til at promovere den på det sociale medier.

Gradient: A Short-Lived Fad Eller A Hill Worth Dying On?

Indtil videre synes mange mennesker, der bruger Gradient -appen, at prøve det en gang for sjov at se, hvordan de ser ud som en person af andre etniciteter, og derefter gå videre. Andre ser det dog ikke som uskyldigt og er mere bekymrede over bias, AI selv koder. Reality-personlighederne Scott Disick og Brody Jenner tweetede begge deres egne billeder ved hjælp af Gradients AI Face-funktion og var begge meget tydelige i deres tweets, at det var en betalt annonce. Twitter var dog hurtig til at angribe og satte spørgsmålstegn ved appens intentioner, mens han udtrykte forargelse over for billederne. Både Disick og Jenner deaktiverede kommentarer efter at have været bombarderet med beskyldninger om racisme og fremme af 'blackface'. Hellere end bare springe på nogen for at promovere en app for penge, nogle mere informerede personer i AI -samfundet opfordrede til konstruktiv handling.

Professor Anima Anandkumar, direktør for AI -forskning i Nvidia, Tweeted at selvom Gradient-appen tydeligvis bruger racemæssig bias, som er uvelkommen, kan den tjene som en effektiv mulighed for Twitter til at udføre en kontrolleret undersøgelse af sin egen AI-beskæringsteknologi. Prof. Anandkumar brugte selv appen i flere tweets til at udnytte AI racemæssig bias Twitter udførte, hvor billedet med den mørkere hud aldrig var valgt som kandidat til fremhævede afgrøde.

Mens Anandkumar stadig brugte sin platform til at påpege de klare racemæssige fejl i Gradient-appen, Anandkumar har også bedt Twitter om at bruge lejligheden til at rette op på sin egen racemæssige skævhed, der er overbevisende til stede i dens AI. Skulle Gradient-appen få mere fart og gå over til en rødglødende app som TikTok, ville det helt sikkert føre til mere kontrovers. Indtil videre flyver Gradient-appen (selv om den er tydeligt mangelfuld) stadig under samfundets radar for det meste.

Kilde: Gradient, Prof. Anima Anandkumar/Twitter

Star Wars afslører de originale riddere af Ren, Aliens inkluderet

Om forfatteren