Tutkijat paljastavat yksinkertaisen mutta tehokkaan menetelmän syväväärennösten saamiseen kiinni
Deepfakejen tuhoisat mahdollisuudet lisääntyvät vuosi vuodelta, varsinkin kun tiedeTekniikkojen kypsymisen takana tiedemiesryhmä on keksinyt luotettavan menetelmän keinotekoisesti luotujen kasvojen tunnistamiseksi analysoimalla pupillien muotoa. Deepfakeja luodaan generative adversaria network (GAN) avulla, ja vuosien mittaan teknologiasta on tullut niin pitkälle kehitettyä. että on tullut yhä vaikeammaksi erottaa todellisen ihmisen kasvot sellaisista, jotka on luotu koneoppimisen avulla malli. Vaikka tällä tekniikalla on joitain kaupallisia sovelluksia, siinä on synkkä puoli, joka on paljon kylmempi ja jolla on vakavia seurauksia.
Petosten ja identiteettivarkauksien mahdollisuus on erittäin suuri, mutta tarvittavien sääntelyvälineiden laatiminen ja tekijänoikeuskehyksestä on jo tullut painajainen tekniikan ympärillä, joka käyttää tekoälyä luomiseen sisältö. Viime vuonna Microsoft lanseerasi työkalun nimeltä Microsoft Video Authenticator suunniteltu tunnistamaan syväväärennössisältöä videoista. Muutama kuukausi sitten Facebook myös yksityiskohtaisesti
Tässä Albanyn yliopiston, Buffalon yliopiston ja Keya Medicalin tutkijoiden viimeisin yhteistyötutkimus tarjoaa toivon säteen. A tutkimus paperi otsikolla "Silmät kertovat kaiken: Epäsäännölliset pupillimuodot paljastavat GANin luomat kasvot" kuvailee menetelmää syvän väärennettyjen kasvojen havaitsemiseksi tutkimalla pupillin muotoa - ihmisen silmän mustan keskustan. Keskeinen lähtökohta on, että ihmisen pupilli on muodoltaan pyöreä, mutta sisäänpäin keinotekoisesti luodut kasvot, oppilaan geometria ei ole tasainen ja on yleensä vääristynyt. Tiedemiehet huomauttavat, että epäsäännöllinen pupillimuoto on yleistä jopa korkealaatuisissa syväväärennöksissä ja se on helposti havaittavissa myös paljaalla silmällä. Näitä pupillien muodon epäsäännöllisyyksiä kutsutaan artefakteiksi, ja ne johtuvat "fysiologisten rajoitteiden" puutteesta syväväärennösten luomiseen käytetyissä malleissa.
Ratkaisu, joka odottaa aseistamista
Tiedemiehet loivat myös automatisoidun järjestelmän, jolle syötettiin kuvia tuhansista todellisista kasvoista ja GAN-luotain keinotekoiset kasvot tutkiakseen, kuinka yllä kuvattua merkkiä voidaan käyttää luotettavana syväfake-menetelmänä henkilöllisyystodistus. Tiimi kehitti mittaustuloksen nimeltä Boundary Intersection-Over-Union (BIoU) -pisteet, jotka perustuvat kaavaan pisteiden määrittämiseksi kuvan oppilaan muodon mukaan. Todelliset ihmiskasvot, joilla on tasaisen elliptinen pupillimuoto, saavuttivat korkeat BIoU-pisteet, kun ne läpäisivät analyysimallin, kun taas oppilaiden artefaktit keinotekoisesti luotu kuva johti alhaiseen BIoU-pisteeseen. Tutkimuksessa mainitaan, että menetelmä on samanaikaisesti erittäin tehokas ja yksinkertainen.
Mutta tässä on kaksi asiaa. Pieni este on se, että jotkin sairaudet ja tulehdukset voivat muuttaa oppilaan muotoa, mikä voi johtaa menetelmän epäonnistumiseen. Nämä ovat kuitenkin harvinaisia tapauksia, eivätkä ne mitätöi sitä tiede heidän takanaan. Pakollisempi ongelma on se, että pahantahtoiset osapuolet voivat nyt ottaa oppia tämän tutkimuksen tuloksista – joka on nyt julkista – ja kehittää vastaavasti GAN-järjestelmiään. Tuloksena on, että heidän syväväärennöksensä ovat nyt entistä vakuuttavampia tasamuotoisilla pupuilla katsojien huijaamiseksi. Maailmassa, jossa yritys voi jo luoda synteettisiä versioita oikean henkilön kasvoista ja käyttää niitä mainoksissa ilman lupaa, vain ihmisen mielikuvitus rajoittaa huonojen toimijoiden väärinkäytön mahdollisuuksia.
Lähde: arXiv
Star Wars paljastaa vihdoin, miltä Darth Plagueis näyttää
Kirjailijasta