Kuinka tunnistaa tekoälyn luomat kasvot?

Pieni tiimi tutkijoita New Yorkin osavaltion yliopistosta Albanyssa ja Buffalossa sekä Keya Medicalista ovat löytäneet yleisen vian tietokoneiden luomista kasvoista. Vikaa voidaan käyttää valheellisten kasvojen tunnistukseen. Tutkijatiimi on kirjoittanut artikkelin löydöksistään ja ladannut sen arXiv-serverille.

Muutamien viime vuosien aikana deepfake-valekuvat ja -valevideot ovat olleet uutisotsikoissa jatkuvasti, koska niin amatöörit kuin ammattilaisetkin voivat luoda kuvia ja videoita, jotka näyttävät aidoilta ihmisiltä tekemässä asioita, joita he eivät todellisuudessa koskaan tekisi. Vähemmän raportoitu ja silti samaan asiaan liittyvä ongelma on tietokoneilla luotujen kuvien lisääntyminen ihmisistä, joita ei koskaan ole todella ollut olemassa. Näitä kuvia voidaan luoda käyttäen GAN-verkkoja ja niitä on alkanut ilmaantua raporttien mukaan osana valheellisia sosiaalisen median profiileja, joita käytetään huijauksissa ja muussa rikollisessa toiminnassa.

GAN on syväoppimisen teknologia, jossa neuraaliverkot opetetaan kuvien avulla tunnistamaan miltä ihmisen pää ja kasvot näyttävät. Tämän jälkeen ne voivat luoda kasvoja tyhjästä.

Tulos voidaan kuvailla keskiarvoksi kaikista verkon tutkimista kuvista. Luodut kasvot lähetetään tämän jälkeen toiselle neuraaliverkolle, joka yrittää tunnistaa onko kyseinen kuva aito vai ei. Epäaidoiksi kuviksi todetut lähetetään takaisin ensimmäiselle verkolle. Prosessi jatkuu useita kertoja, kunnes tuloksena on mahdollisimman aito kuva. Jossakin vaiheessa kuvat todetaan valmiiksi. Tietenkään tämä prosessi ei ole täydellinen ja sen paljastaa myös tämä tutkijoiden uusi raportti. He pystyivät toteamaan käyttäen kirjoittamaansa ohjelmistoa, että GAN luo yleensä ei pyöreät pupillit, mitä puolestaan voidaan käyttää tietokoneen luomien kasvojen tunnistamiseen.

Tutkijat huomioivat, että monissa tapauksissa käyttäjä voi vain zoomata henkilön silmiin ja havaita sieltä pupillien virheellisyyden, jos ihminen ei ole aito. Lisäksi he huomioivat, että nämä virheet havaitsevan ohjelmiston kirjoittaminen on hankalaa ja siksi sosiaaliset mediat eivät pysty vielä käyttämään sitä valheellisten tilien poistamiseen. Valitettavaa on myös, että tiedon julkistamisen takia valheellisia kuvia luovat henkilöt voivat vain lisätä koodiinsa osion, joka vaatii kuvien kasvoissa olevan ympyrän muotoiset pupillit.