Syväväärennökset

2/2021 26.4.2021
robot

Syväväärennös tai ”deep fake” tarkoittaa lyhkäisyydessään tekoälyn ja koneoppimisen avulla tuotettua videota tai kuvaa, joka näyttää erehdyttävän aidolta. Sen avulla voidaan esimerkiksi laittaa sanoja jonkun suuhun tai liimata omat kasvot Hollywood-näyttelijän kehoon.

Ajankohtaisia esimerkkejä on liuta. Eräässä videossa Yhdysvaltain entinen presidentti Barak Obama, 2008-2016, nimittää Donald Trumpia ”complete dipshit:ksi”. Toisessa Mark Zuckerberg, Facebookin perustaja ja omistaja, kerskuu, että hänellä on hallussaan miljardien ihmisten varastettua dataa. Nancy Pelosin, Yhdysvaltain edustajainhuoneen puheenjohtajan äänen muuttamista niin, että hän kuulosti päihtyneeltä, on sanottu ”shallow fake:ksi”

Syväväärennökset esiintyivät huhtikuun Lawyer Monthly-lehden mukaan ensimmäistä kertaa verkossa vuonna 2017. Seuraavana vuonna lehti mietti jo, voidaanko oikeita ja väärennettyjä videoita erottaa toissitaan. Silloin väärennettyjen videoiden laatu oli vielä varsin heikko, mutta nyt niiden laatu on kuitenkin kohentunut merkittävästi.

Deeptrace nimisen organisaation mukaan väärennettyjen videoiden määrä oli vuoden 2019 alussa hiukan alle 8000, mutta jo yhdeksän kuukautta myöhemmin lukumäärä oli melkein tuplaantunut. Ongelmallista on, että runsaat 90 % viedoista ovat pornografisia ja nämä lietsovat niin sanottua kostopornoa.

Kuten muidenkin teknologioiden kanssa, on mahdollisuus valmistaa väärennettyjä videoita on tullut kaikkien ulottuville. Tämä on johtanut räikeisiin väärinkäytöksiin. Eräässä tapauksessa yhdysvaltalaisen cheerleader tytön äiti, joka on syytteessä ahdistelusta, yritti nolata tyttärensä kilpailijoita esittämällä heitä pornoon liittyvässä epäsuotuisassa yhteydessä.

USA:ssa FTC eli Federal Trade Commission, on pitkään puuttunut väärään mainostamiseen, mutta reagoinut hitaasti imagon muunteluun (”image retouching”). Israelissa Photoshop-laki edellyttää, että mainostajat ilmoittavat selkeästi, jos hahmoja on muunneltu. Entä miten immateriaalioikeudet suhtautuvat syväväärennöksiin ja imagon muunteluun?

IPR

Erillislakien puuttuessa syväväärennöksiin voidaan pyrkiä puuttumaan rikoslakien nojalla. Kysymys voi olla ihmisen maineen tahraamisesta. Lisäksi alustoja voidaan pyytää poistamaan väärennettyjä videoita. Julkisuudessa olleen tiedon mukaan esim. Facebook poistaa jo oma-aloitteisesti syväväärennöksiä. EU:ssa on ehdotettu digitaalisia palveluja ja markkinoita koskevia säädöksiä, joiden avulla voidaan ainakin osittain puuttua tähän. Digital Services Act:in tarkoituksena on suojella kuluttajien oikeuksia erilaisilla nettialustoilla (IPRinfo 1/2021, EU virittäytymässä ”on line”-moodiin).

Sinänsä fotoshoppailu ja imagon muuntelu on nykyään arkipäivää. Tietokoneiden tuottamia hahmoja ja kuvia, ”Computer Generated Imagery”, CGI, käytetään poliittisissa kampanjoissa, uutisissa ja elokuvissa sekä muotimaailmassa.  Muunneltuja kuvia tai videoita voidaan lähestyä turvautumalla tekijänoikeuslainsäädäntöön. Ilman tekijänoikeushaltijan lupaa videoita tai netissä julkistettuja kuvia ei voida muuntaa tai muuttaa.

Tästä on olemassa pari poikkeusta, nimittäin niin sanottu pastissi, ”pastiche”, ja parodia, ”parody”. Ensin mainitulla tarkoitetaan yritystä kaunistaa alkuperäistä teosta ja jälkimmäisen tarkoituksena on pilkata tai ilkamoida netissä olevaa alkuperäisteosta, esim. videota tai henkilöitä. Jotta tekijänoikeudellisesti voidaan puhua parodiasta, siihen tulee liittyä jonkinasteista huumoria, pisteliästäkin. Euroopan parlamentin ja neuvoston direktiivissä tekijänoikeuden ja lähioikeuksien tiettyjen piirteiden yhdenmukaistamisesta tietoyhteiskunnassa, joka on annettu 22.5.2001, niin sanottu Infosoc-direktiivi, 5 artiklan 3. k kohdassa on nimenomaan karikatyyrin, parodian ja pastissin osalta myönnetty poikkeus tekijänoikeudesta.

Menemättä yksityiskohtiin, parodia on kulttuurisidonnaista ja sen ei tule ylittää kunnialoukkauksen rajaa. Parodian käsite tasapainoilee IP-oikeuden ja vapaan ilmaisuoikeuden rajoilla. Jos syväväärennökset ovat esimerkiksi syrjiviä, ne eivät kuulu ilmaisuoikeuden piiriin eivätkä nauti parodian antamaa suojaa.

On syytä olla varuillaan

Teknologian kehittyessä on yhä vaikeampaa huomata väärennöksiä. Alussa huomattiin, etteivät syväväärennökset esimerkiksi räpäyttäneet silmiään normaalisti. Nyttemmin algoritmien kehittäjät ovat tiedon saatuaan opettaneet algoritmeja huolehtimaan räpäyttämisestä.

Syväväärennös saattaa laadultaan olla huonompi kuin alkuperäinen. Huulten ja äänen synkronisointi voi olla epätasainen tai hiusraja on heikko. Ei ole vaikeata arvata, että vastaus syväväärennösten havaitsemisessa on AI:ssa. Haasteena on kuitenkin, että tekniikka sopii parhaiten julkisiin henkilöihin, koska heistä on olemassa eniten algoritmille sopivaa vapaata harjoittelumateriaalia. Toinen mahdollisuus on käyttää erilaisia tunnistusmerkkejä alkuperäismateriaalissa, niin sanottuja ”water marks”. Lohkoketjutekniikasta voisi myös olla apua alkuperäisten teosten suojaamiseen.

Suurimmaksi ongelmaksi on sanottu, että syväväärennökset pikkuhiljaa vesittävät yhteiskuntajärjestystä ja myötävaikuttavat sen murenemiseen, koska toimiva yhteiskunta perustuu luottamukseen. Eräs syy siihen, että suomalainen yhteiskunta toimii varsin hyvin, on se, että luotamme viranomaisiin ja eritoten poliisiin, vaikka viimeksi mainittu instituutio on viime aikoina kokenut kolauksen huumerikollisuuden selvittämisessä.

Suurempi ongelma saattaa kuitenkin olla, että todellista tapahtumaan ryhdytään väittämään väärennökseksi, kuten presidentti Bidenin edeltäjällä Trumpilla oli tapana tehdä. On oltava jatkuvasti valppaana, kun suunnistaa väärennetyn todellisuuden ja väärennetyksi väitetyn todellisuuden välillä.

Kirjoittajat