R, 30.09.2022

Ekspert annab nõu, kuidas ära tunda süvavõltsingut ja kuidas end selleks treenida

Ronnie Jaanhold
, küberturbe ekspert, Cybers
Ekspert annab nõu, kuidas ära tunda süvavõltsingut ja kuidas end selleks treenida
Facebook Messenger LinkedIn Twitter
Comments
Pildil esitleti AFP ajakirjanikule süvavõltsingut Vladimir Putinist, mis peaks olema raskesti eristatav ehtsast ning mis on loodud tehisintellekti poolt.
Pildil esitleti AFP ajakirjanikule süvavõltsingut Vladimir Putinist, mis peaks olema raskesti eristatav ehtsast ning mis on loodud tehisintellekti poolt. Foto: Alexandra ROBINSON / AFP / Scanpix
  • Pilte on võltsingutest oluliselt raskem eristada kui videoid
  • Juuste ja hammaste võltsimine valmistab tehisintellektile peavalu

«Meil õnnestus saavutada rahu Ukrainaga ning taastame Krimmi kui Ukraina-sisese vabariigi iseseisvuse,» kuulutas Venemaa president Vladimir Putin reedeses videosõnumis. Ukraina president Zelenskõi aga olevat päev varem ilmunud klipis öelnud, et Ukraina kapituleerub ning president «võtab vastu järjekordse raske otsuse teiega hüvasti jätta. Soovitan teil relvad maha panna ja perede juurde tagasi pöörduda. Keegi ei tohiks selles sõjas surra». Mõlemad sõnumid tunduvad uskumatud ja ebarealistlikud, kuid ometi levisid kulutulena sotsiaalmeedias ning leidsid isegi kajastust mõnes telekanalis.

Muidugi oli tegemist võltsingutega. Täpsemalt on mõlema puhul tegu süvavõltsingutega ehk tehisintellekti abil loodud Putini ja Zelenskõi digitaalsete kloonidega.

Süvavõltsing võimaldab olemasoleva video- ja helimaterjali põhjal luua uue video, kus ohver näiliselt räägib sõnu, mida ta päris elus kunagi öelnud pole. Võltsitud videoid luuakse keeruka tehisintellekti ja masinõppeprogrammide abil. See kõik on tänaseks  tavainimestele kättesaadav, sest arvutid on piisavalt võimsad, et videotes inimestele sõnu suhu panna ja neid tehnoloogiaid kasutada.

Seega tasub infooperatsioonide ohvriks langemise ennetamiseks olla igasuguste sotsiaalmeedias levivate klippide suhtes skeptiline ning uurida ka teistest allikatest nende tausta.

Süvavõltsinguid ja tehisinimesi reedavad väikesed detailid

Lisaks eelnevalt mainitud videoklippidele on viimaste aastate jooksul hoogu kogunud ka võltskasutajate rakendamine sotsiaalmeedias infooperatsioonide levitamiseks. Kui eelnevalt kasutati enamasti internetist varastatud pärisinimeste pilte ja identiteete, siis nüüd on uueks trendiks masinõpperakenduste abil loodud nö tehisinimesed.

Näide StyleGANi masinõpperakendusega loodud süvavõltsingust – sellise välimusega inimest pole päriselt olemas.
Näide StyleGANi masinõpperakendusega loodud süvavõltsingust – sellise välimusega inimest pole päriselt olemas. Foto: StyleGAN / Nvidia

Tuhandete pärisinimeste portreepiltide põhjal on arvutid õppinud looma ise äärmiselt realistlikke profiilipilte (värskendades seda lehekülge, genereeritakse uus juhuslik portree, tegemist on StyleGANi masinõpperakendusega). Neid kasutatakse tihti sotsiaalmeediakontodel, mis on loodud eksitava teabe levitamiseks.

Süvavõltsingu videot on praegu veel oluliselt hõlpsam ära tunda kui tehislikku profiilipilti. Viimane võib tunduda väga ehe ning kvaliteedi madaldamisega võib olla esmapilgul pea võimatu vahet teha pärispildiga.

Siiski pole süvavõltsingute tehnoloogia veel täiuslik ning tähelepanelikult profiilipilte uurides on võimalik aru saada, kas tegu on eksisteeriva inimese või hoopis masinõppeprogrammi poolt loodud võltsinguga.

Veelgi enam kehtib see video vormingus süvavõltsingute kohta. Kuna tegemist on liikuva pildi ja heliga, siis on palju rohkem ruumi ebakõladeks, mis reedavad, et sisu on manipuleeritud.

Kuidas ära tunda võimalikku süvavõltsingut?

Siin on mõned lihtsad soovitused, mille järgi eristada võltsitud videot ehtsast:

  • Pööra tähelepanu näole – süvavõltsingud seisnevad pea alati näovahetuses.
  • Vaata, kas näo toon kattub ülejäänud taustaga. Kui varjud või valgus tunduvad teistsugused, võib see olla selge viide võltsingule.
  • Jälgi habeme, vuntside ja juuste liikumist. Nende tõetruu liikumise ja asetusega on süvaõppeprogrammidel tihti raskusi.
  • Tuim või muutumatu näoilme, mis ei lähe kokku videos öelduga, vihjab võltsingule.
  • Liikumatud silmad või pilgutamise puudumine reedavad süvavõltsingu.
  • Näha on udused ääred või umbmäärased näojooned. 
  • Huulte liikumine ei lähe räägitava jutuga täpselt kokku – tihti keskendutakse rohkem visuaalsele osale ning helile pannakse vähem rõhku. See võib väljenduda ka kummalises häälduses või müras.

Ohumärgid võimalike tehisnägude fotode puhul on järgmised:

  • Asümmeetria – näiteks erinevas suunas vaatavad silmad või kõrvarõnga olemasolu vaid ühes kõrvas
  • Juuste ebaloomulik asend või katkemine – juuksed on algoritmidele kõige raskem osa, mida tõetruult taasluua, seetõttu leidub tehisnäol tihti katkendlike juuksejooni, moonutatud värve või udu juuste piiril
  • Ebanormaalne hambumus – ka hambad valmistavad arvutitele raskusi, seega on tihtipeale lähemalt uurides näha hõljuvaid või kattuvaid hambaid.
  • Umbmäärane või udune taust – kuna põhirõhk on näo loomisel, jääb taust uduseks või on see meelega täielikult eemaldatud.

Kuidas end harjutada võltsinguid paremini ära tundma?

Massachusettsi tehnoloogiainstituut (MIT) on loonud vastava veebilehe, kus saab kätt proovida süvavõltsingute tuvastamisel ning harjutada oma oskusi tulevaste infooperatsioonide äratundmisel.

Kui oled seal juba piisavalt osavaks saanud, siis võib arvata, et suudad ka Internetis palju paremini võltsinguid tuvastada, mida ilmub viimasel ajal välja aina tihemini.

Märksõnad
Tagasi üles