VASTUMÜRK LEITUD ⟩ Teadlastel on tööriist, mis tapab tehisintellekti kunstioskused

Mürgitatud: ülemises reas on tehisintellekti loodud tavalised pildid, all aga andmemudelid erineva hulga Nightshade´i töödeldud piltidega. Rünnaku mõju on ilmne tuhande mürgistusprooviga (kolmas rida), mille puhul hakkab tuntud pildigeneraator Stable Diffusion juba jama tootma. Foto: teadustöö / Shawn Shan jt / Chicago Ülikool

Kunstnike ja kirjanike ning teiste loomeinimeste pahameel tehisintellekti plagieeritud teoste vastu on nüüd leidnud väljundi MITi teadlaste uues tarkvaras: nimelt suudab see masinõppe algoritmidele muude andmete seas sisse sokutada «mürgi», mis paneb kunstmõistuse asjadest täiesti valesti aru saama. Tulemuseks on koerapildi joonistamise asemel kassipilt või annab masin välja üldse mingi arusaamatu käkerdise.

Töövahendi nimi on Nightshade ja see segab treeninguandmeid viisil, mis võib pilti loovaid tehisintellekti mudeleid tõsiselt kahjustada, kirjutab MIT technology Review.

Tarkvaraga saab lisada teosesse inimsilmale nähtamatuid piksligruppe enne selle veebi üleslaadimist, nii et kui inimene sama pilti vaatab, ei märka ta mingit erinevust, kuid tehisintellekti algoritmid satuvad segadusse.