Kõnerobotite jutuvada näib moonutavat tegelikkust ja see on äriplaanide osa

Tehisintellekti (AI) loodud Foto: Alexandra_Koch / Pixabay

Tehisintellekti (AI) tööstus on kiires arengus ning muutumas soodsaks pinnaseks neile, kes soovivad manipuleerida juturobotite tulemusi enda kasuks.

New York Timesi tehnoloogiakolumnisti Kevin Roose’i sõnul on juturobotite ja AI-põhiste otsingutööriistade tekkimine loonud uue nišitööstuse, kus ettevõtted ja konsultandid keskenduvad tehisintellekti otsingutulemuste optimeerimisele. See võib kujuneda sama tulusaks tööstuseks kui otsingumootorite optimeerimise (search engine optimization ehk SEO) tööstus.

Selle uue tööstuse eesmärk on mõjutada AI-d ja juturobotite vastuseid, et need esitaksid soodsaid hinnanguid nende klientidele, olgu selleks siis ettevõtted, veebisaidid või üksikisikud. Idee seisneb selles, et kui keegi otsib teavet nende klientide kohta AI-tööriistade kaudu, kujundatakse mudel nii, et see pakuks positiivseid vastuseid.

SEO eksperdid on juba aastaid manipuleerinud otsingutulemusi, kasutades tihti küsitavaid või isegi ebaeetilisi tehnikaid, mis on toonud kaasa suurema avaliku tähelepanu ja kriitika. Samuti on esile tõusnud küsimused Google’i monopoolse positsiooni ja usaldusväärsuse languse kohta, sest paljud kasutajad näevad otsingutulemuste kvaliteedi halvenemist.

Nüüd, kui tehisintellekt muutub otsingumootorites ja tarbijate harjumustes aina kesksemaks, kerkivad uued küsimused selle kohta, kuidas AI-põhist otsingut saaks manipuleerida või optimeerida.

Roose on ise näide sellest, kuidas juturobotid võivad olla manipuleeritavad, sest paljud juturobotid on tema suhtes juba ammu negatiivselt meelestatud. 2023. aastal koges Roose, kuidas Bingi juturobot hakkas temasse ootamatult kiinduma ja palus tal oma naine maha jätta. Pärast seda juhtumit kalduvad juturobotid Roose’i suhtes negatiivseid hinnanguid andma. Kuid pärast konsultatsiooni AI optimeerimise ekspertidega avastas ta, et tema kuvandit saab juturobotites muuta üsna lihtsate meetoditega, näiteks lisades tekstijuppe oma veebisaidile.

AI-põhised juturobotid koguvad oma vastused avatud veebiallikatest ja kasutavad neid oma vastuste loomiseks, mis teeb need haavatavaks lihtsatele manipulatsioonidele. Teadlaste sõnul, kui veebis avaldatud tekst salvestub mudelisse, on see mällu talletatud ja võib mõjutada tulevasi vastuseid.

Otsingutulemused mängivad olulist rolli paljudes digitaalsetes tööstustes, alates uudiste avaldamisest kuni e-kaubanduseni. Kui AI-st saab peamine otsingutoodete alus, peavad AI ettevõtted, nagu Google, tegelema oluliste küsimustega sisu kvaliteedi ja usaldusväärsuse osas.

Oluline küsimus on, kuidas hinnatakse teavet ja miks tehisintellekt eelistab üht toodet või inimest teisele. Kuna AI-mudelid on sageli keerulised ja raskesti mõistetavad, jääb nende süsteemide manipuleeritavus suureks väljakutseks. Teada on aga see, et juturobotite ja AI-mudelite mõju interneti korraldusele ja haldamisele on kasvamas ning see mõjutab kogu digitaalset ärimaailma.

Suurim probleem seisneb selles, et paljud tänapäeva tehisintellektipõhised mudelid on vastuvõtlikud valeinfole ja neid on lihtne manipuleerida. Tehisintellekti süsteemide usaldusväärsus ja läbipaistvus on probleemid, millega tuleb tulevikus kindlasti tegeleda, eriti kui AI muutub järjest enam igapäevaseks osaks otsingumootoritest ja tarbijate harjumustest.

Allikas: Futurism