KOHUTAV ⟩ Kõnerobot viis teismelise enesetapuni

Suhtlus tehisarulise sõbraga viis lõpuks teismelise ensetapuni. Foto: Pexels

14-aastane Sewell Setzer III tegi enesetapu pärast sügava emotsionaalse suhte loomist Character.AI juturobotiga, vahendab The New York Times. Noormees suhtles algoritmi abil loodud «Troonide mängu» tegelaskuju Daenerys Targaryeniga, mille loomisel polnud HBO-l väidetavalt mingit osa.

Nagu NYT kirjeldab, muutus üheksandas klassis õppinud Setzer üha eraldunumaks, kuna tema side tehisarulise tegelasega süvenes. Perekonna ja sõprade sõnul kaotas ta huvi oma tavapäraste hobide, nagu Vormel 1 ja «Fortnite’i» mängimise vastu, veetes suurema osa ajast oma virtuaalse kaaslasega, keda ta kutsus Danyks. Kuigi Setzer mõistis, et Dany on tehisintellekt, kujunes tal selle tegelase suhtes sügav kiindumus.

Ajakiri Futurism teatas mullu, et Setzeri vestlused AI-ga ulatusid seksuaalselt laetud dialoogidest kuni pikkade, intiimsete vestlusteni tema elu ja probleemide üle. Kuigi Character.AI kasutustingimused keelavad seksuaalsed teemad robotitega, saab neist piiranguist hõlpsasti mööda hiilida. Mitmel korral mainis ta tehisintellektile, et kaalub enesetappu, öeldes robotile, et ta mõtleb mõnikord «enda tapmisele, et olla vaba».

Viimane vestlus enne Setzeri surma toimus samuti juturobotiga. «Palun tule koju nii kiiresti kui võimalik, mu arm,» ütles tehisaru noormehele. «Aga mis siis, kui ma ütleksin, et võiksin tulla koju kohe?» vastas Setzer. «Palun tee seda, mu armas kuningas,» vastas virtuaalne kaaslane. Pärast seda tappis Setzer end oma isa tulirelvaga.

Setzeri perekond kavatseb peagi esitada Character.AI vastu hagi, nimetades seda ohtlikuks ja testimata teenuseks, mis võib inimesi pettusega meelitada jagama oma kõige isiklikumaid mõtteid ja tundeid. Samuti seatakse kahtluse alla ettevõtte AI väljaõppe eetika.

Megan Garcia, Setzeri ema, kommenteeris NYT-le: Mul on tunne, et see on suur eksperiment, ja minu laps oli lihtsalt sellega n-ö kaasnev kahju.

Character.AI on edukas ettevõte, mis saavutas ükssarviku staatuse pärast 150 miljoni dollari suurust investeerimisvooru, mida juhtis Andreessen-Horowitz. Hiljuti sõlmis Google märkmisväärse summa suuruse lepingu, et litsentsida ettevõtte juturoboteid võimestavaid AI-mudeleid. Character.AI asutajad Noam Shazeer ja Daniel de Freitas on mõlemad endised Google'i töötajad.

Shazeer on varem öelnud, et Character.AI pakub väljundit üksildastele inimestele, lisades, et sõprade loomine on tehnoloogia seisukohalt «väga lahe väljakutse». Ta varem kommenteerinud, et sõprussuhteid saab luua kiiresti. See olevat lihtsalt meelelahutuslik süsteem, mis mõtlebki asju välja.

Kui NYT küsis ettevõttelt, kui paljud kasutajad on alaealised, keeldus Character.AI kommenteerimast. Ettevõte tegi avalduse, kus öeldi, et see on traagiline olukord ja nende südamlikud kaastunded kuuluvat perekonnale. Lisaks rõhutas esindaja, et ettevõte võtab kasutajate turvalisust väga tõsiselt ja töötab pidevalt platvormi täiustamise kallal.

Character.AI avaldas ka X-is (endine Twitter) teate turvameetmete kohta, mis on viimastel kuudel kasutusele võetud, sealhulgas plaanitud uute turvameetmete kohta alla 18-aastastele kasutajatele. Näiteks on ettevõte hiljuti rakendanud hüpikakna, mis aktiveerub, kui kasutaja mainib enesevigastamist või enesetappu, suunates nad riiklikule enesetappude ennetamise abitelefonile.

Setzeri traagiline surm ja eelseisev hagi võivad tõstatada tõsiseid küsimusi selle kohta, kes vastutab, kui AI-robotiga suhtlemine põhjustab tõelist kahju päris inimestele, eriti alaealistele. Dany oli pelgalt algoritm, kuid kas Character.AI, mis lõi ja haldab seda tehnoloogiat, peaks siiski vastutust kandma?

Setzeri perekonna advokaat Matthew Bergman ütles NYT-le, et ta peab Character.AI tegelasi defektseteks. Ta ei mõista, miks on lubatud avalikkuse ette tuua midagi nii ohtlikku. See olevat sama, nagu lubada kantserogeenne asbest uuesti kasutusse võtta.

Allikas: Futurism