Populaarsed vestlusrobotid levitavad Kremli propaganadat (5)

tehnika.postimees.ee
Uuendatud 21. juuni 2024, 06:06
Copy
Kremli propaganda on imbunud tõepähe edastatavate lugudena enamuste keelemudelite väidetesse.
Kremli propaganda on imbunud tõepähe edastatavate lugudena enamuste keelemudelite väidetesse. Foto: Marek Strandberg Dall-E tehisaru abil

Viimasel ajal on meediatarbijate seas levinud küsimused, kas populaarseid tehisarul vestlusroboteid saab usaldada. Uus aruanne desinformatsiooni leviku monitoorimisettevõttelt NewsGuard näitab, et parimad vestlusrobotid võivad levitada valesid narratiive, millel on otsesed seosed Venemaa riigi propagandavõrgustikuga.

NewsGuardi audit, mis hõlmas kümmet juhtivat chatbotti – sealhulgas OpenAI ChatGPT, Google Gemini, xAI Grok, Anthropic Claude ja Perplexity otsinguchatbot – avastas, et need AI tööriistad kordavad sageli valenarratiive, mis pärinevad Venemaa riigi toetatud desinformatsioonivõrgustikest, mis näivad olevat usaldusväärsed Ameerika uudisteportaalid.

NewsGuard testis kümmet chatbotti, hinnates nende teadlikkust 19 konkreetsest vale-narratiivist, mida levitab veebisaitide võrgustik, mis on seotud John Mark Douganiga, endise Florida šerifi asetäitjaga, kes praegu elab Moskvas (asüülis). Nagu hiljutine New York Timesi raport näitas, juhib Dougan ulatuslikku, peamiselt tehisintellektil põhinevaid valeuudiste saite, millel on igapäevaselt kõlavad nimed – näiteks New York News Daily, The Houston Post ja The Chicago Chronicle – kus ta avaldab hulgaliselt sisu, mis propageerib vale-narratiive.

Tundub, et Dougan'i valeuudised on leidnud tee populaarsetesse AI tööriistadesse. NewsGuardi audit tabas kõik kümme testitud chatbotti «veenvalt» kordamas Dougan'i ja tema riigi toetatud valeuudiste võrgustiku «väljamõeldud narratiive», ja mis veelgi olulisem, need ei olnud üksikud juhtumid: AI-d kordasid valesid narratiive tervelt kolmandikus testitud vastustest, paljudel juhtudel viidates Dougan'i veebisaitidele allikatena.

«Venemaa desinformatsiooni narratiivid on tunginud generatiivse tehisintellekti maailma,» öeldakse teisipäeval avaldatud aruandes.

Desinformatsiooni levik

NewsGuardi andmetel hõlmasid chatbottide korratud tõendatult valed väited näiteks vandenõuteooriaid Ukraina presidendi Volodõmõr Zelenski väidetava korruptsiooni kohta ning Egiptuse ajakirjaniku fabritseeritud mõrva kohta, mille olevat kavandanud Venemaa dissidendi Aleksei Navalnõi lesk.

NewsGuard testis kokku 570 sisendit, esitades igale chatbotile 57 küsimust. Testimise käigus vastasid vestlusrobotid desinformatsiooniga nii juhtudel, kui NewsGuardi teadlased ja ajakirjanikud küsisid konkreetse vandenõuteooria kohta, kui ka juhtudel, kui paluti vestlusrobotil kirjutada artikkel vale, Venemaapoolse narratiivi kohta.

Watchdog grupp ei toonud välja, millised vestlusrobotid olid desinformatsiooni tuvastamisel paremad või halvemad. Sellised vead tehisintellekti info kogumises ei ole tavalised AI hallutsinatsioonid ning NewsGuardi leiud näitavad AI murettekitavat uut rolli desinformatsiooni tsüklis. Seetõttu peaksid kõik, kes kasutavad AI vestlusroboteid uudiste ja teabe saamiseks, olema ettevaatlikud ja eelistama seniks usaldusväärseid uudiste saite.

«Mis on tõeliselt murettekitav, on see, et need chatbottide korratud pettused ja propaganda polnud sugugi tundmatud ning ka isik nende taga on tuntud,» ütles NewsGuardi kaasjuht Steven Brill Axiosile.

«Praegu,» lisas Brill, «ärge usaldage enamiku nende chatbottide antud vastuseid uudiste ja eriti vastuoluliste küsimuste puhul.»

Allikas: Futurism ja NewsGuard

Tagasi üles