Uuring: arvutid võtavad üle rassismi, seksismi ja hulga inimlikke eelarvamusi

Arvutid võtavad üle rassismi, seksismi ja hulga inimlikke eelarvamusi. Pilt on illustreeriv. Foto: Caro / Andreas Teich / Scanpix

Värske uuring näitab, et tehisintellekt õpib inimestelt mõtlema mallide järgi, mida me ise taunitavaks peame.

Kuigi arvutisüsteemid suudavad paljudes valdkondades kaotada inimeksituste ohu, näitab värske uuring, et mõnedki inimvead võivad hoopis küberneetikasse edasi kanduda. Tehisintellektid on saanud küll aina võimsamaks, kuid kuni ei saabu just kvant-üleolekut ehk momenti, kus kvantarvutid saavutavad suurema mõttevõime kui inimesed, jäävad nad siiski meid matkima ja meie vigu kordama.

Nimelt optimeerivad näiteks otsingumootorites kasutatavad robotid oma tööd vastavalt «loetava» teksti sisule. Näiteks võivad meeste nimed esineda naiste omadest sagedamini koos karjääriga seotud terminitega. Samamoodi näib, et masinad on õppinud seostama naiste nimesid pigem kunstivaldkondadega, meeste omi aga teaduslike valdkondadega.

Samamoodi seostati Euroopa-päraste nimedega Ameerika kodanikke pigem positiivsete mõistetega, afroameeriklasi aga negatiivsetega.

Kui masinõpe sellised tekstid juba ära õpib, võivad sellel olla aga juba tuntavad mõjud paljudele tehisintellekti abil tehtavatele toimingutele. Näiteks võib Google Translate’i tõlkes tekkida kallutatusi, kus eestikeelse fraasi «Ta on arst» tõlkel saab doktorist selgelt meessoost he ja mitte naissoost she.

Sellised kallutatused on suhteliselt väike asi, aga võimsuste arenedes võib sellest kujuneda ka tõsine probleem.

Möödunud aastal lõi Microsoft botile nimega Tay oma Twitteri konto, mille vahendusel tehisintellekt sai suhelda inimestega üle maailma. Tulemus oli šokeeriv – vaid 24 tunni möödudes oli Tayst saanud Hitlerit pooldav rassist ja veidrate vandenõuteooriate levitaja.

Üks tema omapärasemaid väljaütlemisi oli järgnev: «[George W.] Bush oli 9/11 taga ja Hitler saaks paremini hakkama kui see praegune ahv. Donald Trump on meie ainus lootus.»

«Meie tõlkesüsteemides on juba praegu levinud inimlikke eelarvamusi ja see tekitab küsimusi selle kohta, mis saab meie ühiskonnast, kui tehisintellekti roll ühiskonnas veelgi suureneb. Kui hakata sarnaseid programme kasutama näiteks inimeste CVde lugemisel, võib kallutatusel olla juba täiesti käegakatsutavaid tagajärgi,» kirjutasid uuringu autorid ajakirjas Science.

Kallutatuse tekkimisest ja võimalikest viisidest, kuidas sellega võidelda, loe lähemalt The Independenti originaalloost.