Tarmo Uustalu: kas tehismõistus peaks aru andma?

FOTO: Erakogu

Kui usaldame arvutiprogramme sedavõrd, et anname neile otsustusõiguse, tahame neilt samavõrra ka läbipaistvust. Pole ju palju küsitud. Või on? Selle üle arutleb akadeemik, Tallinna Tehnikaülikooli küberneetika instituudi juhtivteadur Tarmo Uustalu. 

Tellijale Tellijale

Hiljutises teadusajakirja Nature’i numbris nõuab kolumnist, et tehismõistuse algoritmid peaksid oma otsuseid selgitama ning oma mõttekäikude kohta aru andma. See tähendab, et arvutiprogramm peaks oma käitumist suutma rahuldavalt põhjendada, iseäranis siis, kui temaga rahul ei olda, aga ka muudel juhtudel. Kui pankurite tarkvara otsustab, et Peetrile ei tohi laenu anda, tahab Peeter teada, miks. Kui automaatne piirikontrollivärav lennujaamas Marge nägu ära ei tunne, siis ootab ta selgitust. Kui Siimule söödetakse ette sedasorti reklaami, mida ta kuidagi ei arva end ära teeninud olevat, siis millistest andmetest tema kohta lähtuti, kust need ometi koguti ja kuidas järeldus tehti? Kui isesõitev auto põhjustab liikluses pahanduse, siis on juurdluses vaja teada, kuidas ta mõtles.

Kui usaldame arvutiprogramme sedavõrd, et anname neile otsustusõiguse, tahame neilt samavõrra ka läbipaistvust. Pole ju palju küsitud. Või on? Vastus on: nii ja naa.

Tagasi üles