Kui usaldame arvutiprogramme sedavõrd, et anname neile otsustusõiguse, tahame neilt samavõrra ka läbipaistvust. Pole ju palju küsitud. Või on? Selle üle arutleb akadeemik, Tallinna Tehnikaülikooli küberneetika instituudi juhtivteadur Tarmo Uustalu.
Tellijale
Tarmo Uustalu: kas tehismõistus peaks aru andma? (2)
30. oktoober 2016, 16:37
Juhime tähelepanu, et artikkel on rohkem kui viis aastat vana ning kuulub meie arhiivi. Ajakirjandusväljaanne ei uuenda arhiivide sisu, seega võib olla vajalik tutvuda ka uuemate allikatega.
Hiljutises teadusajakirja Nature’i numbris nõuab kolumnist, et tehismõistuse algoritmid peaksid oma otsuseid selgitama ning oma mõttekäikude kohta aru andma. See tähendab, et arvutiprogramm peaks oma käitumist suutma rahuldavalt põhjendada, iseäranis siis, kui temaga rahul ei olda, aga ka muudel juhtudel. Kui pankurite tarkvara otsustab, et Peetrile ei tohi laenu anda, tahab Peeter teada, miks. Kui automaatne piirikontrollivärav lennujaamas Marge nägu ära ei tunne, siis ootab ta selgitust. Kui Siimule söödetakse ette sedasorti reklaami, mida ta kuidagi ei arva end ära teeninud olevat, siis millistest andmetest tema kohta lähtuti, kust need ometi koguti ja kuidas järeldus tehti? Kui isesõitev auto põhjustab liikluses pahanduse, siis on juurdluses vaja teada, kuidas ta mõtles.