Facebooki tehismõistus otsib nüüd enesetapumõtetega inimesi

Facebooki logo. Foto: Dominic Lipinski/PA Wire/PA Images

Facebooki uus tehismõistus skannerib kasutajate postitusi, et leida märke enesetapumõtetest. Ohumärkide korral saadavad moderaatorid kasutajale abimaterjale või kontakteeruvad vajadusel päästjatega.

Sotsiaalvõrgustik on katsetanud oma uut tööriista USA's juba mitu kuud ja laseb selle nüüd käiku ka ülejäänud maailmas. Küll aga ei jõua tööriist mitte ühtegi Eurooa Liidu riiki, sest siinsed andmekaitseseadused sellist kasutajate uurimist ei luba.

Facebooki juht Mark Zuckerberg ütles oma Facebooki postituses, et uue tööriista eesmärk on näidata inimestele, kuidas tehismõistus võib päästa elusid. Zuckerbergi sõnul kutsus uus tarkvara ainuüksi viimase kuu jooksul päästjad üle sajale inimesele, kes olid endalt elu võtmas.

Vaatamata positiivsele sõnumile ei paku Facebook kuigi palju infot selle kohta, kuidas tehismõistus ohumärke tuvastab. Ettevõtte sõnul treeniti programmi märkama postitusi, kus inimesed olid märganud ohumärke. Midagi rohkemat pole siiani avaldatud.

Tööriist kontrollib ohumärkide suhtes ka voogedastusi ja videosid, millel on ebatavaline arv reaktsioone või kommentaare. Reaalse otsuse võtavad vastu siiski inimestest moderaatorid. Programm saadab ainult tähistatud postitusi.

Facebook pole siiani kommenteerinud, kuidas nad väldivad sellise tehnoloogia kuritarvitamist.

Thanks for the considerate response. I asked Rosen about how Fb would prevent misuse of the AI and he didn't give any info. Would love to hear if there are explicit policy or technological safeguards in place

— Josh Constine (@JoshConstine) November 27, 2017

Allikas: The Verge