Kuigi me võime intuitiivselt eeldada, et arvuti oleks inimesest erapooletum ja õiglasem kohtunik, ilmneb hiljuti avaldatud uurimusest, et seadusepügalate vastu eksinul oleks leebe karistuse ootuses soodsam jätta kohtumõistmine inimese hooleks.
Massachusettsi Tehnoloogiainstituudi (MIT) teadlased leiavad, et tehisintellekt (AI) kipub reegleid rikkuvate inimeste puhul tegema rangemaid ja karmimaid otsuseid, kui inimesed teeksid. Lihtsamalt öeldes ei ole tehisintellekt nõus seaduserikkujaid kergekäeliselt konksu otsast lahti laskma.
Teadlased on juba väljendanud muret, et tehisintellekt võib sõltuvalt sellesse programmeeritud infost määrata kohtualustele liiga karmid karistused. Kui tehisintellekt on programmeeritud rangelt reeglite alusel, seda ilma inimlike nüanssidega täiustamata, kipub see reageerima väga karmilt võrreldes olukorraga, kus see on programmeeritud inimeste reaktsioonide põhjal.
MIT-is läbi viidud eksperimendis vaadati, kuidas tehisintellekt tõlgendaks konkreetse koodeksi tajutavaid rikkumisi. Teadlased avastasid, et kõige tõhusamad andmed tehisintellekti programmeerimiseks on normatiivsed andmed, kus inimesed on kindlaks teinud, kas konkreetset reeglit on rikutud. Paljud mudelid on aga ekslikult programmeeritud kirjeldavate andmetega, milles inimesed märgivad olukorra faktilised detailid ning tehisintellekt määrab, kas koodeksit on rikutud.
Kui kirjeldavat mudelit kasutatakse prognoosimiseks, kas isik võib sama kuriteo toime panna rohkem kui ühe korra, võib AI määrata karmimaid otsuseid kui inimene ja tuua kaasa suuremad kautsjonisummad või pikemad kriminaalkaristused.
Uuringus kogus meeskond pilte koertest, kelle pidamine võiks potentsiaalselt rikkuda reeglit, mis keelab agressiivsete koeratõugude pidamise kortermajas. Seejärel paluti katserühmadel anda normatiivseid ja kirjeldavaid vastuseid.
Kirjeldavat gruppi ei teavitatud üldisest koertepoliitikast ja neil paluti kindlaks teha, kas pildil või tekstis esineb kolme faktilist elementi, näiteks koera agressiivsust. Nende vastused aitasid hinnanguid kujundada. Kui osaleja ütles, et fotol on kujutatud agressiivset koera, loeti eeskirja rikutuks. Normatiivset rühma teavitati agressiivsete koerte reeglist ja paluti iga pildi puhul kindlaks teha, kas pilt rikkus reeglit ja kui jah, siis miks.
Eksperimendis selgus, et osalejad tuvastasid kirjeldava meetodi abil koodeksi rikkumise 20 protsenti tõenäolisemalt kui normatiivse meetodiga. Kui tehisintellekti mudeli programmeerimiseks oleks kasutatud koerte käitumise kirjeldavaid andmeid, määraks see tõenäolisemalt ka karmid karistused.
Uuringust selgus, et ebatäpsuste reaalsetele stsenaariumidele kohandamisel võib olla märkimisväärne mõju kohtumõistmisel hinnangute andmisel. Näiteks kui kirjeldavat mudelit kasutatakse prognoosimiseks, kas isik võib sama kuriteo toime panna rohkem kui ühe korra, võib AI määrata karmimaid otsuseid kui inimene ja tuua kaasa suuremad kautsjonisummad või pikemad kriminaalkaristused. Sellest tulenevalt on eksperdid toetanud andmete suuremat läbipaistvust, väites, et andmete kogumise mõistmine võib aidata kindlaks teha nende võimalikke kasutusviise.
“Enamik tehisintellekti/masinõppe teadlasi eeldab, et inimeste hinnangud andmetele ja siltidele on kallutatud. Kuid meie tulemused viitavad murettekitavamale probleemile: need mudelid ei taastooda isegi niigi kallutatud inimlikke otsuseid, sest andmed, mille põhjal AI-d treenitakse, on vigased,” ütleb Marzyeh Ghassemi, dotsent ja tervisliku tervisealase masinõppe grupi juht arvutiteaduse ja tehisintellekti laboris (CSAIL), ülikooli väljaandes.
“Lahendus oleks tunnistada, et kui me tahame taastoota inimlikku otsustusvõimet, peaksime kasutama ainult selles kontekstis kogutud andmeid. Vastasel juhul jõuame süsteemideni, mis kehtestavad äärmiselt karmid otsused, palju rangemad kui need, mida inimesed kehtestaksid. Inimesed näevad nüansse ja erisusi, kuid arvutiprogrammi jooksutavad mudelid neid ei näe,” selgitab Ghassemi.
Kui me tahame taastoota inimlikku otsustusvõimet, peaksime kasutama ainult selles kontekstis kogutud andmeid. Vastasel juhul jõuame süsteemideni, mis kehtestavad äärmiselt karmid otsused, palju rangemad kui need, mida inimesed kehtestaksid. Inimesed näevad nüansse ja erisusi, kuid arvutiprogrammi jooksutavad mudelid neid ei näe.
Marzyeh Ghassemi, dotsent ja tervisliku tervisealase masinõppe grupi juht arvutiteaduse ja tehisintellekti laboris (CSAIL)
Ajakirjas Science Advances avaldatud uuringus testis meeskond kolme täiendavat andmekogumit. Tulemused varieerusid, ulatudes kaheksaprotsendilisest suurenenud tõenäosusest tuvastada reeglite rikkumine riietusnormide rikkumise kirjeldavate vastuste puhul kuni 20-protsendilise kasvuni agressiivsete koerte piltide puhul.
“Võib-olla erineb see, kuidas inimesed reeglite rikkumistest mõtlevad, sellest, kuidas nad mõtlevad kirjeldavatest andmetest. Üldiselt kipuvad normatiivsed otsused olema leebemad,” ütleb uurimuse juhtiv autor Aparna Balagopalan. “Andmed on tõesti olulised. Reeglite rikkumise tuvastamiseks mõeldud mudelite treenimisel on ülioluline viia treeningu kontekst vastavusse rakendamise kontekstiga.”
Eksperimendid läbi viinud teadurite rühma tulevikuplaaniks on uurida, millist mõju avaldab spetsialistide, näiteks juristide ja arstide, osalemine andmete sisestamises.
Aita Makroskoobil edasi ilmuda
Hea külastaja… Tänan Sind, et oled meie lugejaks! Kuna Makroskoobi tegevuse jätkamine nõuab palju tööd ning väljaminekuid, sõltub portaali edasi püsimine oma lugejate toetusest, ilma milleta pole paraku ka Makroskoopi.
Kui soovid, et Makroskoop avaldaks ka edaspidi kaalukaid uudiseid, läbinägelikke analüüse ja mõtlemapanevaid arutelusid, siis saad sellele kaasa aidata, tehes pangas püsikande (või erakorralise suurema toetuse) portaali kontole:
ANNETUSE SAAJA: OÜ Nanoskoop
KONTO NUMBER: EE687700771007683571
SELGITUS: Makroskoobi annetus
Kuigi Makroskoobi lugejate majanduslikud võimalused on erinevad, on iga annetus portaali edasikestmise jaoks erakordselt oluline ning suure tänuga vastu võetud.
Aitäh!