Računalnik NAMESTO sodnika?

Na rtvslo.si so objavili intervju z dr. Juretom Leskovcem, enem izmed najuspešnejših slovenskih znanstvenikov, ki delujejo v tujini. Naslov prispevka “Računalnik je lahko boljši od sodnika” je zavajajoč in ne povzema povsem tega, kar je Leskovec v resnici povedal.

Kaj ste ugotovili iz analize dveh milijonov sodniških primerov? Za kakšne primere je šlo?

Sodelovali smo z ekonomisti Harvarda, Cornella in Univerze v Chicagu.
Dobili smo dostop do dveh milijonov primerov iz predkazenskih
postopkov. Nekdo se, recimo, stepe v baru. Primejo ga, pripeljejo pred
sodnika, ta pa se mora odločiti, ali je prestopnik nevaren ali ne. Lahko
ga pod varščino spusti, lahko pa ga vtakne v pripor, da tam počaka na
vsebinsko sodno obravnavo. Če je nekdo v priporu, je to seveda slabo
zanj in obenem slabo za družbo. Če pa ga sodnik spusti, se lahko zgodi,
da ta oseba zapusti državo ali ponovi kaznivo dejanje. Tu nastopi
vprašanje, ali bi lahko sodnikom kakor koli pomagali k boljšemu
odločanju.
Analiza nam je prinesla dve zanimivi ugotovitvi. Prva:
objektiven program deluje 60 odstotkov bolje kot sodniki v ZDA. Razlika
nastane v tem, da lahko program v nasprotju s človeškim sodnikom
natančno analizira dva milijona sodnih primerov in najde vzorce v
lastnostih prestopnikov, ki so povezani z negativnim obnašanjem v
prihodnosti. Druga: analize kažejo, da se človek preveč osredini na
osebne karakteristike. Program ima namreč dostop samo do kartoteke
osumljenca. Sodnik osebo še vidi in pri presoji uporablja neka dodatna
merila, ki ga vodijo v neoptimalne odločitve. To še delamo, a vsi, ki so
videli dozdajšnje rezultate, so bili kar navdušeni in jih je zadeva
zelo zanimala. Kmalu bomo delo objavili. Treba pa je poudariti, da ideja
ni, da bi računalniki zamenjali ljudi, ampak kako lahko računalniki in
ljudje skupaj sprejemajo boljše odločitve.

vir: http://cs.stanford.edu

Številne anomalije v ameriškem sistemu kaznovanja seveda kličejo po inovacijah. V sistemu, ki ga preveva rasna diskriminacija in ki (tudi) zaradi svoje togosti ustvarja primere, daleč od sodobnega pojmovanja pravičnosti, je iskanje novih rešitev najbrž nekaj temeljnega. Zadeva je šla tako daleč, da je pred časom ameriški profesor Bernard Harcourt hudomušno, a ne neresno, predlagal, da bi boljše odločitve lahko sprejemali z metom kovanca.

Leskovec pravi, da na podlagi analize dveh milijonov primerov iz ameriške sodne prakse razvijajo tehnologijo, ki bo v pomoč sodnikom pri odločanju. Odlično! Ampak:

Nekdo ima kartoteko, drugi je nima. Podatki so od človeka do
človeka različno dostopni. Kje so omejitve uporabnosti te metode – le na
ljudeh s kriminalno preteklostjo?

Ne nujno. Veliko
stvari se lahko vprašaš. Koliko časa nekdo živi na istem naslovu? Ima
nepremičnino v lasti ali plačuje najemnino? Ima mobilni telefon? Veliko
je demografskih podatkov. Sicer med njimi ne sme biti vere, barve kože
in spola. Socialno-demografska kartoteka je zelo velika in kriminalna
kartoteka sploh ni nujna. Čeprav je v realnosti velik del teh ljudi
povratnikov.

Ta zbirka demografskih podatkov je ključ do težave ali rešitve problema. Katere podatke bomo zajeli? Kot pravi Leskovec, med njimi ne sme biti vere, barve kože in spola. Ne sme biti torej podatkov, ki bi vodili v diskriminacijo. Problem je v tem, da vsi podatki, ki o nekem posamezniku obstajajo, izvirajo iz njegovih značilnosti, ki so povezane z njegovo bitjo. Povsem utemeljena je za ameriške razmere ocena, da črnski del populacije prebiva na določenih območjih, na drugih ne. Da ima manjši delež v lasti nepremičnino, da je slabše ekonomsko situiran, da je več enostarševskih družin. Kar so vse dejavniki, ki jih program načeloma lahko upošteva, saj sami po sebi niso diskiminatorni. Diskriminatorni postanejo šele, ko med njimi najdemo skupno točko, ki temelji na rasi.

Prepričana sem, da bodo raziskovalci v Leskovčevi skupini vse omenjeno skušali kar se da upoštevati. Pomemben je tudi njegov poudarek, da gre za razvoj orodja, ki bi bil lahko v pomoč sodnikom. Tudi to je lahko sicer problematično, še posebej, kadar v igro vpelje tvegan koncept prognoze, nekoliko manj pa, ko temelji na obstoječih bazah podatkov o dosojenih primerih. 

A bolj zaskrbljujoč je novinarjev naslov, ki mu dosledno sledijo tudi komentarji (seveda anonimnih) bralcev, ki si (tudi) v Sloveniji namesto sodnikov želijo več računalnikov. Kar ostaja nezapisano ali premalo poudarjeno, je dejstvo, da za vsakim računalnikom stoji človek ali skupina ljudi, ki zapiše kodo, algoritem, po katerem bo računalnik izvajal analizo. Odgovornost za odločitev s tem samo prestavimo, zabrišemo, možnosti za zlorabo pa ostajajo (le da je nevarnost tovrstne zlorabe kar sistemska in ne vezana na posamezne primere).

2017-06-01T08:21:04+00:00 17. 04. 2015|

Objavi komentar