Može li umjetna inteligencija biti učinkovitija od ljudi u pravosudnom sustavu?

Umjetna inteligencija i neki oblici naprednih algoritama već se široko koriste u mnogim pravosudnim sustavima diljem svijeta. No, može li tehnologija u potpunosti zamijeniti ljude u pravosuđu?

AUTOR: Interesting Engineering
OBJAVLJENO: 06.01.20 u 16:04
https://bit.ly/2FlEeSy
Umjetna inteligencija će zamijeniti ljude na mnogim radnim mjestima, no, trebaju li među tim ljudima biti odvjetnici i suci? Može li i treba li se ikada razviti sustav umjetne inteligencije koji bi mogao suditi živom ljudskom biću?

U ovom članku istražuje se na koji se način umjetna inteligencija već koristi u pravosudnim sustavima diljem svijeta i treba li ona imati još veću ulogu.

Na koji se način umjetna inteligencija trenutno koristi u pravosuđu?

Vjerovali ili ne, umjetna inteligencija i neki oblici naprednih algoritama već se široko koriste u mnogim pravosudnim sustavima diljem svijeta. Primjerice, u nekim saveznim državama unutar SAD-a već se koriste algoritmi predviđanja kako bi se smanjio teret na pravosuđe.

"Sudnice diljem SAD-a su se pod ogromnim pritiskom da se smanji broj zatvora bez rizika povećanja kriminala okrenule automatiziranim alatima u pokušaju što efikasnijeg i sigurnijeg preusmjeravanja optuženika kroz pravni sustav" – Technology Review.

Da bi to postigli, američki policijski odjeli koriste algoritme predviđanja za razvoj strategije najučinkovitijeg rasporeda svojih snaga. Hraneći ih statistikom prethodnih statistika kriminala i drugim tehnologijama, poput prepoznavanja lica, nadaju se da će ova razina automatizacije pomoći poboljšanju učinkovitosti njihovih ljudskih resursa.

Američka pravosudna služba koristi i druge oblike algoritama, koji se nazivaju algoritmima za procjenu rizika, kao pomoć u rješavanju slučajeva nakon hapšenja.

"Alati za procjenu rizika dizajnirani su za jednu stvar – prikupljanje detalja iz profila optuženika i davanje procjene za recidiv – broj kojim se procjenjuje vjerojatnost da će on ili ona ponovno prekršiti zakon. Sudac zatim preračunava taj rezultat u bezbroj odluka koje mogu odrediti koju vrstu rehabilitacijskih usluga pojedini okrivljenici trebaju dobiti, trebaju li ih zadržati u zatvoru prije suđenja i koliko bi kazna trebala biti stroga. Nizak rezultat otvara put ljepšoj sudbini. Visok rezultat pak čini potpuno suprotno" – Technology Review.

U Kini stvarnost postaju i "AI suci". Grad Peking uveo je internetski centar za sudske sporove koji ima "AI suca" u određenim dijelovima usluge. Ovaj sustav proglašen je "prvim te vrste na svijetu".

Sutkinja Xinhua potpuno je umjetna ženska osoba s tijelom, facijalnim ekspresijama, glasom i radnjama koje se temelje na stvarnoj sutkinji iz Pekinške pravne službe. Ova virtualna sutkinje prvenstveno se koristi za osnovne ponavljajuće slučajeve, rekli su iz Pekinškog internetskog suda. "Ona" se, dakle, uglavnom bavi prijemom parnica i online podrškom, a ne konačnom presudom. Ideja je da bi ta AI značajka trebala internetski sud učiniti učinkovitijim i proširiti njegov doseg do građana Pekinga.

"Prema riječima predsjednika suda Zhang Wena, integracija umjetne inteligencija i računarstva u oblaku sa sustavom parničnih usluga omogućit će javnosti da bolje iskoristi prednosti tehnoloških inovacija u Kini" – Radii China.

Umjetna inteligencija se u Kini također koristi za filtriranje poruka i komentara na društvenim mrežama i drugim aktivnostima na internetu kako bi se pomoglo u izgradnji dokaza protiv potencijalnog optuženika. Prometna policija u Kini počinje koristiti i tehnologiju prepoznavanja lica za identifikaciju i osuđivanje prekršitelja.

I druge policijske snage širom svijeta također koriste sličnu tehnologiju.

Može li umjetna inteligencija ikad početi donositi dobre sudske odluke?

Nije lako odgovoriti na ovo pitanje. Iako umjetna inteligencija može donositi odluke te vrste, to ne znači nužno da je sigurna.

Mnogi sustavi umjetne inteligencije i algoritama predviđanja koji koriste strojno učenje obično se osposobljavaju pomoću postojećih skupova podataka ili drugih postojećih povijesnih podataka.

Iako to zvuči kao relativno logičan pristup, on se uvelike oslanja na dostavljene podatke – posebice na njihovu kvalitetu.

Jedan od glavnih načina upotrebe strojnog učenja i tehnologije velikih podataka u ovom slučaju je to što se one koriste za identificiranje korelacija ili prividnih korelacija unutar skupova podataka. To bi moglo dovesti do lažno pozitivnih rezultata u slučaju podataka o kriminalu i ne baš biti korisno za identificiranje uzroka zločina.

No, kao što se kaže – "korelacija ne znači nužno i kauzalnost".

Ljudi su jednako podložni ovoj logičkoj greški koliko bi umjetna replika potencijalno mogla biti. Jedan od najboljih primjera za to je korelacija niskih primanja i sklonosti osobe prema kriminalu.

To nije uvijek slučaj, samo olakšavajuća okolnost.

Ako se s takvom potencijalnom pogreškom ne postupa ispravno, odluka ili presuda koju donosi umjetna inteligencija vrlo brzo može stvoriti začarani krug lažne identifikacije ili pak previše stroge ili blage kazne.

No, kao i uvijek u životu, stvari nisu tako jednostavne. Ni ljudi sami nisu savršeni strojevi za donošenje odluka.

Ako su i druga istraživanja iz 2018. godine također točna, čini se da umjetna inteligencija može biti brža i preciznija u pronalaženju potencijalnih pravnih problema od ljudskih bića. To znači da bi se moglo argumentirati da se ona definitivno treba koristiti kao pravna potpora ili barem u preispitivanju pravnog presedana.

Može li umjetna inteligencija zamijeniti ljudske suce?

Kako smo već vidjeli, umjetna inteligencija i napredni algoritmi već se koriste za određene zadatke. One zapravo rade dio posla za ljudske suce i odvjetnike.

No, hoće li ikada moći u potpunosti zamijeniti ljude koji su im nadređeni u pravosudnom sustavu? Koje bi točno bile prednosti i mane toga?

Mnogi tvrde da bi umjetna inteligencija trebala biti u stanju ukloniti bilo kakve predrasude u procesu donošenja konačne presude. Njihove se konačne odluke teoretski trebaju temeljiti isključivo na postojećim činjenicama i postojećem pravnom presedanu.

To bi, naravno, već trebalo biti slučaj s ljudskim sucima. No i svaki je čovjek podložan predrasudama i nesvjesnoj pristranosti, unatoč najboljim namjerama.

Ono što je možda još značajnije – samo zato što je nešto zakon, ne mora nužno značiti i da je pravedno. "Dobro" ili "loše" ponašanje nije crno ili bijelo, nego visoko nijansiran i potpuno ljudski konstrukt.

Odgovor na ovakva pitanja ostaje siguran unutar područja filozofije, a ne informatike. Naravno, drugi se vjerojatno ne bi složili, a to je "dobra" stvar.

Suci također trebaju donositi odluke o kazni počinitelja nakon presude. Te se odluke mogu kretati od vrlo malih (sitnih novčanih kazni) ili odobravanja jamčevine, do situacija koje potpuno mijenjaju život poput dugotrajnog zatvora ili čak smrti u određenim dijelovima svijeta.

Takve odluke se, barem u teoriji, temelje na težini kaznenog djela prema vjerojatnosti da će osuđenik ponovno prekršiti zakon. Kao što smo vidjeli u određenim dijelovima SAD-a, ovo je područje u kojem se već koriste umjetna inteligencija i algoritmi predviđanja kao pomoć u procesu odlučivanja.

Naravno, oni mogu potpuno zanemariti preporuku sustava umjetne inteligencije. No, to možda neće biti moguće ako bi se ljudi potpuno uklonili iz procesa.

Ovdje bi se možda mogao dati argument za generativne protivničke mrežne (GAN) panele AI-sudaca? Naposljetku, gotovo borbena priroda postavljanja i promjena presedana temelj su većine pravosudnih sustava.

Bi li AI-suci bili nepristrani?

Jedna očita prednost korištenja umjetne inteligencije ili pametnih algoritama za donošenje odluka je to što oni stvarno ne mogu imati pristranosti. To bi ih trebalo učiniti gotovo savršenim za pravne odluke jer bi postupak trebao biti utemeljen na dokazima a ne na subjektivnosti – kao što može biti slučaj s ljudskim sucima.

Zvuči savršeno, zar ne? No, "trava nije uvijek zelenija u susjedovom dvorištu".

Algoritmi i umjetna inteligencija u tom pogledu nisu savršeni. To je prvenstveno zato što čovjek mora kodirati bilo koji program ili sustav umjetne inteligencije. To može dovesti do nenamjernih pristranosti od samog početka.

Sustavi umjetne inteligencije mogli bi čak naučiti i oponašati pristranost svojih ljudskih kolega i iz podataka kroz koje su osposobljavani. Bi li se to ikada moglo ublažiti?

Drugo je pitanje tko će nadzirati AI-suce? Mogu li se njihove odluke kasnije osporiti? Bi li ljudski suci imali prednost nad odlukom AI-suca ili obrnuto?

Svjetski summit Vlada 2018. godine donio je zanimljiv i pronicljiv zaključak o ovoj temi:

"Još uvijek je neizvjesno koja od tih tehnologija može postati široko rasprostranjena i kako će različite vlade i sudstva odlučiti nadzirati njihovu upotrebu.

Dan kada će tehnologija postati sudac dobrog ili lošeg ljudskog ponašanja i određivati odgovarajuće kazne još uvijek je negdje u budućnosti.

Međutim, pravni sustavi često nude idealne primjere usluga koje bi se mogle poboljšati, dok bi proces suđenja vjerojatno mogao imati koristi od bolje analize podataka. Zakon često zahtijeva suđenje radi postavljanja presedana – zato pričekajte na testni slučaj korištenja umjetne inteligencije kao suca".

Dakle, u zaključku, može li umjetna inteligencija ikad zamijeniti ljudske pravne stručnjake ili biti učinkovitija u donošenju zakonskih odluka? Čini se da je odgovor i da i ne.

Da, kada je u pitanju obavljanje pomoćnih ili savjetodavnih uloga, poput prikupljanja dokaza ili procjene vjerojatnosti ponovnog prekršaja. Ne, kada je u pitanju donošenje konačnih presuda i određivanje kazne.

Vjerojatno je najpametnije zadržati ljudska bića kao "najviši autoritet" kada je riječ o presudama drugih smrtnih i svjesnih ljudskih bića, a ne isječke koda. Zakon i pravni sustav se, uostalom, mogu i s pravom nazvati "ljudskim konstruktom".

Postojeći pravni sustavi ponekad su i predivno improvizirani i izluđujuće nelogični u svom razvoju i nadograđivanju kako vremenom evoluira svijest i senzibilitet – a to ljudima potpuno odgovara. Oni nisu zacrtani za sva vremena; razvijaju se kao i samo društvo.

Niti jedan stroj se ne može razumjeti, suosjećati ili donositi odluke "u duhu zakona".

Možda su ljudi, sa svim svojim nesavršenostima i logičkim nedosljednostima, jedini mogući arbitri pravde jedni za druge. Zato se može reći da "pravdu" nikada ne treba prenijeti na strojeve i hladnu logiku jer je to u suprotnosti sa "ljudskim stanjem", piše .


Prevela Ružica Ereš