Sve je više rasprava o tome da li bi veštačka inteligencija jednog dana mogla da donosi bolje i objektivnije sudske odluke od ljudi.
Zagovornici ove ideje ukazuju na brojne probleme u pravosuđu: pogrešne presude, proceduralne greške, preopterećene sudove, političke pritiske, pristrasnost i činjenicu da se važne informacije ponekad zanemaruju.
SNapravudije imaju ograničenja. Mogu pogrešiti, biti pod uticajem ličnih stavova, prethodnih presuda ili institucionalne kulture. Takođe rade pod ogromnim pritiskom i sa velikim brojem predmeta i dokumenata koje nije uvek moguće detaljno analizirati.
AI bi mogao da obradi ogromne količine podataka, uporedi hiljade ranijih presuda, pronađe nedoslednosti i ukaže na pravne ili proceduralne greške. Za razliku od čoveka, ne bi trebalo da ima političke simpatije, karijerne interese ili strah od kontroverzne odluke.
Posebno pitanje predstavlja takozvani „lawfare“, odnosno korišćenje pravnog sistema za političke obračune. Kritičari tvrde da bi AI mogao da smanji prostor za takve zloupotrebe jer bi odluke zasnivao na podacima i unapred definisanim kriterijumima, a ne na političkim vezama ili ličnim stavovima.
Međutim, problem je upravo u tome što AI ne donosi odluke potpuno samostalno. Ljudi određuju podatke na kojima se obučava, pravila koja primenjuje i način na koji tumači rezultate. Ako su podaci pristrasni ili su pravila loše postavljena, AI može samo da reprodukuje postojeće greške, ali mnogo brže i u mnogo većem obimu.
Zato pitanje nije samo da li AI može da zameni sudiju, već i ko kontroliše AI koji odlučuje o ljudskim životima i pravima.
U budućnosti bi zato realniji model mogao biti kombinacija čoveka i veštačke inteligencije: AI bi analizirao dokaze, zakone i presedane, upozoravao na nelogičnosti i pomagao sudiji, dok bi konačnu odluku i odgovornost i dalje imao čovek.
Najveći problem nije pitanje da li bi AI mogao da bude objektivniji od sudije, već ko bi kontrolisao AI sudiju. Ako bi softver imao moć da odlučuje o nečijoj slobodi, imovini ili pravima, onaj ko kontroliše njegov kod, podatke, algoritme i ažuriranja dobio bi ogroman uticaj nad pravosuđem. AI može biti programiran da određene činjenice zanemari, da favorizuje određene pravne interpretacije ili da daje „ispravne“ odgovore prema unapred postavljenim kriterijumima, a da korisnici toga uopšte nisu svesni. Umesto uklanjanja ljudske pristrasnosti, dobili bismo mogućnost da se ljudska pristrasnost sakrije unutar softvera. Zato AI u pravosuđu može biti moćan alat, ali njegovo pretvaranje u konačnog sudiju nosilo bi ogroman rizik koncentracije moći i manipulacije sistemom.
