Dobrodošli u novi pregled vijesti iz svijeta umjetne inteligencije. Danas se bavimo jednom izuzetno važnom temom koja služi kao snažno upozorenje za sve profesije, a posebno za one koje čine temelj našeg društva. Svjedočimo nevjerojatnom prodoru AI alata u svakodnevni život, ali priča koja nam dolazi iz američkog pravosudnog sustava pokazuje mračniju stranu ove revolucije. Govorit ćemo o tome što se događa kada se moćni alati koriste bez nadzora i odgovornosti te zašto je to lekcija koju u Hrvatskoj moramo shvatiti vrlo ozbiljno.
Američki suci uhvaćeni u korištenju AI-a: Upozorenje o integritetu pravosuđa
Ugledni američki medij American Thinker donosi zabrinjavajuću vijest koja je odjeknula pravosudnim krugovima. Nakon što je već zabilježeno više slučajeva u kojima su odvjetnici predavali sudske podneske s izmišljenim presudama i citatima koje je generirao AI, sada se ista praksa, čini se, proširila i na same suce. Ovo nije tek tehnička pogreška, ovo je prijetnja samom temelju vladavine prava.
Dva slučaja posebno se ističu. Savezni sudac Henry T. Wingate iz Mississippija izdao je sudski nalog koji je sadržavao nevjerojatne pogreške: naveo je tužitelje koji uopće nisu bili stranke u postupku, uključio netočne citate iz državnog zakona i pozivao se na sudske slučajeve koji, kako se čini, uopće ne postoje. Slično tome, sudac Julien Xavier Neals iz New Jerseyja morao je povući svoju odluku jer je sadržavala pogrešno prikazane ishode slučajeva i lažne citate.
Ovi incidenti otvaraju pitanje koje nadilazi tehnologiju. Problem nije u samom AI-u, već u njegovoj nekritičkoj primjeni. AI modeli, poznati kao LLM-ovi, skloni su onome što nazivamo “halucinacijama”, odnosno izmišljanju informacija koje zvuče uvjerljivo, ali su potpuno netočne. Kada se takav alat koristi za pisanje pravnih odluka bez rigorozne ljudske provjere, posljedice mogu biti katastrofalne.
Za nas u Hrvatskoj, ovo je lekcija koju moramo naučiti prije nego što bude prekasno. Dok razmatramo uvođenje AI rješenja u naše pravosuđe, upravu i druge ključne sektore, moramo inzistirati na jednom: ljudska odgovornost mora uvijek biti na prvom mjestu. AI može biti nevjerojatno koristan asistent za istraživanje i analizu, ali konačnu odluku, provjeru i etičku prosudbu mora donijeti čovjek. U suprotnom, riskiramo eroziju povjerenja u same institucije koje nas štite.
Današnja priča iz SAD-a nije razlog za strah od tehnologije, već poziv na buđenje. Ona nas podsjeća da je svaka tehnološka revolucija, pa tako i ova, prije svega test naše zrelosti i odgovornosti. Vjerujem da je najveći izazov pred nama ne kako razviti pametniji AI, već kako ostati pametni i etični u načinu na koji ga koristimo. Integritet naših profesija i institucija ovisi o tome hoćemo li AI koristiti kao alat koji osnažuje ljudsku prosudbu ili kao prečac koji je zaobilazi.




