Danas imamo dvije priče koje savršeno oslikavaju dvostruku prirodu umjetne inteligencije. S jedne strane, svjedočimo kako AI postaje moćno oružje u rukama kriminalaca, što je lokalnu zajednicu u Australiji koštalo gotovo dva milijuna dolara. S druge strane, vidimo i prvi konkretan odgovor društva na ove izazove, s Kalifornijom koja donosi pionirski zakon za zaštitu djece od potencijalno štetnih AI chatbotova. Ove vijesti pokazuju da ulazimo u novu eru u kojoj moramo hitno pronaći ravnotežu između inovacija i sigurnosti.
AI kao oružje: Australsko vijeće izgubilo milijune u sofisticiranoj prijevari
Vijest iz Australije zvuči kao scenarij iz tehnološkog trilera, ali je nažalost stvarna. Vijeće grada Noosa u Queenslandu ostalo je bez 1.9 milijuna dolara nakon što je postalo žrtvom iznimno sofisticirane međunarodne prijevare. Gradonačelnik Frank Wilkie izjavio je kako su prevaranti koristili umjetnu inteligenciju koja je bila sposobna “imitirati osobnosti” ključnih ljudi, što je napad učinilo izuzetno uvjerljivim.
Stručnjaci vjeruju da ovo nije bio klasični “hack” sustava, već napad koji cilja ljudsku psihologiju. Dennis Desmond, bivši agent FBI-a i stručnjak za kibernetičku sigurnost, objašnjava kako su kriminalci vjerojatno iskoristili javno dostupne podatke kako bi stvorili detaljan profil organizacije. Zatim su, koristeći AI tehnologiju za oponašanje glasa (voice mimicry) ili napredne phishing emailove, uvjerili zaposlenika da odobri velike transakcije. Ovo je ključna poanta za sve nas u Hrvatskoj: najslabija karika često nije softver, već čovjek.
“Ovo se oslanja na iskorištavanje ljudskih slabosti, a ne ranjivosti softvera ili hardvera, i prilično je uobičajeno kod međunarodnog organiziranog kriminala,” naglasio je dr. Desmond.
Ovaj slučaj je ozbiljno upozorenje za sve javne institucije i tvrtke u Hrvatskoj. Moramo biti svjesni da prijetnje postaju sve osobnije i uvjerljivije. Edukacija zaposlenika o ovakvim napadima socijalnog inženjeringa postaje jednako važna kao i posjedovanje najnovijeg antivirusnog softvera.
Kalifornija postavlja granice: Novi zakon štiti djecu od opasnosti AI chatbotova
Dok se u Australiji bore s posljedicama zlouporabe AI, u Kaliforniji zakonodavci pokušavaju djelovati preventivno. Guverner Gavin Newsom potpisao je novi zakon, poznat kao Senate Bill 243, koji uvodi prve konkretne mjere za zaštitu djece od potencijalnih opasnosti AI chatbotova. Ovaj zakon predstavlja važan korak u postavljanju digitalnih “zaštitnih ograda” za najranjivije korisnike.
Zakon, koji stupa na snagu 1. siječnja 2026., nalaže tvrtkama koje razvijaju chatbotove da implementiraju nekoliko ključnih zaštitnih mjera:
- Moraju ugraditi mehanizme koji sprječavaju razgovore o samoubojstvu ili samoozljeđivanju te umjesto toga korisnike upućuju na linije za pomoć.
- Chatbotovi će morati podsjećati maloljetne korisnike da naprave pauzu svaka tri sata.
- Moraju jasno i redovito naglašavati da korisnik razgovara s umjetnom inteligencijom, a ne sa stvarnom osobom.
- Tvrtke su dužne poduzeti “razumne mjere” kako bi spriječile generiranje seksualno eksplicitnog sadržaja.
Guverner Newsom je ovom prilikom izjavio: “Nove tehnologije poput chatbotova i društvenih medija mogu inspirirati, educirati i povezivati, ali bez pravih zaštitnih mehanizama, tehnologija također može iskorištavati, obmanjivati i ugrožavati našu djecu.” Smatram da je ovo presedan koji će i Europa, a time i Hrvatska, pomno pratiti. Regulacija AI nije kočnica inovacijama, već nužan preduvjet za izgradnju povjerenja i sigurno usvajanje tehnologije.
Današnje vijesti su jasan podsjetnik da AI nije samo tehnologija, već i moćan alat koji oblikuje naše društvo. Prijevara u Australiji pokazuje nam sirovu, opipljivu opasnost kada se AI zloupotrijebi. Zakon iz Kalifornije, s druge strane, nudi tračak nade i putokaz kako se možemo zaštititi. Ne možemo zaustaviti napredak, ali možemo i moramo njime upravljati. Vjerujem da je pred nama ključno razdoblje u kojem ćemo kao društvo morati donijeti važne odluke o tome kako ćemo integrirati AI u naše živote na siguran i odgovoran način.




