Stižu Grokipedia i Atlas preglednik, no oprez je ključan

Danas svjedočimo dvostrukoj dozi AI inovacija koje bi mogle promijeniti način na koji tražimo informacije i koristimo internet. S jedne strane, Elon Musk lansira Grokipediju, svoju viziju AI enciklopedije koja bi trebala parirati Wikipediji. S druge strane, OpenAI predstavlja Atlas, pametni web preglednik koji obećava automatizaciju naših online zadataka. No, dok su obećanja velika, današnje vijesti također služe kao snažan podsjetnik da s velikom moći dolaze i veliki sigurnosni rizici koje ne smijemo ignorirati.

Muskova Grokipedia: Je li ovo kraj za Wikipediju?

Elon Musk je napokon lansirao svoju dugo najavljivanu alternativu Wikipediji, nazvanu Grokipedia. Cilj je stvoriti enciklopediju oslobođenu političkih pristranosti za koje Musk tvrdi da opterećuju Wikipediju. Grokipedia je trenutno u vrlo ranoj fazi razvoja, s početnom bazom od oko 885.000 članaka i koristi hibridni model koji kombinira primarne izvore s informacijama koje prikuplja zajednica putem xAI algoritma.

Korištenje je za sada vrlo jednostavno. Za razliku od chatbota poput ChatGPT-a, ne postavljate mu pitanja ili ne pišete prompt, već jednostavno upisujete pojam koji vas zanima, primjerice “Barcelona”. Ipak, unatoč tvrdnjama o neutralnosti, korisnici su već primijetili simpatične “propuste”. Na primjer, u članku o samom Elonu Musku navodi se podatak da je izgubio 20 kilograma, što pokazuje da je potpuna objektivnost i dalje izazov. Vjerujem da je ovo tek prvi korak, a Musk obećava da će verzija 1.0 biti deset puta bolja. Za nas u Hrvatskoj, ovo je zanimljiv razvoj jer otvara vrata novim izvorima informacija, ali nas i uči da budemo kritični prema svim izvorima, bili oni ljudski ili AI.

OpenAI Atlas: Preglednik koji radi za vas, ali po koju cijenu?

Zamislite web preglednik koji ne samo da prikazuje stranice, već i aktivno obavlja zadatke za vas. To je obećanje OpenAI-jevog novog preglednika, ChatGPT Atlas. Njegova ključna značajka je takozvani “agent mode”, u kojem AI asistent može samostalno pretraživati web, popunjavati obrasce i obavljati radnje poput rezervacije stola u restoranu ili kupovine namirnica.

Ova tehnologija funkcionira tako što AI ima pristup svemu što radite u pregledniku, pamti vaše navike i uči iz vaših aktivnosti kako bi vam bolje pomogao. No, upravo tu leži i ogroman rizik. Stručnjaci upozoravaju na opasnost od “prompt injection” napada. To znači da bi zlonamjerna web stranica mogla sadržavati skrivene naredbe koje bi prevarile AI agenta. Na primjer, dok vi mislite da ste na stranici za online kupovinu, AI bi u pozadini mogao kopirati podatke s vašeg otvorenog internet bankarstva ili iz privatnog emaila. Time se narušava temeljni princip sigurnosti modernih preglednika, koji se zove “sandboxing” i koji drži svaku otvorenu stranicu izoliranom od drugih.

Sigurnosni stručnjaci potvrdili: Atlas preglednik je ranjiv

Teorijski rizici Atlas preglednika, nažalost, nisu ostali samo teorija. Samo tjedan dana nakon lansiranja, sigurnosni istraživači već su pronašli ozbiljne ranjivosti. Tvrtka LayerX otkrila je da napadači mogu “zaraziti” memoriju ChatGPT bota unutar preglednika i čak daljinski izvršavati kod na vašem računalu.

Ono što posebno zabrinjava jest nedostatak osnovnih sigurnosnih mehanizama. Testiranja su pokazala alarmantne rezultate:

  • Atlas je propustio čak 97% “phishing” napada.
  • Za usporedbu, Microsoft Edge zaustavio je 53% takvih napada.
  • Google Chrome spriječio je 47% prijetnji.

Sam OpenAI priznaje da je “prompt injection i dalje neriješen sigurnosni problem”. Iako je Atlas dostupan svima, tvrtka savjetuje poslovnim korisnicima da ga testiraju isključivo s podacima niskog rizika. Za nas, obične korisnike, poruka je jasna: ova tehnologija je uzbudljiva, ali još uvijek nije spremna za svakodnevnu upotrebu s osjetljivim podacima. Prije nego što joj povjerite svoje digitalne ključeve, dobro razmislite.

Današnje novosti savršeno ilustriraju trenutno stanje u svijetu umjetne inteligencije. S jedne strane, imamo nevjerojatan napredak i alate koji zvuče kao znanstvena fantastika. S druge strane, žurba s izbacivanjem proizvoda na tržište često znači da sigurnost i privatnost korisnika ostaju u drugom planu. Moj savjet je da ostanete znatiželjni i otvoreni za inovacije, ali da svakom novom alatu pristupite s dozom zdravog opreza. Budućnost je bez sumnje uzbudljiva, no na nama je da se pobrinemo da bude i sigurna.

Podijelite ovu objavu:

Facebook
LinkedIn

Leave a Reply

Your email address will not be published. Required fields are marked *

Mjesto za Vaš oglas

(365 x 270 px)
Najnovije
Kategorije

Prijavi se za newsletter

Prijavi se na naš newsletter kako bi primao najnovije informacije i novosti iz AI svijeta.

Budi u toku s novostima iz AI svijeta

Prijavi se za naš Newsletter