Do sada ste verovatno videli viralni trend generisanja akcionih figura i lutaka prema sopstvenom izgledu (toliko je viralan da su ga ljudi već prezasićeni). Međutim, važno je znati da davanje informacija o vašim ličnim interesima, hobijima, pa čak i vašem izgledu veštačkoj inteligenciji može biti iskorišćeno u socijalnom inženjeringu i prevarama — Pogotovo ako delite te slike na društvenim mrežama, gde zlonamerni akteri mogu prikupiti te identifikatore i upotrebiti ih protiv vas!

Nalazi istraživanja CETaS-a o VI i sajber kriminalu

Nedavno objavljeni izveštaj Centra za nove tehnologije i bezbednost (CETaS) iz Velike Britanije otkriva zabrinjavajući trend: kriminalne grupe sve više koriste napredne alate veštačke inteligencije za unapređenje svojih ilegalnih aktivnosti. Već smo ušli u period značajnih promena u načinu na koji kriminalne grupe koriste VI.

Izveštaj pokazuje da je došlo do “značajnog ubrzanja” kriminala omogućenog veštačkom inteligencijom, čineći sajber kriminal lakšim i efikasnijim nego ikada pre. Ko bi to mogao da predvidi?!

Kako VI olakšava kriminal?

VI snižava prepreke za kriminalce, omogućavajući im da:

• Automatizuju napade u velikom obimu
• Generišu hiper-realistični lažni sadržaj (veb sajtove, recenzije, mejlove)
• Koriste “deepfake” tehnologiju ili kloniranje glasa za lažno predstavljanje kao osobe od poverenja

Na primer, setite se izvršnog direktora koji je prevaren od strane lažnog finansijskog direktora putem “deepfake” tehnologije da pošalje 20 miliona funti prevarantu. To je moć koju VI daje prevarantima. Microsoft je nedavno prijavio da je sprečio pokušaje prevara u vrednosti od 4 milijarde dolara samo u prošloj godini.

Širok spektar kriminalnih aktivnosti

VI se primenjuje u različitim kriminalnim domenima:

• Finansijske prevare
• Širenje materijala o seksualnom zlostavljanju
• “Phishing” napadi
• DDoS napadi (distribuirano uskraćivanje usluge)
• Ljubavne prevare i druge obmanjujuće kampanje

Nije reč samo o “phishing” prevarama i lažnim veb sajtovima. VI podstiče i uverljive prevare za posao sa lažnim VI intervjuima i automatizuje manipulaciju u ljubavnim prevarama (poput “pig-butchering” prevara).

Šta pokreće ovaj rast kriminala podržanog veštačkom inteligencijom?

Izveštaj identifikuje nekoliko ključnih faktora:

1. Automatizacija i skaliranje — VI omogućava brzo povećanje obima kriminalnih aktivnosti
2. Unapređenje postojećih kriminalnih praksi
3. Širenje VI tehnologije ka kriminalnim grupama
4. Kriminalne inovacije u razvoju i upotrebi VI
5. Podudarnost između sposobnosti VI za obmanu i ljudskih psiholoških ranjivosti

Stvarni primeri VI kriminala

Finansijske prevare

Izveštaj citira slučaj britanske multinacionalne kompanije u Hong Kongu koja je izgubila 20 miliona funti nakon prevare zasnovane na sintetički generisanom sadržaju. Ovaj slučaj pokazuje:

• Kriminalnu inovaciju kroz sofisticiranu integraciju sintetičkog video i audio sadržaja
• Unapređenje postojećih kriminalnih praksi
• Iskorišćavanje ljudskih ranjivosti imitiranjem pouzdanih osoba u kompanijskim okruženjima

Bankarski sektor očekuje brz rast prevara podržanih veštačkom inteligencijom, sa procenama da bi gubici samo u SAD mogli dostići 40 milijardi dolara do 2027. godine..

Ljubavne prevare

Prevaranti sve više koriste velike jezičke modele (LLM) i “deepfake” tehnologije da unaprede obmanu u onlajn prevarama. VI omogućava efikasno skaliranje i personalizaciju komunikacije, što je ključno za izgradnju poverenja pre finansijske eksploatacije.

Iako potpuno autonomne “deepfake” interakcije u realnom vremenu još uvek predstavljaju tehnički izazov, prevaranti već sada kombinuju automatizovane alate sa ljudskim nadzorom.

Kako se zaštititi?

Veoma je važno:

• Ne deliti lako lične slike i podatke na internetu
• Nikome ne davati brojeve računa i druge osetljive finansijske informacije
• Biti upoznat sa novim oblicima VI prevara i biti oprezan prema sumnjivim komunikacijama
• Provera identiteta sagovornika putem alternativnih kanala komunikacije
• Korišćenje dvofaktorske autentifikacije

Preporuke za sistemski odgovor na pretnju

Izveštaj predlaže nekoliko ključnih akcija:

• Formiranje specijalne jedinice za VI kriminal unutar nacionalnih agencija za borbu protiv kriminala
• Međunarodna saradnja u sprovođenju zakona
• Sistemsko praćenje VI alata koji se zloupotrebljavaju u kriminalne svrhe

Na individualnom nivou, povećana svest i oprez pri deljenju ličnih podataka online predstavljaju prvu liniju odbrane protiv ovih sofisticiranih prevara.

Važno je da svi ozbiljno shvatimo ove pretnje. Već vidimo značajan pomak ka kriminalu podržanom veštačkom inteligencijom, sa brojnim primerima integracije VI u onlajn kriminal. Ova pretnja bi mogla da se ubrza još većom brzinom u narednih pet godina ako ne usvojimo brzo protivmere za ublažavanje rizika.