Sajber bezbednost u doba veštačke inteligencije - Šta se promenilo u 2023. godini
Stručnjaci kompanije Kaspersky su u najnovijem izveštaju analizirali veliki uticaj veštačke inteligencije (AI) na sajber bezbednost
26. Dec
0
Podeli
Akcenat je na primeni AI u domenu zaštite i neophodnosti zakonske regulative, a posebno je analizirana moguća zloupotreba AI od sajber kriminalaca. Ovo sveobuhvatno istraživanje deo je Kaspersky Security Bulletin-a (KSB) – godišnjeg izdanja sa predviđanjima i detaljnim izveštajima koji objašnjavaju promene u dinamičnom okruženju sajber bezbednosti. Usled rapidnog tehnološkog napretka i stalnih društvenih promena, AI je postala jedna od glavnih tema na globalnom nivou.
Sa širenjem velikih jezičkih modela (LLM) raste i
zabrinutost kakav uticaj će AI imati u domenu sajber bezbednosti. Istraživači
kompanije Kaspersky ilustruju kako su AI alatke pomogle sajber kriminalcima u
njihovim malicioznim aktivnostima tokom 2023. godine, dok istovremeno ukazuju
na potencijalnu primenu te iste tehnologije u cilju zaštite. Pored toga,
stručnjaci kompanije Kaspersky izneli su predviđanja kako bi u budućnosti mogle
da izgledaju AI pretnje:
Složenije ranjivosti
Kako LLM sve češće postaju deo proizvoda, nove
kompleksne ranjivosti će se pojaviti u okviru generativne AI i tradicionalnih
determinističkih tehnologija, proširujući tako pr4ostor mogućih napada koji
profesionalci za sajber bezbednost treba da pokriju. Programeri će morati da
prouče nove bezbednosne mere, poput onih koje traže odobrenje korisnika za
radnje koje iniciraju LLM.
Sveobuhvatan AI
asistent za specijaliste za sajber bezbednost
Crveni timovi i istraživači koristiće generativnu AI
za inovativne bezbednosne alate, što potencijalno vodi ka asistentu koji
koristi LLM ili mašinsko učenje (ML). Ovaj alat bi mogao da automatizuje
zadatke crvenog tima, nudeći smernice zasnovane na izvršenim komandama.
Neuronske mreže
će se sve više koristiti za generisanje vizuala za prevare
U narednoj godini prevaranti će unaprediti taktike
koristeći neuronske mreže i AI alate za kreiranje ubedljivijeg obmanjujućeg
sadržaja. Koliko će biti lako generisati ubedljive slike i video-zapise, toliko
će porasti i rizik od eskalacije sajber pretnji.
AI neće biti
pokretač revolucionarnih promena u domenu sajber pretnji tokom 2024.
Uprkos navedenim trendovima, stručnjaci kompanije
Kaspersky i dalje ne veruje da će AI značajno promeniti sajber pretnje u
skorije vreme. Iako sajber kriminalci usvajaju generativnu AI, isto važi i za
branioce, koji će koristiti iste ili naprednije alate za testiranje i
unapređenje bezbednosti softvera i mreža, zbog čega je malo verovatno da će se
vrste napada drastično promeniti.
Više
regulatornih inicijativa u vezi sa AI, uz doprinos privatnog sektora
Kako se ova tehnologija brzo razvija, tako će ubrzano
postati i jedna od glavnih tema za kreatore zakona i pravila. Broj regulatornih
inicijativa u vezi sa AI će rasti tokom sledeće godine. S obzirom na njihovu
stručnost u razvoju i korišćenju AI, tehnološke kompanije mogu pružiti
neprocenjive uvide tokom diskusija o regulaciji veštačke inteligencije na
globalnom i nacionalnom nivou.
Vodeni žig koji
generiše AI
Za označavanje i identifikaciju sintetičkog sadržaja
biće potrebno više propisa, kao i mera od strane pružalaca usluga koji će
nastaviti da ulažu u tehnologije za detekciju. Programeri i istraživači će, sa
svoje strane, doprineti metodama obeležavanja vodenim žigom na sintetičkim
medijima radi lakše identifikacije i otkrivanja porekla.
Vladislav
Tushkanov
-Veštačka inteligencija u sajber bezbednosti je mač sa dve oštrice. Njene adaptivne sposobnosti jačaju odbranu, nudeći nam proaktivni štit od pretnji koje se konstantno razvijaju. Međutim, ista dinamika može biti rizična, jer napadači koriste veštačku inteligenciju za kreiranje sofisticiranijih napada. Da bismo obezbedili naše digitalne granice, važno je ostvariti ravnotežu i obezbediti odgovorno korišćenje AI bez nepotrebnog deljenja osetljivih podataka - komentariše Vladislav Tushkanov, bezbednosni stručnjak kompanije Kaspersky.
Komentari(0)