Veštačka inteligencija (AI) sve se više razvija za analizu neuronskih signala, modelovanje ponašanja i predviđanje obrazaca donošenja odluka. To označava paradigmalni pomak od jednostavne obrade podataka ka sistemima koji mogu da tumače i ostvaruju interakciju sa ljudskom kognicijom. Na konferenciji Kaspersky HORIZONS, godišnjoj vodećoj evropskoj konferenciji kompanije Kaspersky posvećenoj budućnosti sajber bezbednosti, održanoj u Rimu 19. maja, Kaspersky je razmatrao šta evolucija veštačke inteligencije znači za mentalnu privatnost i kognitivnu autonomiju.
Iako trenutni AI sistemi ne mogu direktno da čitaju niti precizno dekodiraju ljudske misli, oni poseduju sposobnosti koje mogu uticati na ponašanje i oblikovati odluke putem sistema preporuka, personalizacije i kontrole informacija velikih razmera. U tom smislu, reč je o stvarnom i rastućem sajber-bezbednosnom i socio-tehničkom riziku, iako ekstremniji scenariji za sada ostaju u domenu spekulacija.
Kaspersky GReAT predviđa da će sledeća četiri nova bezbednosna rizika postajati sve izraženija kako sistemi kognitivne veštačke inteligencije budu napredovali:
#1 Socijalni inženjering postaje složeniji i obmanjujući
Veliki jezički modeli (LLM-ovi) već transformišu socijalni inženjering u znatno sofisticiraniju i ubedljiviju pretnju. Napadači sada mogu kreirati uverljivije imejl poruke i fišing stranice. Uz pomoć kognitivne AI, potencijalno mogu koristiti društvene platforme i velike skupove podataka za osmišljavanje visoko ciljanih prevara, koristeći uvide u ponašanje i psihološko profilisanje kako bi povećali stopu uspeha. Pokušaji fišing napada takođe mogu biti dinamički generisani, prilagođeni kontekstu i emocionalno uverljivi, što ih čini znatno teže prepoznatljivim.
Ovo može pogoditi kako pojedince tako i organizacije, kroz krađu podataka i finansijske prevare. Najnoviji Globalni izveštaj Kaspersky Security Services pokazuje da fišing čini oko 15% (jedan od sedam) najčešće korišćenih tehnika napada. U tom kontekstu, fišing može predstavljati efikasnu početnu tačku za ulazak APT pretnji (napredne perzistentne pretnje) i drugih sofisticiranih oblika zlonamernog softvera (crimeware) usmerenih ka kompanijama i državnim institucijama.
#2 Kognitivna manipulacija oblikuje javno mnjenje
Pored pojedinačnih napada, AI omogućava operacije uticaja velikih razmera koje mogu oblikovati javno mnjenje. Akteri poput haktivista ili grupa koje sprovode napredne perzistentne pretnje mogu potencijalno iskorišćavati kognitivne pristrasnosti i emocionalne okidače na nivou čitavih populacija. Platforme društvenih mreža već pokazuju kako algoritamski sistemi mogu učvrstiti „echo chamber“ efekte (informacione mehure istomišljenika) i produbiti polarizaciju, dok političke kampanje i korporacije mogu koristiti mikro-targetiranje i tehnike zasnovane na obrascima ponašanja za angažovanje korisnika. Kako ove mogućnosti budu napredovale, granica između predviđanja ponašanja i njegovog aktivnog oblikovanja postajaće sve nejasnija. To stvara sistemske rizike ne samo po individualnu autonomiju, već i po javno poverenje i demokratske procese.
#3 Profilisanje omogućava prediktivnu zloupotrebu
Profilisanje zasnovano na veštačkoj inteligenciji postaje moćan alat za zloupotrebu. Objedinjavanjem podataka sa društvenih mreža, digitalnog ponašanja i drugih izvora, AI može izgraditi veoma detaljne psihološke profile i profile identiteta pojedinaca. Time se značajno povećava rizik od doxxing-a (otkrivanja privatnih ili identifikacionih podataka) i tehnološki posredovanog zlostavljanja. Informacije koje su nekada bile fragmentisane sada mogu biti automatski povezane, otkrivajući osetljive detalje, povezujući identitete i omogućavajući ciljano uznemiravanje velikih razmera. Napadi se takođe mogu prilagoditi ličnim ranjivostima, čineći ih efikasnijim i težim za odbranu.
Istovremeno, prediktivni modeli uvode rizik da pojedinci budu procenjivani ili ciljano izloženi pretnjama na osnovu pretpostavljenog ponašanja, a ne stvarnih postupaka. Time se pretnja pomera sa gubitka privatnosti ka gubitku kontrole nad sopstvenim identitetom i načinom na koji se on konstruiše i koristi protiv pojedinca.
#4 Interfejsi mozak-računar približavaju se IoT okruženju
Iako su i dalje uglavnom u eksperimentalnoj fazi, interfejsi mozak-računar (BCI – Brain-Computer Interfaces) već se koriste kako bi omogućili komunikaciju pacijentima putem interpretacije neuronskih signala. Aktuelna istraživanja proširuju njihove mogućnosti i izvan osnovne interakcije, uključujući sposobnost upravljanja spoljnim uređajima. Upravo u tom trenutku BCI sistemi počinju da se približavaju Internetu stvari (IoT – Internet of Things). U praktičnom smislu, neuronski signali mogu se koristiti za slanje komandi povezanim sistemima, kao što su pametni kućni uređaji, asistivne tehnologije ili medicinska oprema.
Iako ova integracija donosi značajne koristi, posebno u oblasti zdravstva i pristupačnosti, ona istovremeno proširuje sajber-bezbednosne rizike na nova područja, jer kompromitovani sistemi mogu omogućiti neovlašćene radnje putem korisnikovog neuronskog interfejsa, uključujući presretanje signala, manipulaciju odgovorima uređaja ili zloupotrebu veze između namere i izvršenja. Kao rezultat toga, bezbednosni rizici prevazilaze okvire digitalne infrastrukture i ulaze u domen fizičkih sistema i ljudskog delovanja.
