U okviru vodeće evropske futurističke konferencije Kaspersky Horizons, koja se održava od 30. juna do 2. jula 2025. u Madridu, stručnjaci za sajber bezbednost pozivaju na veću transparentnost u upotrebi veštačke inteligencije (AI).
Veštačka inteligencija je mač sa dve oštrice: iako može doneti značajne iskorake u efikasnosti i otvoriti nove mogućnosti za kompanije i pojedince, takođe može biti i zloupotrebljena od strane sajber kriminalaca za pravljenje malvera i druge napade. Prema nedavnom istraživanju kompanije Kaspersky, 52% kompanija širom sveta strahuje od gubitka poverenja ukoliko ne unaprede zaštitu od sajber napada zasnovanih na AI tehnologiji. Istovremeno, 41% njih navodi da im nedostaje stručno znanje o eksternim pretnjama kako bi se efikasno zaštitile od takvih scenarija. Pomoću „Smernica za bezbedan razvoj i primenu AI sistema“, kompanija Kaspersky nudi konkretne preporuke koje kompanije mogu koristiti za bezbednu i odgovornu implementaciju AI tehnologije. Uz to, dokument „Principi etičke upotrebe AI sistema u sajber bezbednosti“ dopunjuje smernice etičkim načelima za razvoj i upotrebu AI u oblasti sajber bezbednosti.
Veštačka inteligencija se brzo razvija, i dok je njen potencijal uglavnom usmeren ka korisnim efektima za kompanije i pojedince, manje sofisticirani sajber kriminalci već koriste AI kako bi proširili svoje kapacitete za maliciozne aktivnosti.
Nedavno istraživanje kompanije Kaspersky pokazuje da je većina kompanija svesna ovih opasnosti: 58% kompanija širom sveta strahuje od gubitka poverljivih podataka, a 52% od gubitka poverenja i finansijske štete, ukoliko ne unaprede svoju zaštitu od napada zasnovanih na veštačkoj inteligenciji. Međutim, često nedostaje potrebno znanje: 41% ispitanika navodi da nemaju relevantne informacije od eksternih stručnjaka o aktuelnim pretnjama koje donose napadi podržani AI tehnologijom.
Kompanija Kaspersky se zato zalaže za jasne smernice za etički razvoj i upotrebu veštačke inteligencije kako bi se efikasno sprečile manipulacije i zloupotrebe.
Transparentnost, bezbednost, kontrola i zaštita podataka kao stubovi etičke upotrebe veštačke inteligencije
Kako bi podržala usvajanje etičke veštačke inteligencije, kompanija Kaspersky je razvila smernice i principe za njenu odgovornu upotrebu.
„Smernice za bezbedan razvoj i primenu AI sistema“ bave se ključnim aspektima razvoja, primenom i upravljanjem AI sistemima, uključujući dizajn, najbolje bezbednosne prakse i integraciju, bez fokusiranja na razvoj osnovnih modela. To uključuje: svest i obuku o sajber bezbednosti, modelovanje pretnji i procena rizika, bezbednost infrastrukture (oblak), bezbednost lanca snabdevanja i podataka, testiranje i validaciju, odbranu od napada specifičnih za mašinsko učenje, redovno ažuriranje bezbednosti i održavanje i usklađenost sa međunarodnim standardima.
„Principi etičke upotrebe AI sistema u sajber bezbednosti“ zagovaraju veću edukaciju i jasne standarde usredsređene na transparentnost, bezbednost, ljudsku kontrolu i zaštitu podataka, kako bi se efikasno sprečila manipulacija i zloupotreba AI. Ovi principi uključuju: transparentnost (otkrivanje upotrebe veštačke inteligencije/mašinskog učenja korisnicima; objašnjavanje kako funkcioniše; razvijanje sistema koji su što razumljiviji; i uvođenje kontrolnih mehanizama kako bi se obezbedili validni rezultati), bezbednost (davanje prioriteta bezbednosti tokom razvoja i implementacije; sprovođenje specifičnih bezbednosnih provera i simulacije napada; minimiziranje oslanjanja na eksterne podatke za obuku; primena višeslojnih strategija zaštite; i davanje prednosti rešenjima zasnovanim na oblaku sa odgovarajućim merama zaštite), ljudsku kontrolu (obezbeđivanje ljudskog nadzora nad svim sistemima veštačke inteligencije/mašinskog učenja; kontinuirano praćenje od strane stručnjaka; i kombinovanje algoritama sa ljudskom ekspertizom) i zaštitu podataka (poštovanje privatnosti ličnih podataka; ograničavanje i smanjenje obrade podataka; pseudonimizacija ili anonimizacija; obezbeđivanje integriteta podataka; i primena tehničkih i organizacionih mera za zaštitu privatnosti).
