Na pitanje odgovara Vladislav Tuškanov, rukovodilac grupe u istraživačkom centru za veštačku inteligenciju kompanije Kaspersky
Ako se prisetimo priče o ChatGPT četbotu, snažni i veliki jezički modeli, poput OpenAI text-davinci-003, postojali su već neko vreme pre nego što je ChatGPT lansiran. Mogli su se koristiti za generisanje teksta i, uz određenu veštinu, za vođenje razgovora. Ipak, to je zahtevalo određenu tehničku pismenost i barem malo interesovanja za eksperimentisanje. ChatGPT je, međutim, omogućio besplatan pristup konverzacijskom modelu putem praktičnog interfejsa. Slično tome, modeli rezonovanja (ili skaliranja vremena testiranja) dostupni su već neko vreme. Qwen QwQ poznat je samo uskom krugu istraživača i entuzijasta, dok su OpenAI modeli (o1 i o1-mini) do nedavno bili dostupni korisnicima samo uz plaćanje. Štaviše, najmoćnije rešenje, o1 pro mod, dostupno je samo u paketu koji košta 200 dolara mesečno.
U međuvremenu, zahvaljujući DeepSeek četbotu, svi mogu da se upoznaju sa moćnim modelom rezonovanja, slično kao što je to bio slučaj sa ChatGPT četbotom u svoje vreme. Ovaj model se pokazao prilično impresivnim. Zahvaljujući svom unutrašnjem mehanizmu lanca razmišljanja (chain-of-thought), sposoban je da rešava složene probleme koji zahtevaju razlaganje na više koraka. Na primer, odlično se pokazao u analizi malicioznih skripti koje izvode više koraka odjednom, pri čemu su neki od njih zamaskirani kako bi zbunili analitičara. Još jedna impresivna sposobnost je pretraga materijala na internetu. Za razliku od ChatGPT četbota, DeepSeek može kombinovati rezonovanje sa veb pretragom. Na primer, ako mu zadate da analizira neki tržišni segment (recimo, provajdere velikih jezičkih modela), on će dobiti desetine veb stranica iz pretrage kao input, pročitati ih, odabrati relevantne i dati odgovor – što može uštedeti mnogo vremena. Pošto je DeepSeek-R1 open weights model (bilo ko može preuzeti weights i pokrenuti sopstvenu verziju ako ima resurse), kompanije kao što je Perplexity (startap specijalizovan za LLM pretragu) takođe su integrisale DeepSeek-R1 u svoj proizvod kako bi omogućile sličnu funkcionalnost. Na kraju, jedno subjektivno zapažanje: DeepSeek model ima mnogo živopisniju „ličnost“. OpenAI model briljantno rešava složene probleme, ali su njegovi odgovori prilično suvoparni. Nije naročito pogodan, na primer, za kreativne zadatke – u takvim slučajevima bolje je koristiti GPT-4o ili Claude Sonnet 3.5. DeepSeek ne samo da se odlično snalazi u složenim razvojnim zadacima, već i sjajno vodi prilično složene filozofske diskusije ili pomaže u pisanju fantastičnih scenarija, često se uspešno šaleći i igrajući se rečima, npr. kombinujući prednosti rezonovanja i standardnih jezičkih modela.
Još je prerano tvrditi da je ovaj ili onaj model superiorniji od drugih u svim ili većini zadataka. Postoje standardni testovi u kojima DeepSeek-R1 zaostaje za starijim OpenAI modelima.
Naravno, što je način komunikacije modela „ljudskiji“, to su korisnici skloniji da sa njim razgovaraju o ličnim temama. Vredi podsetiti da DeepSeek, kao i svaki klaud provajder, prikuplja podatke o korisnicima i njihovim dijalozima kako bi sprečio zloupotrebe i poboljšao svoje modele. Pored toga, DeepSeek-R1, kao i svi prethodni modeli, sklon je halucinacijama (u mojim testovima izmišljao je linkove ka naučnim radovima iz neuronauke), tako da se na ove modele ne bi trebalo oslanjati u kritičnim situacijama, poput pravnih ili medicinskih saveta ili psihološke pomoći.
Lažne stranice za registraciju na DeepSeek
„Iako DeepSeek ne pruža detalje o prirodi napada sa kojim se suočava, važno je prepoznati da će sajber kriminalci neizbežno pokušati da zloupotrebe takve alate. Slični trendovi su zabeleženi i sa drugim popularnim AI modelima, koji su korišćeni za aktivnosti poput kreiranja fišing imejlova, prevođenja teksta, generisanja skripti i sprovođenja istraživanja otvorenih izvora kako bi se stvorio personalizovaniji i uverljiviji sadržaj. Ovi alati se takođe mogu koristiti kao mamac za širenje prevara i malicioznih aplikacija.
Ono što se izdvaja u slučaju DeepSeek četbota je njegova priroda otvorenog koda, što je mač sa dve oštrice. Dok okviri otvorenog koda podstiču transparentnost, saradnju i inovacije, oni takođe uvode značajne sigurnosne i etičke rizike. Kada koristite alat otvorenog koda, ne možete uvek biti sigurni kako se vaši podaci obrađuju, posebno ako je taj alat implementirao neko drugi. Iskorišćavanje softvera otvorenog koda je bila jedna od glavnih pretnji prošle godine, a sajber kriminalci su sproveli složene kampanje za ubacivanje malvera. U 2024. godini, naš skener otvorenog koda otkrio je više od 12.000 zlonamernih paketa u otvorenim repozitorijumima. Bez centralizovanog nadzora, akteri pretnji mogu početi da kreiraju kompromitovane verzije softvera ili uvode bekdor pod maskom alata za korišćenje DeepSeek API-ja, što može biti ozbiljan rizik za korisnike i organizacije“, objašnjava Leonid Bezveršenko, istraživač bezbednosti, Kaspersky GreAT.
„Novi DeepSeek AI asistent privukao je mnogo pažnje u poslednjih nekoliko dana, a primetili smo nekoliko slučajeva prevare.
Zbog velikog broja novih korisnika i navodnog sajber napada na DeepSeek, pojavili su se problemi u procesu registracije na DeepSeek aplikaciji i veb-sajtu jer mnoge registracije ne mogu da prođu. Ova situacija može biti iskorišćena od strane sajber kriminalaca za krađu korisničkih podataka putem lažnih DeepSeek veb stranica.
Kroz ovakve lažne stranice za registraciju, napadači mogu prikupljati imejl adrese i lozinke korisnika. One se mogu iskoristiti za pristup korisničkim nalozima na DeepSeek ili drugim servisima (ako je lozinka ista za više naloga).
Takođe, bilo je nekoliko novih kripto tokena zasnovanih na popularnosti DeepSeek četbota koji su bili dostupni za prodaju. Oni nisu zvanično povezani s DeepSeek brendom, pa je njihova kapitalizacija spekulativna“, upozorava Olga Svistunova, viši analitičar veb sadržaja u kompaniji Kaspersky.
Da biste se zaštitili od takvih napada, Kaspersky preporučuje da:
- pažljivo proverite adrese stranica koje traže podatke o nalogu, pa ako postoji i najmanja sumnja da je stranica lažna, nemojte unositi svoju lozinku;
- pobrinete se da sve vaše lozinke budu i jake i jedinstvene, pri čemu je za generisanje i čuvanje lozinki najbolje e koristiti menadžer lozinki;
- uvek koristite dvofaktorsku autentifikaciju kada je to moguće;
- koristite pouzdanu zaštitu za sve vaše uređaje, desktop i mobilne, kako biste bili zaštićeni od gubitka akreditiva i malvera.
