Zloupotreba veštačke inteligencije: Od sajber napada do biološkog oružja i nadzora

Ekspanzija naprednih modela veštačke inteligencije donela je ogroman skok u produktivnosti i analitičkim mogućnostima, ali je istovremeno otvorila vrata ozbiljnim bezbednosnim rizikom. Izveštaji bezbednosnih istraživača i sama dokumentacija kompanije Anthropic — tvorca jednog od najnaprednijih jezičkih modela, Claude — ukazuju na alarmantan trend: zloupotreba veštačke inteligencije prešla je iz teoretskih upozorenja u aktivne prijetnje na terenu.

Istraživanja i analize pretnji iz druge polovine 2026. godine otkrivaju da se AI modeli sve češće koriste za automatizaciju sajber napada, kreiranje lažnih identiteta, masovni nadzor, pa čak i istraživanja povezana sa biološkim oružjem.

1. Biološki rizici i opasne hemijske specifikacije

Jedan od najzabrinjavajućih nalaza u izveštajima o bezbednosti odnosi se na pokušaje korišćenja modela za istraživanja iz oblasti biotehnologije i genetičkog inženjeringa.

Iako napredni modeli imaju ugrađene rigorozne sigurnosne filtre koji onemogućavaju generisanje direktnih uputstava za izradu toksina ili patogena, zlonamerni akteri koriste sofisticirane tehnike “bekstva iz okvira” (engl. jailbreaking). Svrha ovih metoda je navođenje AI modela da pruži teorijske podatke, simulacije ili specifične korake u sintezi hemijskih i bioloških agenasa pod izgovorom akademskog ili medicinskog istraživanja.

Analitičari napominju da veštačka inteligencija sama po sebi trenutno ne stvara potpuno novo biološko oružje bez ljudske laboratorijske infrastrukture. Međutim, ključni rizik leži u drastičnom smanjenju prepreka za ulazak (engl. barrier to entry). AI deluje kao multiplikator znanja koji pojedincima sa bazičnim obrazovanjem omogućava brži pristup složenim protokolima koji su ranije bili dostupni samo uskom krugu stručnjaka.

2. Automatizacija sajber napada i evolucija zlonamernog softvera

Tradicionalno, pisanje i prilagođavanje zlonamernog softvera (engl. malware) zahtevalo je duboko poznavanje programiranja i znatno vreme. Sa pojavom jezičkih modela osposobljenih za pisanje koda, taj proces se dramatično ubrzao.

Izveštaji o zloupotrebi modela Claude ilustruju sledeće oblike sajber napada:

Automatska regeneracija koda: Napadači koriste AI da automatski redefinišu i izmene kod zlonamernog softvera čim ga bezbednosni alati prepoznaju i blokiraju. Time se kreiraju nove varijante koda koje zaobilaze antivirus detekciju.

Analiza ranjivosti u realnom vremenu: Umesto ručnog pregledanja hiljada linija koda, hakeri naprednim modelima dostavljaju čitave baze softvera kako bi AI uočio bezbednosne propuste (zero-day ranjivosti) pre nego što ih developeri zakrpe.

Napredni phishing i drštveni inženjering: AI omogućava generisanje visokospecifičnih poruka koje savršeno imitiraju stil pisanja poznatih ličnosti, kolega ili administratora, čime se drastično povećava stopa uspešnosti prevara.

3. Masovni nadzor i kreiranje sintetičkih ličnosti

Osim kodiranja i biologije, tehnologija generativne veštačke inteligencije zabeležila je ozbiljne zloupotrebe u domenima geopolitike, špijunaže i manipulacije javnim mnjenjem.

Ovo pokazuje da zlonamerni akteri ne traže od veštačke inteligencije samo odgovore na pojedinačna pitanja, već je integrišu u šire, automatizovane sisteme za masovno delovanje.

4. Kako kompanije i zajednica reaguju?

Proizvođači veštačke inteligencije nalaze se pod velikim pritiskom regulatora i javnosti da unaprede bezbednosne mehanizme. Anthropic i druge vodeće kompanije primenjuju višeslojni pristup odbrane:

Automatsko ukidanje naloga: Detekcija sumnjivih obrazaca upita dovodi do trenutne blokade pristupa za naloge koji prekrše uslove korišćenja.

Novi sigurnosni protokoli (Usage Policy updates): Kontinuirano se ažuriraju pravila koja jasno zabranjuju upotrebu modela za vojne, surveillance ili neovlašćene biomedicinske svrhe.

Zaštita od distilacije modela: Reaguje se i na pokušaje konkurentskih i neproverenih aktera da “izvuku” mogućnosti naprednih modela i pretvore ih u unutar-lokalne, nekontrolisane sisteme koji nemaju ugrađene filtere.

Međutim, stručnjaci upozoravaju na ključno ograničenje: kada se softver ili model dostavi ili integriše u lokalne sisteme korisnika (engl. on-premise deployment), puko ukidanje cloud pristupa ili naloga ne uklanja već instaliranu infrastrukturu na terenu.

Zaključak

Sve češći slučajevi zloupotrebe naprednih modela poput Claude-a pokazuju da bezbednost veštačke inteligencije više nije samo tehničko pitanje zaštite baze podataka, već pitanje globalne i nacionalne bezbednosti. Razvoj algoritama izuzetno brzo napreduje, a izazov sprečavanja njihove zloupotrebe zahteva još čvršću saradnju između tehnoloških giganta, bezbednosnih agencija i međunarodnih zakonodavnih tela.

Rozvoj alata za detekciju, transparentniji izveštaji o pretnjama i rigorozne provere identiteta korisnika biće ključni faktori u borbi za očuvanje bezbednosti u AI eri.

Za više detalja o analizi bezbednosnih pretnji vezanih za AI modele, pogledajte i ovaj video prilog: Razmatranje zloupotrebe AI modela i bezbednosnih rizika. Ovaj prilog pruža vizuelni pregled i dodatni kontekst o tome kako se AI sistemi poput Claude-a koriste u sajber napadima i nadzoru.