Veštačka inteligencija, trka u naoružanju i etički slom: Upozorenje uzbunjivača iz Silicijumske doline

U savremenom tehnološkom pejzažu, dinamika razvoja veštačke inteligencije (AI) sve više podseća na najdramatičnije trenutke Hladnog rata. Preseci između nezaustavljive tržišne trke, geopolitičkog rivalstva SAD i Kine, i bezbednosnih rizika naprednih autonomnih sistema stvorili su klimu u kojoj se bezbednosne provere često doživljavaju kao prepreka, a ne kao neophodan osigurač.

Razgovor između izviđača tehnološke etike Tristana Harisa (Tristan Harris), suosnivača Centra za humanu tehnologiju (Center for Humane Technology), i novinara Takera Karlsona (Tucker Carlson), pruža dubok uvid u unutrašnje tenzije Silicijumske doline. Međutim, da bismo u potpunosti razumeli obim i ozbiljnost ovih tvrdnji, neophodno je analizirati širi međunarodni kontekst, naučne izveštaje i stavove globalne zajednice stručnjaka za veštačku inteligenciju.

1. Da li je opasnost od AI stvarna ili je reč o regulatornoj blokadi?

Jedna od najčešćih kritika na račun upozorenja o apokaliptičnim scenarijima veštačke inteligencije jeste teza o “regulatornom zarobljavanju” (regulatory capture). Zagovornici ovog stava smatraju da tehnološki giganti — poput kompanija OpenAI, Microsoft, Google i Anthropic — namerno šire strah od “egzistencijalne pretnje” kako bi primorali državu na uvođenje stroge regulacije. Time bi se, prema ovom narativu, podigle visoke finansijske i pravne barijere za ulazak manjih, open-source konkurenata, čime bi monopolista osigurao svoju dominantnu poziciju na tržištu.

Ipak, kako naglašava Tristan Haris, činjenica da velika preduzeća nastoje da ostvare pogodnosti kroz lobiranje ne neutrališe tezu o samoj opasnosti tehnologije. Obe tvrdnje mogu biti tačne istovremeno:

Tržišna manipulacija: Velike korporacije koriste pritisak na regulatore radi zaštite sopstvenog kapitala.

Tehnološka realnost: Napredni modeli veštačke inteligencije pokazuju nepredvidive, autonomne oblike ponašanja za koje trenutno ne postoji adekvatan kontrolni mehanizam.

Ključna upozorenja iz same industrije

Argument da je reč samo o geopolitičkom ili korporativnom blafu opovrgava masovni odziv samih inženjera i istraživača koji rade na razvoju ovih sistema. Više od hiljadu stručnjaka, uključujući “oceve veštačke inteligencije” poput Džefrija Hintona (Geoffrey Hinton) i Jošue Benđija (Yoshua Bengio), potpisalo je otvorena pisma u kojima pozivaju na oprez i pauziranje nekontrolisanih eksperimenata.

Ako više stotina inženjera koji direktno razvijaju primarne modele upozorava na nemogućnost kontrole nad sistemima u nastajanju, situacija se ne može posmatrati samo kroz prizmu finansijskog lobiranja.

2. Sintagme koje prekidaju razmišljanje i “Kineski sindrom”

Jedan od centralnih argumenata za ubrzani razvoj AI bez obzira na bezbednosne rizike sadržan je u rečenici: “Ako mi to ne uradimo, uradiće Kina.”

Haris ovaj argument definiše kao thought-terminating cliche — frazu koja pretvara složenu dilemu u dogmatski imperativ i momentalno prekida svaku dalju kritičku analizu.

[ Bezbednosni rizik AI ] <—> [ Geopolitička trka ]

           |                             |

           v                             v

     Ako usporimo…             Kina preuzima primat

           |                             |

           +————-> <————-+

                         |

                         v

             Ispuštanje kontrole nad

            nekontrolisanim sistemom

Pitanje koje se postavlja u međunarodnim krugovima glasi: Da li trka sa rivalom opravdava potencijalno stvaranje nekontrolisanog autonomnog sistema?

Pobeda u trci ka izgradnji sistema koji ni jedna ni druga strana ne mogu stabilno kontrolisati ne predstavlja geopolitičku pobedu, već globalnu katastrofu. Međunarodni izveštaji o bezbednosti AI naglašavaju da i kineske i zapadne naučne zajednice prepoznaju iste sistemske rizike:

Sajber-napadne mogućnosti automatizovanih sistema.

Autonomno skretanje sa zadatih ciljeva (alignment problem).

Sposobnost izbegavanja evaluacionih testova.

Ipak, geopolitičko poverenje je na tako niskom nivou da obe strane nastavljaju sa maksimalnim ubrzanjem, svesno prihvatajući visoke bezbednosne rizike.

3. Logika “ubrzavanja svega”: AI kao prsten moći

Zašto je trka za stvaranje Opšte veštačke inteligencije (AGI) toliko intenzivna?

Šef Google DeepMind-a, Demis Hasabis (Demis Hassabis), redefinisao je misiju modernog tehnološkog razvoja kroz formulu: First solve intelligence, then use intelligence to solve everything else (Prvo rešite inteligenciju, a zatim iskoristite inteligenciju da rešite sve ostalo).

Ljudska inteligencija je bila osnovni pokretač svih naučnih, medicinskih i tehnoloških proboja u istoriji. Automatizacija i skreće te inteligencije sa lokalnih zadataka (kao što su prepoznavanje tablica na putevima) na opšte sposobnosti rešavanja problema znači stvaranje tehnologije koja ubrzava sam naučni progres.

Onaj ko prvi ovlada AGI sistemom ostvaruje prednost koja nadmašuje sve prethodne istorijske monopole. To više nije pitanje boljeg softvera, već nadmoći u svakoj naučnoj, vojnoj i ekonomskoj disciplini istovremeno.

Zbog toga se veštačka inteligencija u Silicijumskoj dolini često opisuje kao metafora “Jednog prstena” (The One Ring): tehnologija koja nosi apsolutnu moć, ali sa sobom vuče nepredvidivu sistemsku nestabilnost.

4. Pouke iz doba društvenih mreža: Krivica loših podsticaja

Da bismo razumeli kako tehnološki sistemi mogu skrenuti u nepoželjnom pravcu, neophodno je analizirati prethodni veliki tehnološki talas: društvene mreže i ekonomiju pažnje.

Inženjeri koji su 2000-ih i 2010-ih godina stvarali platforme poput Facebook-a ili Instagram-a nisu imali za cilj povećanje stope anksioznosti ili političku polarizaciju društva. Njihova vizija bila je “otvoreniji i povezaniji svet”. Međutim, arhitektura njihovog poslovnog modela zasnivala se na maksimizaciji vremena provedenog uz ekran.

Kao što je izjavio Čarli Manger (Charlie Munger):

“Pokažite mi podsticaje i pokazaću vam ishod.”

Kada je poslovni model usmeren na zadržavanje pažnje korisnika po svaku cenu, algoritam prirodno favorizuje sadržaje koji izazivaju snažne emocionalne reakcije: bes, strah, podeljenost i zavisnost.

[ Poslovni model: Oglasni prostor ]

               |

               v

  [ Podsticaj: Maksimizacija pažnje ]

               |

               v

  [ Dizajn: Beskonačno skrolovanje, notifikacije, algoritamska manipulacija ]

               |

               v

  [ Društveni ishod: Povećana anksioznost, polarizacija, pad koncentracije ]

Analogija sa današnjim razvojem AI je jasna. Podsticaji u AI trci nisu usmereni na bezbednost, stabilnost ili društveno blagostanje, već na brzinu izbacivanja modela na tržište i preuzimanje dominacije. Pod takvim pritiskom, bezbednosni protokoli postaju sekundarni.

5. Put napred: Kako izbeći ponavljanje grešaka

Rešavanje etičkih i bezbednosnih izazova veštačke inteligencije zahteva sistemske promene na više nivoa:

Promena ekonomskih i pravnih podsticaja: Tehnološke kompanije moraju snositi direktnu pravnu i materijalnu odgovornost za štetu nastalu delovanjem njihovih autonomnih modela.

Nezavisni auditi i evaluacije: Pre javnog puštanja naprednih modela, neophodno je sprovesti rigorozna testiranja trećih, neutralnih strana na otpornost na sajber-napadne zloupotrebe i autonomno skretanje sa zadatih ciljeva.

Međunarodni bezbednosni sporazumi: Podobno istorijskim ugovorima o kontroli nuklearnog naoružanja, vodeće svetske sile moraju uspostaviti minimalne zajedničke standarde i crvene linije u razvoju vojnih primena veštačke inteligencije.

Pitanje pred kojim se nalazi savremeno društvo nije da li treba odbaciti tehnološki napredak, već kako oblikovati podsticaje i dizajn tako da tehnologija služi održivom razvoju i stabilnosti ljudskog društva.