Većina rasprava o rizicima AI-ja u kompanijama fokusirana je na "odbjegle" agente — ali pravi problem je tiši i podmukliji: kompleksnost između agenata. Enterprise ne pokreće jedan agent, nego čitave flote agenata koji međusobno pozivaju API-je, jedan drugoga i sisteme koji nikada nisu bili građeni za mašinske odluke.
Kompleksnost se množi, ne sabira
Dodajte drugog agenta u sistem — dobili ste jednu novu vezu. Dodajte desetog — niste dobili deset veza, nego potencijalno desetine, jer svaki agent može pozvati bilo kojeg drugog, a svaki poziv može pokrenuti lanac novih poziva. Podrška koja je nekada prolazila kroz jedan sistem, danas može proći kroz četiri agenta prije nego što je čovjek uopće vidi — i svaki od tih prijenosa je odluka koju niko nije odobrio.
Postavite sigurnosnom timu jednostavno pitanje: koji agenti mogu doći do kojih sistema? Slijedi tišina. Pitajte koji je agent prije tri koraka pokrenuo određenu radnju — opet tišina.
Dvije klasične greške: permisije i vlasništvo
Problem se najčešće gradi na dva načina. Prvi je "permisije creep" — neko napravi agenta za sažimanje tiketa, da mu širok API pristup jer bi precizno ograničavanje trajalo još jedan sprint, i zaboravi na njega. Šest mjeseci kasnije, isti agent ima put do platnog sistema. Niko se ne sjeća da je to odobrio. I nije.
Drugi je razvodnjeno vlasništvo — pet agenata dodiruje jedan proces, nešto pukne u koraku četiri, i niko ne odgovara, jer se organizaciona šema zaustavila na "deploy-uj agenta", a nikada nije stigla do "imenuj čovjeka koji za njega odgovara".
Checklista nije rješenje
Instinkt je da se ovome pristupi kao checklisti: odobri agenta, evidentiraj agenta, idemo dalje. To je pogrešan pristup. Checklista provjerava jedan trenutak u vremenu, a kompleksnost se proteže kroz cijeli lanac — ne možete upravljati lancem hrpom jednokratnih odobrenja.
Ono što je nužno, a ne dovoljno, jeste identitet agenta: svaki agent treba postojati kao zaseban entitet sa svojim imenom u registru, ograničenim ovlastima i imenovanim ljudskim sponzorom koji odgovara za njegovo djelovanje. Bez toga dobijate arhivu savršeno dokumentovanih agenata unutar sistema koji niko ne može objasniti.
Prava razlika: nadzor naspram provođenja
Nadzor vam govori šta se već dogodilo. Provođenje pravila je ono što većina programa preskače — sposobnost da se zaustavi poziv koji krši politiku prije nego što se izvrši, a ne da se evidentira za reviziju tri sedmice kasnije. Dashboard koji vam kaže da je agent prije pet minuta prešao svoje granice jeste alat za praćenje. Sistem koji spriječi da se prelazak uopće desi jeste upravljanje.
Šta to znači za firme u regiji
Za IT odjele u BiH i regionu, koji su često mali i preopterećeni, poruka je jasna: disciplinu izgradite na početku, ne poslije. Kada je u sistemu jedan agent, sve izgleda jednostavno. Kada ih bude deset, svaki bez jasnog vlasnika i ograničenja, vraćanje na početak košta mnogo više nego što je koštalo pravilno postavljanje.
- Vodite registar agenata — ko je vlasnik, čemu služi, čemu smije pristupiti;
- Ograničite pristup na najmanju moguću mjeru od prvog dana;
- Zaustavljajte kršenja pravila u realnom vremenu, ne samo evidentirajte;
- Ne ulazite u produkciju s agentom kome niko ne može odgovoriti "šta ti je trenutno zadatak i ko si vlasnik".
Kompleksnost nije razlog da usporite — ali je razlog da skalirate odgovorno. Firme koje ovo urade kako treba ne usporavaju; one grade sistem u kojem odgovornost raste zajedno s brojem agenata.
Izvor: VentureBeat, 27. august 2026.