Lokalni AI agenti bez troškova tokena — Perplexity i Nvidia pokreću Portable Computer
Perplexity je vorgestellt Portable Computer — potpuno lokalnu verziju svojeg agentskog sistema "Computer" koja radi na hardveru koji korisnici već posjeduju: Nvidia DGX Spark radne stanice i Linux mašine sa RTX GPU-om (minimum 24 GB VRAM, Dakle RTX 3090 ili noviji). Najvažnija razlika u odnosu na-cloud alternativu: svaki zadatak započinje lokalno, a trošak tokena iznosi nula. Samo kada lokalni model dođe do granica, sistem traži dozvolu da pojedini korak pošalje moćnijem frontier modelu u oblaku.
Što je novo u odnosu na Ollama i DIY lokalne stackove
Postoji razlika između "pokretanja modela lokalno" i "pokretanja cijelog agentskog stacka lokalno". Do danas su entuzijasti morali ručno sastavljati: preuzimanje težina, postavljanje inference servera (Ollama, vLLM, llama.cpp), povezivanje alata (MCP serveri za Gmail, GitHub, Drive), podešavanje sandboxa, tuning performansi. Portable Computer sve to pakira u jednu aplikaciju — model, agent harness, inference engine, konektori, security sandbox.
Kao što kaže Nate (VP Engineering, Perplexity): "Istorijski je bilo stvarno mučno podići lokalni AI stack. Mi smo se fokusirali na to da bude jednostavno — da korisnik može biti operativan u minutama."
Kako to funkcioniše u praksi
- Lokalni modeli na startu: Qwen 3.8 27B ili Perplexity-jev post-trenirani PPLX 27B (Nemotron 3.5 Lightning uskoro).
- Hibridni escallation: Ako lokalni model ne uspije, korisnik vidi tačno šta bi izašlo s uređaja (PII klasifikator) i odobrava ili odbij slanje advisor modelu (Claude Opus 5).
- Konektori kao CLI alate: Gmail, GitHub, Google Drive pretvoreni iz token-žednih MCP servera u kompaktnu komandu — smanjuje kontekst i troškove.
- Uvijek uključen sandbox: Ako OS sandbox nije dostupan, harness se onemogućuje — razlika u odnosu na open-source alate koji rade sa punim pravima korisnika.
Brojevi koji govore za sebe
Perplexity-jevi interni benchmarki (Local Knowledge Work Bench — 53 zadatka: duboko istraživanje, financijska analiza, kreiranje dokumenata):
- Computer (Qwen 27B na DGX Spark): 82,6%
- Pi harness (isti model): 77,6%
- Hermes (isti model): 74,0%
Na teškim zadacima (BrowseComp web research): Computer 66,7% vs Pi 50,2% vs Hermes 43,9% — sa 51% manje vremena i 70% manje tokena. Na multimodalnom razumijevanju dokumenata: 65,1% vs Hermes 34,6% vs Pi 13,9%.
Ekonomija tokena: zašto agenti mijenjaju pravila igre
Chat je bio "burst" — pitanje, odgovor, gotovo. Agenti su drugačiji: žele raditi satima, pregledavati mape dokumenata, verifikovati svoj rad, iterirati. U oblaku to znači značajne API račune. Na lokalnom hardveru marginalni trošak tić se nule.
Terminal Bench 2.1 (coding benchmark): potpuno lokalni Qwen 59,6% @ ~$0. Sa Claude Opus 5 advisorom: 73,0% @ $0,415 po zadatku. Samo frontier: 82,4% @ $0,65. Escallation zatvara tri petine razlike za dvije trećine cijene — i korisnik odlučuje kada se to isplati.
Što to znači za firme u BiH i regionu
Za kompanije koje rade sa osjetljivim podacima — pravne firme, zdravstvo, financije, javni sektor — Portable Computer nudi data sovereignty bez kompromisa na funkcionalnosti. Nema potrebe za ugovorima o obradi podataka, nema rizika od curenja tajni u trening frontier modela. Hardverski prag (24 GB VRAM) je dostupan: DGX Spark ili lijepo opremljen radni stanica sa RTX 4090/5090.
Za BIXIE klijente: ovo je gotov building block za privatne AI agente koji rade unutar vaše mreže, sa vašim podacima, bez abonmanskih troškova po tokenu. Možemo integrisati vaše interne baze znanja, ERP sisteme, email arhive — sve ostaje kod vas.
Ograničenja i sljedeći koraci
Trenutno samo Linux (Windows u septembru). Apple Silicon nije na roadmapi — Perplexity je "veoma fokusiran na Nvidia hardver". 24 GB VRAM isključi većinu consumer laptopa. Najbolji brojevi dolaze iz internih benchmarka Perplexity-ja (planiraju open-sourcati). Kompaktni modeli i dalje zaostaju za frontier na teškim reasoning zadacima — advisor escallation "sužuje ali ne zatvara potpuno jaz".
Ali smjer kretanja je jasan: agenti se kreću s oblaka na lokalne uređaje. Dvije godine smo mjerili ambicije u gigavatima i tokenima po dolaru. Portable Computer predlaže drugačiji brojač — onaj koji nikad ne teče.
Izvor: VentureBeat, "Perplexity partners with Nvidia to launch Portable Computer, a fully local AI agent with zero token costs", 19. avgust 2026.