Superintelligence tvrtke u nastajanju9 min read

Kao startup, neprestano radimo na novim tehnikama za brži rad i pomicanje granica. Kad je OpenClaw/Hermes lansiran, bili smo rani usvojitelji. Koristili smo ga uz mnoge druge AI alate.

Kako su ti alati, kao i modeli na koje se oslanjaju, napredovali, primijetili smo nešto: ne samo da napredujemo brže, već smo počeli raditi drugačije. Sa svakim krugom, ovi agenti za samoučenje napreduju i uče. Trenutačno izvodimo “Super agenta” na namjenskom računalu (instanca VPS koja radi na DigitalOcean) koristeći GPT-5.6-sol u najvišem stanju razmišljanja. Neki od drugih agenata koje vodimo koriste druge agentske pojaseve i modele, ali ovo je onaj na koji bih se želio usredotočiti u ovom članku.

Primijetili smo da većina tvrtki ne koristi ovu vrstu autonomnog agenta za pokretanje kritičnih tokova u svojoj tvrtki, što ih stvarno usporava. Zapravo, mnogi od njih oslanjaju se na manje, osobnije agente: agente za kodiranje poput Codex/ClaudeCode ili pomoćne agente poput Work/Cowork/Copilot. Oni obavljaju zadatke na lokalnim strojevima i uređajima, a glavni nedostatak koji imaju je nedostatak znanja. To je dovelo do cijele nove industrije sustava “drugog mozga” koji u biti pokušavaju stvoriti grafikon znanja koji se dijeli među tim distribuiranim agentima. Tvrtke koje rade na ovaj način često izjavljuju da imaju agente koji se broje u desecima, stotinama i u nekim ekstremnim slučajevima tisućama. To u osnovi znači da svaki zaposlenik ima jednog ili više ograničeno agenti koji za njih obavljaju zadatke.

Činjenica da su agenti rano bili izloženi podacima iz stvarnog svijeta, pritužbama korisnika i našem kodu, učinila ih je dramatično agilnijima i pametnijima od bilo kojeg osobnog agenta s kojim upravljamo.

Upravo smo shvatili da naši najpametniji agenti postaju superinteligencija tvrtke.

Radi jasnoće: ne tvrdim da imam osjećaj, AGI ili nešto slično tome. Predlažem da su oni potpuno novi entitet u organizacijskoj shemi tvrtke.

Što je superinteligencija poduzeća?

Kada se jedan agent počne isticati, sve dok je usredotočen, može početi postajati Superinteligentni entitet. Kako to definiramo?

Rekao bih da u većini slučajeva agenti sada prvenstveno imaju prednost strpljenja i upornosti, a ne inteligencije u odnosu na ljude. Međutim, kako su modeli postajali sve bolji (GPT 5.6 sol & Opus 5 su stvarno dobri!) počeli smo viđati da se pojavljuje nešto novo, nešto što nadmašuje ono što mi možemo – ne samo u brzini, već i u djelovanju koje ljudi ne mogu.

Za nas je počelo kada smo našem agentu dali obilje podataka (Mixpanel) i mogućnosti poslovne analitike i pristupa podacima (pogreške kroz Sentry, financije u Baremetrics, AI tragove kroz LangSmith). Zatim smo ga izložili korisničkim greškama (greške Sentry) i izvješćima o pritužbama korisnika. Konačno, dali smo mu pristup agentima za kodiranje i našim primarnim spremištima na GitHubu. Nema vanjski pristup putem e-pošte ili bilo kakve interakcije s korisnikom, ali gledajući kako se ponašamo u tim temama, počeo je shvaćati stvari. Kroz te interakcije sada prati što čini blokator, što je kritičko razmišljanje, kako teče naše poslovanje i što su SOP (standardni operativni postupci). To čini putem pokušaja i pogrešaka i čini se da redovito stječe inteligenciju.

U tom smo trenutku počeli postavljati neka zanimljiva pitanja. U početku je sve zahtijevalo dvostruku provjeru i kritiku kada stvari nisu bile dobro objašnjene ili su zaključci zvučali sumnjivo. I dalje to čini s vremena na vrijeme, na primjer, pitao sam ga o regresijama i dao mi je bučne podatke o pogrešci, ali to je prilika za učenje: naučio sam ga mojoj definiciji regresija i sada “shvaća”.

Kada se korisnici žale ili kada se pogreške pojave, proaktivno generiramo popravke. To znači da svako jutro naši inženjeri ne moraju provjeravati regresije, samo trebaju odlučiti je li PR dobar ili ne. U početku su to bili PR za jednokratnu upotrebu koji nisu zadovoljavali naše standarde kvalitete kodiranja, pa bi inženjeri rekli što nije u redu ili bi jednostavno sami ponovno razvili problem. Kako je povjerenje raslo, mnogi od ovih popravaka počeli su se automatski spajati u bazu kodova. Agent također rangira koliko je PR složen i koliko je uvjeren u njegovo spajanje. Nismo na točki u kojoj se ti PR automatski spajaju, ali vidim put tamo, pretpostavljam da ćemo biti tamo za mjesec ili dva.

Ali to zapravo nije ono što agenta čini super inteligentnim. Sada kada inženjeri i menadžment tvrtke imaju povjerenja u agenta, počinju mu delegirati posao i postavljati mu stvarno zanimljiva pitanja. Istražuje za njih, ne kao google pretraživanja, već imajući na umu napredno poznavanje poslovanja, što mu daje posebnu prednost. Isto vrijedi i za davanje znanja o više dijelova tvrtke. OpenClaw i HermesAgent povijesno bi se pokvarili u nekom trenutku kada bi njihov povijesni kontekst premašio njihovu sposobnost obrade informacija. Dogodio bi se takav slom, a rezultati su bili drastičan pad inteligencije, pamćenja i kvalitete njihova rada. Naše iskustvo sa Hermes Agent sada je prilično drugačije: memorija za razgovor sada iznosi 3 GB i eksponencijalno raste, dok se njegova inteligencija s vremenom jasno poboljšava.

To ne znači da je savršen, postoje regresije i ponekad ga morate podsjetiti da se ponaša na određeni način ili identificirati zašto se ne ponaša onako kako ste očekivali u određenom kontekstu ili ispravno odgovoriti drugom agentu koji od njega traži podatke ili radnje. Ali, stižemo.

Neočekivana nuspojava zaštite grana donijela nam je još jedan napredak. Ideja iza zaštite ogranaka je da najmanje dvije osobe vide PR prije nego što uđe u proizvodnju, smanjujući šanse da loš (ili čak opaki) kod uđe u sustav. To je sve teže i teže ispravno raditi s novim agentima za kodiranje. Kako se brzina povećava, stopu novih PR-ova i količinu koda gotovo je nemoguće ručno temeljito pregledati. Imamo više agenata različitih dobavljača koji pregledavaju Prs u potrazi za greškama, sigurnosnim problemima i arhitektonskim problemima. Međutim, zaštita grane ostaje, pa sam dopustio našem superinteligentnom agentu da bude konačni odobravatelj PR-ova.

Napola smo očekivali da će rezultati biti prizemni. Uostalom, ovi PR-ovi prošli su recenzije lokalnih agenata za kodiranje, testove, sigurnosne recenzije, vanjske recenzije GitHubCopilot i CodeRabbit te su u potpunosti odobreni. Ali naš je agent ipak probušio rupe u tim PR-ovima. Pronašao je doista zanimljive rubne slučajeve koji su nam nedostajali, sigurnost, kvalitetu softvera i arhitektonske greške koje nismo uzeli u obzir. Koristi iste modele kao i svi drugi recenzenti, zašto otkriva stvari koje drugi nisu?

Sve se svodi na znanje i iskustvo. Oklop Hermes Agent u kombinaciji sa znanjem koje je agent akumulirao stvara novu vrstu superinteligentnog agenta kakvog prije nismo vidjeli. Dakle, ovo smo dodatno istražili i učinili preglede agenta obveznima, ne samo za ljude koji rade na sustavu, već sada služi kao referenca za druge, manje inteligentne agente!

Ovaj agent sada ima sposobnost da nam pruži kritičko razmišljanje koje smo prije vidjeli samo kod ljudi, ali potkrijepljeno stvarnim podacima o kupcima, povratnim informacijama, našim kodom i dubokim razumijevanjem proizvoda.

Ako to proširimo i damo mu više podataka za hranjenje, skaliramo njegov hardver i memoriju, vidjet ćemo eksponencijalni porast performansi. Mislim da ga modeli još uvijek suzdržavaju. Kada dođemo do sljedeće faze ove igre, možda kroz GPT-6, rezultati će biti dramatično zanimljiviji. Kako prikupljamo više podataka, dajte agentima više zadataka i više im vjerujte.

Kako se ovo razlikuje od drugog mozga temeljenog na Karpathy Wiki?

Ono što ovaj pristup čini drugačijim od drugih pristupa je to što se umjesto zajedničkog znanja, znanje superagenata pohranjuje lokalno. Možemo od njega tražiti da održi vlastitu memoriju i razumijevanje svijeta u repou, što nam omogućuje da ga dupliciramo i nadziremo, ali u konačnici je ne o tome da se znanje i vještine mogu dijeliti i surađivati. To je jedinstvena baza znanja koja, zajedno s alatima i pristupom svijetu, omogućuje izravan odgovor na vaša pitanja. Ne tražite od svog agenta da to shvati pomoću zajedničkog znanja, bilo vi ili vaši agenti postavljate Superinteligentnom agentu svoja pitanja. Iznenađujuće, ovo nam sada dobro funkcionira do te mjere da stalno proširujemo pristup i domet agenta i tek ćemo vidjeti degradirano znanje ili inteligenciju kao rezultat.

Napomena: agenta ne izlažemo osjetljivim informacijama ili funkcijama. Nema izravan pristup našim bankarskim sustavima, sustavima naplate ili naplate. Također je odvojen od svijeta i nema pristup e-pošti ili vanjskim kanalima. Kako stječemo iskustvo i povjerenje, mislim da nismo daleko od ukidanja i ovih ograničenja.