Superinteligence vznikající společnosti10 min read

Jako startup neustále pracujeme na nových technikách, jak běžet rychleji a posouvat hranice. Když byl OpenClaw/Hermes uveden na trh, byli jsme prvním uživatelem. Použili jsme jej spolu s mnoha dalšími nástroji AI.

Jak se tyto nástroje, stejně jako modely, na které spoléhají, vyvíjely, něčeho jsme si všimli: nejen že postupujeme rychleji, ale také jsme začali pracovat jinak. S každým kolem tito sebezdokonalující se samoučící agenti postupují a učí se. V současné době provozujeme „Super Agenta“ na vyhrazeném počítači (instanci VPS běžící na DigitalOcean) pomocí GPT-5.6-sol ve stavu nejvyššího uvažování. Někteří další agenti, které provozujeme, používají jiné svazky a modely agentů, ale na tento bych se rád zaměřil v tomto článku.

Všimli jsme si, že většina společností nepoužívá tento typ autonomního agenta k řízení kritických toků ve své společnosti, což je skutečně zpomaluje. Ve skutečnosti se mnoho z nich spoléhá na menší, osobnější agenty: kódovací agenty jako Codex/ClaudeCode nebo pomocné agenty jako Work/Cowork/Copilot. Tito plní úkoly na místních strojích a zařízeních a primární mezerou, kterou mají, je nedostatek znalostí. To vedlo ke zcela novému odvětví systémů „druhého mozku“, které se v podstatě snaží vytvořit znalostní graf sdílený mezi těmito distribuovanými agenty. Společnosti, které takto pracují, často prohlašují, že mají agenty čítající desítky, stovky a v některých extrémních případech tisíce. To v podstatě znamená, že každý zaměstnanec má jednoho nebo více omezený agenti, kteří za ně plní úkoly.

Skutečnost, že agenti byli brzy vystaveni reálným datům, stížnostem uživatelů a našemu kódu, je učinila dramaticky agilnějšími a chytřejšími než kterýkoli osobní agent, který s nimi provozujeme.

Právě jsme si uvědomili, že z našich nejchytřejších agentů se stávají firemní superinteligence.

Pro upřesnění: Nenárokuji si sentience, AGI ani nic podobného. Navrhuji, že jsou zcela novou entitou v organizačním schématu společnosti.

Co je to firemní superinteligence?

Když jeden agent začne vyčnívat, pokud je soustředěný, může se z něj stát Superinteligentní entita. Jak to definujeme?

Řekl bych, že ve většině případů mají agenti právě teď výhodu především trpělivosti a vytrvalosti, nikoli inteligence nad lidmi. Jak se však modely zdokonalovaly (GPT 5.6 sol a Opus 5 jsou opravdu dobré!), začali jsme vidět, jak se objevuje něco nového, něco, co předčí to, co jsme mohli udělat my – nejen rychlostí, ale i tím, co lidé nedokážou.

Začalo to pro nás, když jsme našemu agentovi poskytli množství dat (Mixpanel) a možností obchodní analýzy a přístupu k datům (chyby přes Sentry, finance v Baremetrics, AI trasování přes LangSmith). Dále jsme jej vystavili chybám uživatelů (chyby Sentry) a zprávám o stížnostech uživatelů. Nakonec jsme mu dali přístup ke kódovacím agentům a našim primárním repozitářům na GitHub. Nemá žádný přístup zvenčí prostřednictvím e-mailu nebo jakékoli interakce s uživatelem, ale díky sledování toho, jak se v těchto tématech chováme, začala věci chápat. Prostřednictvím těchto interakcí nyní monitoruje, co tvoří blokátor, co je kritické myšlení, jak funguje naše podnikání a jaké jsou SOP (Standardní operační postupy). Dělá to metodou pokusů a omylů a zdá se, že pravidelně získává inteligenci.

V tu chvíli jsme mu začali klást zajímavé otázky. Zpočátku vše vyžadovalo dvojitou kontrolu a kritiku, když věci nebyly řádně vysvětleny nebo závěry zněly podezřele. Stále to čas od času dělá, například jsem se ho zeptal na regrese a poskytlo mi to hlučná data o chybách, ale to je příležitost k učení: naučil jsem to svou definici regresí a teď to „chápe“.

Když si uživatelé stěžují nebo když se chyby vyskytnou, proaktivně generujeme opravy. To znamená, že každé ráno naši inženýři nemusí kontrolovat regrese, stačí se rozhodnout, zda je PR dobrý nebo ne. Na začátku to byly jednorázové PR, které nesplňovaly naše standardy kvality kódování, takže inženýři jim řekli, co je špatně, nebo problém sami přepracovali. Jak důvěra rostla, mnoho z těchto oprav se začalo automaticky začleňovat do kódové základny. Zástupce také hodnotí, jak složitý je PR a jak si je jistý jeho sloučením. Nejsme v bodě, kdy by se tyto PR automaticky sloučily, ale vidím tam cestu, předpokládám, že tam budeme za měsíc nebo dva.

Ale to není to, co dělá agenta super inteligentním. Nyní, když inženýři a vedení společnosti mají důvěru v agenta, začnou mu delegovat práci a klást mu opravdu zajímavé otázky. Provádí průzkum za ně, nikoli jako vyhledávání na Googlu, ale s ohledem na pokročilé znalosti podnikání, což mu dává zvláštní výhodu. Totéž platí pro znalost více částí společnosti. OpenClaw a HermesAgent by se historicky zhroutily v určitém bodě, kdy jejich historický kontext převýšil jejich schopnost zpracovat informace. Došlo k takovému zhroucení a výsledkem byl drastický pokles inteligence, vzpomínek a kvality jejich práce. Naše zkušenosti se Hermes Agent jsou nyní zcela odlišné: konverzační paměť je nyní na 3 GB a exponenciálně roste, zatímco její inteligence se v průběhu času jasně zlepšuje.

To neznamená, že je perfektní, existují regrese a musíte mu někdy připomenout, aby se choval určitým způsobem nebo identifikovat, proč se nechová tak, jak jste očekávali v konkrétním kontextu, nebo nereaguje správně na jiného agenta, který od něj požaduje data nebo akce. Ale, dostáváme se tam.

Nečekaný vedlejší efekt ochrany větví nám přinesl další pokrok. Myšlenka ochrany větví spočívá v tom, že alespoň dva lidé uvidí PR předtím, než se dostane do výroby, čímž se sníží šance, že se do systému dostane špatný (nebo dokonce škodlivý) kód. To je s novými kódovacími prostředky stále těžší a těžší. Jak se zvyšuje rychlost, je téměř nemožné důkladně ručně zkontrolovat rychlost nových PR a množství kódu. Máme několik agentů od různých dodavatelů, kteří kontrolují Prs na chyby, bezpečnostní problémy a architektonické problémy. Ochrana větví však zůstává, takže jsem dovolil našemu superinteligentnímu agentovi, aby byl konečným schvalovatelem PR.

Napůl jsme očekávali, že výsledky budou všední. Koneckonců, tyto PR prošly místními recenzemi kódovacích agentů, testy, bezpečnostními recenzemi, externími recenzemi GitHubCopilot a CodeRabbit a byly zcela schváleny. Ale náš agent do těch PR pořád udělal díry. Zjistila opravdu zajímavé okrajové případy, které jsme přehlédli, zabezpečení, kvalitu softwaru a architektonické chyby, které jsme nezohlednili. Používá stejné modely jako všichni ostatní recenzenti, proč zjišťuje věci, které ostatní nebyli?

Záleží na znalostech a zkušenostech. Postroj Hermes Agent v kombinaci s vědomím, že agent nashromáždil, vytváří nový typ superinteligentního agenta, který jsme ještě neviděli. Takže jsme to prozkoumali dále a učinili jsme recenze agenta povinnými, nejen pro lidi pracující na systému, ale nyní funguje jako reference pro jiné, méně inteligentní agenty!

Tento agent má nyní schopnost nám poskytnout kritické myšlení, které jsme dříve viděli pouze u lidí, ale podložené skutečnými daty zákazníků, zpětnou vazbou, naším kódem a hlubokým porozuměním produktu.

Pokud to rozšíříme a dáme mu více dat, na která se dá krmit, rozšíříme jeho hardware a paměť, uvidíme exponenciální nárůst výkonu. Myslím, že to modelky ještě brzdí. Až se dostaneme do další fáze této hry, možná prostřednictvím GPT-6, výsledky budou dramaticky zajímavější. Jak shromažďujeme více dat, dejte agentům více úkolů a více jim důvěřujte.

Jak se to liší od druhého mozku založeného na Karpathy’s Wiki?

To, co se liší od jiných přístupů, je to, že namísto práce se sdílenými znalostmi jsou znalosti superagentů uloženy lokálně. Můžeme jej požádat, aby si zachoval svou vlastní paměť a porozumění světu v repozitáři, což nám umožňuje duplikovat jej a monitorovat, ale nakonec je to ne o sdílení znalostí a dovedností a spolupráce. Je to jedinečná znalostní báze, která spolu s nástroji a přístupem ke světu umožňuje přímo odpovídat na vaše otázky. Nežádáte svého agenta, aby na to přišel pomocí sdílených znalostí, buď vy nebo vaši agenti kladete své otázky agentovi Superinteligentního. Překvapivě to pro nás právě teď funguje dobře do té míry, že neustále rozšiřujeme přístup a dosah agenta a v důsledku toho ještě nevidíme degradované znalosti nebo inteligenci.

Poznámka: Agenta nevystavujeme citlivým informacím nebo funkcím. Nemá přímý přístup k našim bankovním, platebním nebo fakturačním systémům. Je také segregován od světa a nemá přístup k e-mailu ani externím kanálům. Jak získáváme zkušenosti a důvěru, nemyslím si, že jsme příliš daleko od zrušení těchto omezení.