Superintelligence de companie emergentă10 min read

Ca startup, lucrăm în mod constant la noi tehnici pentru a rula mai repede și a depăși granița. Când s-a lansat OpenClaw/Hermes, am fost unul dintre cei care au adoptat-o ​​timpurie. L-am folosit alături de multe alte instrumente AI.

Pe măsură ce aceste instrumente, precum și modelele pe care se bazează, au avansat, am observat ceva: nu doar progresăm mai repede, am început să lucrăm diferit. Cu fiecare rundă, acești agenți de auto-învățare care se perfecționează avansează și învață. În prezent, rulăm un „Super Agent” pe o mașină dedicată (o instanță VPS care rulează pe DigitalOcean) folosind GPT-5.6-sol la cea mai înaltă stare de raționament. Unii dintre ceilalți agenți pe care îi conducem folosesc alte hamuri și modele de agenți, dar acesta este cel pe care aș dori să mă concentrez în acest articol.

Am observat că majoritatea companiilor nu folosesc acest tip de agent autonom pentru a rula fluxuri critice în compania lor, ceea ce le încetinește cu adevărat. De fapt, mulți dintre ei se bazează pe agenți mai mici, mai personali: agenți de codificare precum Codex/ClaudeCode sau agenți asistenți precum Work/Cowork/Copilot. Aceștia îndeplinesc sarcini pe mașini și dispozitive locale, iar decalajul principal pe care îl au este lipsa de cunoștințe. Acest lucru a condus la o industrie cu totul nouă de sisteme „al doilea creier” care încearcă în esență să creeze un grafic de cunoștințe care este împărtășit între acești agenți distribuiți. Companiile care lucrează astfel declară adesea că au agenți care numără zeci, sute și, în unele cazuri extreme, mii. Asta înseamnă, practic, că fiecare angajat are unul sau mai mulți. limitat agenți care îndeplinesc sarcini pentru ei.

Faptul că agenții au fost expuși devreme la datele din lumea reală, la plângerile utilizatorilor și la codul nostru, i-a făcut dramatic mai agili și mai inteligenți decât oricare dintre agenții personali pe care îi conducem alături de ei.

Tocmai ne-am dat seama că cei mai deștepți agenți ai noștri devin o superinteliință a companiei.

Din motive de claritate: nu pretind sensibilitate, AGI sau ceva apropiat. Propun că sunt o entitate nou-nouță în organigrama companiei.

Ce este o companie superintelligence?

Când un agent începe să iasă în evidență, atâta timp cât este concentrat, poate începe să devină o entitate Superinteligentă. Cum definim asta?

Aș spune că, în cele mai multe cazuri, agenții în acest moment au în primul rând un avantaj al răbdării și persistenței, nu al inteligenței față de oameni. Cu toate acestea, pe măsură ce modelele s-au îmbunătățit (GPT 5.6 sol și Opus 5 sunt foarte bune!), am început să vedem ceva nou care apare, ceva care depășește ceea ce am putea face – nu doar în viteză, ci și în ceea ce privește faptele pe care oamenii nu le pot face.

A început pentru noi când i-am oferit agentului nostru o abundență de capabilități de date (Mixpanel) și de analiză de afaceri și acces la date (erori prin Sentry, informații financiare în Baremetrics, urme AI prin LangSmith). Apoi, l-am expus erorilor utilizatorilor (erori Sentry) și rapoartelor de reclamații ale utilizatorilor. În cele din urmă, i-am dat acces la agenții de codare și la depozitele noastre principale pe GitHub. Nu are acces extern prin e-mail sau orice interacțiune cu utilizatorul, dar urmărind cum ne comportăm pe aceste subiecte, a început să înțeleagă lucrurile. Prin aceste interacțiuni, monitorizează acum ce constituie un blocant, ce este gândirea critică, cum funcționează afacerea noastră și care sunt SOP (Proceduri de operare standard). Face acest lucru prin încercare și eroare și pare să câștige inteligență în mod regulat.

În acel moment, am început să-i punem câteva întrebări interesante. La început, totul a necesitat o dublă verificare și critică atunci când lucrurile nu au fost explicate corect sau concluziile au sunat neplăcut. Încă mai face acest lucru din când în când, de exemplu l-am întrebat despre regresii și mi-a dat date de eroare zgomotoase, dar aceasta este o oportunitate de învățare: mi-am învățat definiția regresiilor și acum „înțelege”.

Când utilizatorii se plâng sau când erorile cresc, generăm remedieri în mod proactiv. Asta înseamnă că în fiecare dimineață, inginerii noștri nu trebuie să verifice regresiile, trebuie doar să decidă dacă un PR este bun sau nu. La început, acestea erau PR de unică folosință care nu îndeplineau standardele noastre de calitate a codificarii, așa că inginerii îi spuneau ce nu era în regulă sau doar reamenajau singuri problema. Pe măsură ce încrederea a crescut, multe dintre aceste remedieri au început să fie îmbinate automat în baza de cod. Agentul clasifică, de asemenea, cât de complex este PR și cât de sigur este agentul în legătură cu fuzionarea lui. Nu suntem într-un punct în care aceste PR sunt fuzionate automat, dar văd o cale acolo, presupun că vom fi acolo într-o lună sau două.

Dar nu asta îl face pe agent super inteligent. Ceea ce face este că acum că inginerii și conducerea companiei au încredere în agent, încep să-i delege munca și să-i pună întrebări cu adevărat interesante. Face cercetările pentru ei, nu ca în căutarea pe google, ci având în vedere cunoștințele avansate ale afacerii, ceea ce îi conferă un avantaj special. Același lucru este valabil și pentru a-i oferi cunoștințe despre mai multe părți ale companiei. OpenClaw și HermesAgent s-ar defecta istoric la un moment dat în care contextul lor istoric a depășit capacitatea lor de a procesa informațiile. Acest tip de defalcare ar avea loc, iar rezultatele au fost o scădere drastică a inteligenței, a reamintirii și a calității muncii lor. Experiența noastră cu Hermes Agent este acum destul de diferită: memoria conversațională este acum la 3 GB și crește exponențial, în timp ce inteligența sa se îmbunătățește în mod clar în timp.

Asta nu înseamnă că este perfect, există regresii și trebuie să îi reamintești uneori să se comporte în anumite moduri sau să identifici de ce nu se comportă așa cum te-ai așteptat într-un anumit context sau nu răspunde corect unui alt agent care îi solicită date sau acțiuni. Dar, ajungem acolo.

Un efect secundar neașteptat al protecției ramurilor ne-a adus un alt progres. Ideea din spatele protecției ramurilor este că cel puțin două persoane văd un PR înainte de a intra în producție, reducând șansele ca codul rău (sau chiar nefast) să intre în sistem. Acest lucru este din ce în ce mai greu de făcut corect cu noile agenți de codare. Pe măsură ce viteza crește, rata noilor PR și cantitatea de cod este aproape imposibil de revizuit manual. Avem mai mulți agenți de la diferiți furnizori care examinează Prs pentru erori, probleme de securitate și probleme de arhitectură. Cu toate acestea, protecția ramurilor rămâne, așa că am permis agentului nostru superinteligent să fie avizul final al PR.

Ne așteptam pe jumătate ca rezultatele să fie banale. La urma urmei, aceste PR au trecut recenzii locale ale agenților de codare, teste, recenzii de securitate, recenzii externe GitHubCopilot și CodeRabbit și au fost aprobate complet. Dar agentul nostru încă a făcut găuri în acele PR. S-au găsit cazuri extreme foarte interesante pe care le-am ratat, securitate, calitatea software-ului și erori arhitecturale pe care nu le-am luat în considerare. Folosește aceleași modele ca toți ceilalți recenzenți, de ce își dă seama de lucruri pe care ceilalți nu erau?

Se rezumă la cunoștințe și experiență. Hamul Hermes Agent, combinat cu cunoștințele acumulate de agent, creează un nou tip de agent superinteligent pe care nu l-am văzut până acum. Așadar, am explorat acest lucru în continuare și am făcut ca recenziile agentului să fie obligatorii, nu doar pentru oamenii care lucrează la sistem, dar acum acționează ca o referință pentru alți agenți mai puțin inteligenți!

Acest agent are acum capacitatea de a ne oferi o gândire critică pe care o vedeam anterior doar la oameni, dar fiind susținută de date reale ale clienților, feedback, codul nostru și o înțelegere profundă a produsului.

Dacă extindem acest lucru și îi oferim mai multe date cu care să se alimenteze, să-și scalăm hardware-ul și memoria, vom vedea o creștere exponențială a performanței. Cred că modelele încă o rețin. Când ajungem la următoarea fază a acestui joc, poate prin GPT-6, rezultatele vor fi dramatic mai interesante. Pe măsură ce acumulăm mai multe date, oferiți agenților mai multe sarcini de făcut și să aveți mai multă încredere în ele.

Cum este diferit acest lucru de al doilea creier bazat pe Wiki al lui Karpathy?

Ceea ce face acest lucru diferit de alte abordări este că, în loc să se ocupe de cunoștințe partajate, cunoștințele superagentului sunt stocate local. Îi putem cere să-și mențină propria memorie și înțelegerea lumii într-un repo, ceea ce ne permite să o duplicăm și să o monitorizăm, dar în cele din urmă este nu despre a face cunoștințele și abilitățile împărtășibile și colaborative. Este o bază de cunoștințe singulară care, împreună cu instrumentele și accesul la lume, îi permite să răspundă direct la întrebările dvs. Nu îi cereți agentului dvs. să-și dea seama folosind cunoștințele comune, fie dumneavoastră, fie agenții dumneavoastră îi puneți întrebările agentului Superinteligent. În mod surprinzător, acest lucru funcționează bine pentru noi în acest moment, până la punctul în care extindem continuu accesul și acoperirea agentului și încă nu vedem cunoștințe sau inteligență degradate ca urmare.

Notă: nu expunem agentul la informații sau funcționalități sensibile. Nu are acces direct la sistemele noastre bancare, de taxare sau de facturare. De asemenea, este separat de lume și nu are acces la e-mail sau canale externe. Pe măsură ce câștigăm experiență și încredere, nu cred că suntem foarte departe de a ridica și aceste restricții.