Emergent virksomheds superintelligens9 min read

Som startup arbejder vi konstant på nye teknikker til at løbe hurtigere og skubbe grænsen. Da OpenClaw/Hermes blev lanceret, var vi tidlige brugere. Vi brugte det sammen med mange andre AI-værktøjer.

Efterhånden som disse værktøjer, såvel som de modeller, de er afhængige af, udviklede sig, bemærkede vi noget: Vi udvikler os ikke bare hurtigere, vi er begyndt at arbejde anderledes. Med hver runde går disse selvforbedrende selvlærende agenter frem og lærer. Vi kører i øjeblikket en “Super Agent” på en dedikeret maskine (en VPS-instans, der kører på DigitalOcean) ved hjælp af GPT-5.6-sol i den højeste ræsonnement-tilstand. Nogle af de andre agenter, vi kører, bruger andre agentseler og -modeller, men det er den, jeg gerne vil fokusere på i denne artikel.

Vi har bemærket, at de fleste virksomheder ikke bruger denne type autonome agenter til at køre kritiske flows i deres virksomhed, hvilket virkelig bremser dem. Faktisk er mange af dem afhængige af mindre, mere personlige agenter: kodningsagenter som Codex/ClaudeCode eller assistentagenter som Work/Cowork/Copilot. Disse udfører opgaver på lokale maskiner og enheder, og det primære hul, de har, er mangel på viden. Dette førte til en helt ny industri af “second brain”-systemer, der i det væsentlige forsøger at skabe en vidensgraf, der deles mellem disse distribuerede agenter. Virksomheder, der arbejder på denne måde, udråber ofte, at de har agenter, der tæller i tiere, hundrede og i nogle ekstreme tilfælde tusinder. Det betyder grundlæggende, at hver medarbejder har en eller flere begrænset agenter, der udfører opgaver for dem.

Det faktum, at agenter blev eksponeret tidligt for data fra den virkelige verden, brugerklager og vores kode, gjorde dem dramatisk mere agile og smartere end nogen af ​​de personlige agenter, vi kører sammen med dem.

Vi har lige indset, at vores smarteste agenter er ved at blive en virksomheds superintelligens.

For klarhedens skyld: Jeg påstår ikke sansning, AGI eller noget i nærheden af ​​det. Jeg foreslår, at de er en helt ny enhed i virksomhedens organisationsdiagram.

Hvad er en virksomheds superintelligens?

Når en agent begynder at skille sig ud, så længe den er fokuseret, kan den begynde at blive en superintelligent enhed. Hvordan definerer vi det?

Jeg vil sige, at i de fleste tilfælde har agenter lige nu primært en fordel af tålmodighed og vedholdenhed, ikke af intelligens frem for mennesker. Men efterhånden som modellerne blev bedre (GPT 5.6 sol & Opus 5 er virkelig gode!) er vi begyndt at se noget nyt dukke op, noget der overgår hvad vi kunne – ikke kun i hastighed, men i at gøre mennesker ikke kan gøre.

Det startede for os, da vi gav vores agent en overflod af data (Mixpanel) og forretningsanalysefunktioner og dataadgang (fejl gennem Sentry, økonomi i Baremetrics, AI spor gennem LangSmith). Dernæst udsatte vi det for brugerfejl (Sentry-fejl) og rapporter om brugerklager. Endelig gav vi det adgang til kodningsagenter og vores primære repos på GitHub. Den har ingen udefrakommende adgang via e-mail eller nogen brugerinteraktion, men ved at se, hvordan vi opfører os om disse emner, begyndte den at forstå tingene. Gennem disse interaktioner overvåger den nu, hvad der udgør en blokering, hvad kritisk tænkning er, hvordan vores virksomhed kører, og hvad SOP (Standard Operating Procedures) er. Det gør det gennem forsøg og fejl, og det ser ud til at vinde intelligens med jævne mellemrum.

På det tidspunkt begyndte vi at stille det nogle interessante spørgsmål. I starten krævede alt dobbelttjek og kritik, når tingene ikke blev forklaret ordentligt, eller konklusionerne lød skumle. Det gør den stadig fra tid til anden, for eksempel spurgte jeg den om regressioner, og den gav mig støjende fejldata, men det er en læringsmulighed: Jeg lærte den min definition af regressioner, og nu “forstår den det”.

Når brugere klager, eller når fejl stiger, genererer vi proaktivt rettelser. Det betyder, at vores ingeniører hver morgen ikke behøver at tjekke for regressioner, de skal blot beslutte, om en PR er god eller ej. I begyndelsen var disse engangs PR’er, der ikke opfyldte vores kodningskvalitetsstandarder, så ingeniørerne ville fortælle det, hvad der var galt, eller bare omudviklede problemet selv. Efterhånden som tilliden voksede, begyndte mange af disse rettelser automatisk at blive flettet ind i kodebasen. Agenten rangerer også, hvor kompleks PR er, og hvor sikker agenten er ved at fusionere den. Vi er ikke på et punkt, hvor disse PR’er automatisk slås sammen, men jeg ser en vej derhen, jeg antager, at vi er der om en måned eller to.

Men det er egentlig ikke det, der gør agenten super intelligent. Hvad der gør er, at nu hvor ingeniørerne og ledelsen i virksomheden har tillid til agenten, begynder de at uddelegere arbejde til den og stille den virkelig interessante spørgsmål. Det gør forskningen for dem, ikke som google-søgninger, men med den avancerede viden om virksomheden i tankerne, hvilket giver den en særlig fordel. Det samme gælder for at give den viden om flere dele af virksomheden. OpenClaw og HermesAgent ville historisk gå i stykker på et tidspunkt, hvor deres historiske kontekst oversteg deres evne til at behandle informationen. Den type sammenbrud ville forekomme, og resultaterne var et drastisk fald i intelligens, erindring og kvaliteten af ​​deres arbejde. Vores erfaring med Hermes Agent er helt anderledes nu: samtalehukommelsen er nu på 3 GB og vokser eksponentielt, mens dens intelligens klart forbedres over tid.

Det betyder ikke, at det er perfekt, der er regressioner, og du skal nogle gange minde det om at opføre sig på bestemte måder eller identificere, hvorfor det ikke opfører sig som du forventede i en bestemt kontekst eller reagerer korrekt på en anden agent, der anmoder om data eller handlinger fra den. Men, vi når dertil.

En uventet bivirkning af grenbeskyttelse bragte os endnu et fremskridt. Ideen bag filialbeskyttelse er, at mindst to personer ser en PR, før den sættes i produktion, hvilket reducerer chancerne for, at dårlig (eller endda ufarlig) kode kommer ind i systemet. Dette er sværere og sværere at gøre ordentligt med de nye kodningsmidler. Når hastigheden stiger, er hastigheden af ​​nye PR’er og mængden af ​​kode næsten umulig at gennemgå grundigt i hånden. Vi har flere agenter fra forskellige leverandører, der gennemgår Prs for fejl, sikkerhedsproblemer og arkitektoniske problemer. Grenbeskyttelsen forbliver dog, så jeg tillod vores superintelligente agent at være den endelige godkender af PRs.

Vi forventede halvt, at resultaterne ville være banale. Disse PR’er bestod trods alt lokale kodningsagentgennemgange, test, sikkerhedsgennemgange, eksterne GitHubCopilot og CodeRabbit anmeldelser og blev godkendt fuldstændigt. Men vores agent slog stadig huller i de PR’er. Det fandt virkelig interessante edge cases, vi gik glip af, sikkerhed, softwarekvalitet og arkitektoniske fejl, som vi ikke overvejede. Den bruger de samme modeller som alle de andre anmeldere, hvorfor finder den ud af ting, som de andre ikke var?

Det handler om viden og erfaring. Hermes Agent-selen kombineret med viden om, at agenten akkumulerede, skaber en ny type superintelligent middel, som vi ikke har set før. Så vi undersøgte dette yderligere og gjorde agentens anmeldelser obligatoriske, ikke kun for mennesker, der arbejder på systemet, men det fungerer nu som en reference for andre, mindre intelligente agenter!

Denne agent har nu evnen til at give os kritisk tænkning, som vi tidligere kun så hos mennesker, men understøttet af faktiske kundedata, feedback, vores kode og en dyb forståelse af produktet.

Hvis vi udvider dette og giver det flere data at fodre på, skalerer dets hardware og hukommelse, vil vi se en eksponentiel stigning i ydeevnen. Jeg tror, ​​at modellerne stadig holder det tilbage. Når vi kommer til næste fase af dette spil, måske gennem GPT-6, vil resultaterne blive dramatisk mere interessante. Efterhånden som vi akkumulerer flere data, giver agenterne flere opgaver at udføre og stoler mere på dem.

Hvordan adskiller dette sig fra Karpathys Wiki-baserede 2. hjerne?

Det, der adskiller dette fra andre tilgange, er, at i stedet for at beskæftige sig med delt viden, lagres superagentviden lokalt. Vi kan bede den om at bevare sin egen hukommelse og verdensforståelse i et repo, som giver os mulighed for at duplikere det og overvåge det, men i sidste ende er det ikke om at gøre viden og færdigheder delbare og samarbejdende. Det er en enestående vidensbase, der sammen med værktøjerne og verdensadgang lader den besvare dine spørgsmål direkte. Du beder ikke din agent om at finde ud af det ved hjælp af den delte viden, hverken du eller dine agenter stiller Superintelligent-agenten dine spørgsmål. Overraskende nok fungerer dette godt for os lige nu til det punkt, at vi konstant udvider agentens adgang og rækkevidde, og vi mangler endnu at se forringet viden eller intelligens som et resultat.

Bemærk: vi udsætter ikke agenten for følsomme oplysninger eller funktionalitet. Den har ikke direkte adgang til vores bank-, debiterings- eller faktureringssystemer. Det er også adskilt fra verden og har ikke adgang til e-mail eller eksterne kanaler. Efterhånden som vi får erfaring og tillid, tror jeg ikke, at vi også er langt fra at ophæve disse begrænsninger.