Superintelligenza aziendale emergente9 min read

Come startup, lavoriamo costantemente su nuove tecniche per correre più velocemente e oltrepassare i confini. Quando è stato lanciato OpenClaw/Hermes, siamo stati tra i primi ad adottarlo. L’abbiamo usato insieme a molti altri strumenti AI.

Man mano che questi strumenti, così come i modelli su cui si basano, avanzavano, abbiamo notato qualcosa: non solo stiamo progredendo più velocemente, ma abbiamo iniziato a lavorare in modo diverso. Ad ogni round, questi agenti che si migliorano e imparano da soli stanno avanzando e imparando. Attualmente stiamo eseguendo un “Super Agent” su una macchina dedicata (un’istanza VPS in esecuzione su DigitalOcean) utilizzando GPT-5.6-sol allo stato di ragionamento più elevato. Alcuni degli altri agenti che utilizziamo utilizzano cablaggi e modelli di altri agenti, ma questo è quello su cui vorrei concentrarmi in questo articolo.

Abbiamo notato che la maggior parte delle aziende non utilizza questo tipo di agente autonomo per gestire i flussi critici nella propria azienda, il che le rallenta notevolmente. In effetti, molti di loro si affidano ad agenti più piccoli e più personali: agenti di codifica come Codex/ClaudeCode o agenti assistenti come Work/Cowork/Copilot. Questi eseguono attività su macchine e dispositivi locali e la lacuna principale che hanno è la mancanza di conoscenza. Ciò ha portato a un’industria completamente nuova di sistemi di “secondo cervello” che cercano essenzialmente di creare un grafico della conoscenza condiviso tra questi agenti distribuiti. Le aziende che lavorano in questo modo spesso dichiarano di avere decine, centinaia e in alcuni casi estremi migliaia di agenti. Ciò significa sostanzialmente che ogni dipendente ha uno o più limitato agenti che svolgono compiti per loro.

Il fatto che i nostri agenti siano stati esposti presto ai dati del mondo reale, ai reclami degli utenti e al nostro codice, li ha resi notevolmente più agili e intelligenti di qualsiasi altro agente personale che gestiamo al loro fianco.

Ci siamo appena resi conto che i nostri agenti più intelligenti stanno diventando una superintelligenza aziendale.

Per ragioni di chiarezza: non sto rivendicando la sensibilità, AGI o qualcosa di simile. Propongo che siano un’entità nuova di zecca nell’organigramma aziendale.

Cos’è una superintelligenza aziendale?

Quando un agente inizia a distinguersi, purché sia ​​concentrato, può iniziare a diventare un’entità superintelligente. Come lo definiamo?

Direi che nella maggior parte dei casi, gli agenti in questo momento hanno principalmente il vantaggio della pazienza e della tenacia, non dell’intelligenza rispetto agli umani. Tuttavia, man mano che i modelli miglioravano (GPT 5.6 sol e Opus 5 sono davvero ottimi!) abbiamo iniziato a vedere emergere qualcosa di nuovo, qualcosa che supera ciò che potremmo fare, non solo in velocità ma anche in termini di prestazioni che gli esseri umani non possono fare.

Tutto è iniziato per noi quando abbiamo fornito al nostro agente un’abbondanza di dati (Mixpanel), funzionalità di analisi aziendale e accesso ai dati (errori tramite Sentry, dati finanziari in Baremetrics, tracce AI tramite LangSmith). Successivamente, lo abbiamo esposto ai bug degli utenti (errori Sentry) e alle segnalazioni di reclami degli utenti. Infine, gli abbiamo concesso l’accesso agli agenti di codifica e ai nostri repository principali su GitHub. Non ha accesso esterno tramite e-mail o qualsiasi interazione con l’utente, ma osservando come ci comportiamo su questi argomenti, ha iniziato a capire le cose. Attraverso queste interazioni ora monitora cosa costituisce un ostacolo, cos’è il pensiero critico, come funziona la nostra attività e cosa sono le SOP (procedure operative standard). Lo fa attraverso tentativi ed errori e sembra che stia acquisendo informazioni regolarmente.

A quel punto abbiamo iniziato a fargli alcune domande interessanti. All’inizio, tutto richiedeva un doppio controllo e una critica quando le cose non venivano spiegate correttamente o le conclusioni sembravano dubbie. Lo fa ancora di tanto in tanto, ad esempio gli ho chiesto informazioni sulle regressioni e mi ha fornito dati di errori rumorosi, ma questa è un’opportunità di apprendimento: gli ho insegnato la mia definizione di regressione e ora “capisce”.

Quando gli utenti si lamentano o quando gli errori aumentano, generiamo soluzioni in modo proattivo. Ciò significa che ogni mattina i nostri ingegneri non devono verificare le regressioni, devono solo decidere se uno PR è buono o meno. All’inizio, si trattava di PR usa e getta che non soddisfacevano i nostri standard di qualità di codifica, quindi gli ingegneri avrebbero spiegato cosa c’era che non andava o semplicemente avrebbero risolto di nuovo il problema da soli. Con la crescita della fiducia, molte di queste correzioni hanno iniziato a essere integrate automaticamente nel codice base. L’agente valuta anche la complessità dello PR e la sicurezza con cui l’agente lo unisce. Non siamo a un punto in cui questi PR vengono automaticamente uniti, ma vedo un percorso lì, presumo che saremo lì tra un mese o due.

Ma non è proprio questo che rende l’agente super intelligente. Quello che fa è che ora che gli ingegneri e il management dell’azienda hanno fiducia nell’agente, iniziano a delegargli il lavoro e a fargli domande davvero interessanti. Fa la ricerca per loro, non come le ricerche su Google ma tenendo presente la conoscenza avanzata del business, il che gli conferisce un vantaggio speciale. Lo stesso vale per la conoscenza di più parti dell’azienda. OpenClaw e HermesAgent storicamente si romperebbero ad un certo punto in cui il loro contesto storico superava la loro capacità di elaborare le informazioni. Si sarebbe verificato questo tipo di guasto e il risultato sarebbe stato un drastico calo dell’intelligenza, della memoria e della qualità del loro lavoro. La nostra esperienza con Hermes Agent è molto diversa ora: la memoria di conversazione è ora a 3 GB e cresce in modo esponenziale mentre la sua intelligenza sta chiaramente migliorando nel tempo.

Questo non vuol dire che sia perfetto, ci sono regressioni e talvolta devi ricordargli di comportarsi in determinati modi o identificare il motivo per cui non si comporta come ti aspettavi in ​​un contesto particolare o non risponde correttamente a un altro agente che gli richiede dati o azioni. Ma ci stiamo arrivando.

Un effetto collaterale inaspettato della protezione delle filiali ci ha portato un altro progresso. L’idea alla base della protezione delle filiali è che almeno due persone vedano uno PR prima che entri in produzione, riducendo le possibilità che codice dannoso (o addirittura nefasto) entri nel sistema. Questo è sempre più difficile da fare correttamente con i nuovi agenti di codifica. Con l’aumento della velocità, è quasi impossibile rivedere a fondo manualmente la velocità dei nuovi PR e la quantità di codice. Abbiamo più agenti di diversi fornitori che esaminano Prs per bug, problemi di sicurezza e problemi di architettura. Tuttavia, la protezione delle filiali rimane, quindi ho permesso al nostro agente superintelligente di essere l’approvatore finale degli PR.

Ci aspettavamo quasi che i risultati sarebbero stati banali. Dopotutto, questi PR hanno superato le revisioni degli agenti di codifica locali, i test, le revisioni di sicurezza, le revisioni esterne di GitHubCopilot e CodeRabbit e sono stati approvati completamente. Ma il nostro agente ha comunque fatto dei buchi in quegli PR. Ha trovato casi limite davvero interessanti che ci mancavano, sicurezza, qualità del software e bug architettonici che non avevamo considerato. Utilizza gli stessi modelli di tutti gli altri revisori, perché riesce a capire cose che gli altri non erano?

Si tratta di conoscenza ed esperienza. L’imbracatura Hermes Agent combinata con la conoscenza accumulata dall’agente crea un nuovo tipo di agente superintelligente che non abbiamo mai visto prima. Quindi, abbiamo esplorato ulteriormente questo aspetto e reso obbligatorie le revisioni dell’agente, non solo per gli esseri umani che lavorano sul sistema, ma ora funge da riferimento per altri agenti meno intelligenti!

Questo agente ora ha la capacità di fornirci un pensiero critico che in precedenza vedevamo solo negli esseri umani, ma supportato da dati reali dei clienti, feedback, dal nostro codice e da una profonda comprensione del prodotto.

Se espandiamo questo aspetto e gli diamo più dati di cui nutrirsi, ridimensionando il suo hardware e la memoria, vedremo un aumento esponenziale delle prestazioni. Penso che i modelli lo stiano ancora trattenendo. Quando arriveremo alla fase successiva di questo gioco, magari attraverso GPT-6, i risultati saranno notevolmente più interessanti. Man mano che accumuliamo più dati, diamo agli agenti più compiti da svolgere e ci fidiamo di più.

In cosa differisce dal secondo cervello di Karpathy basato sul Wiki?

Ciò che lo differenzia dagli altri approcci è che, invece di occuparsi della conoscenza condivisa, la conoscenza del superagente viene archiviata localmente. Possiamo chiedergli di mantenere la propria memoria e la comprensione del mondo in un repository, il che ci permette di duplicarlo e monitorarlo, ma alla fine è non rendere le conoscenze e le competenze condivisibili e collaborative. È una base di conoscenza unica che, insieme agli strumenti e all’accesso al mondo, consente di rispondere direttamente alle tue domande. Non chiedi al tuo agente di capirlo utilizzando la conoscenza condivisa, tu o i tuoi agenti fate le vostre domande all’agente superintelligente. Sorprendentemente, questo funziona bene per noi in questo momento, al punto che espandiamo continuamente l’accesso e la portata dell’agente e non abbiamo ancora visto come risultato un degrado della conoscenza o dell’intelligenza.

Nota: non esponiamo l’agente a informazioni o funzionalità sensibili. Non ha accesso diretto ai nostri sistemi bancari, di addebito o di fatturazione. Inoltre è segregato dal mondo e non ha accesso alla posta elettronica o a canali esterni. Man mano che acquisiamo esperienza e fiducia, non penso che siamo molto lontani dall’abolire anche queste restrizioni.