Superintelligence d’entreprise émergente11 min read

En tant que startup, nous travaillons constamment sur de nouvelles techniques pour courir plus vite et repousser les limites. Lorsque OpenClaw/Hermes a été lancé, nous avons été parmi les premiers à l’adopter. Nous l’avons utilisé avec de nombreux autres outils AI.

Au fur et à mesure que ces outils, ainsi que les modèles sur lesquels ils s’appuient, ont progressé, nous avons remarqué quelque chose : nous ne progressons pas seulement plus vite, nous avons commencé à travailler différemment. À chaque tour, ces agents d’auto-apprentissage qui s’améliorent progressent et apprennent. Nous exécutons actuellement un « Super Agent » sur une machine dédiée (une instance VPS exécutée sur DigitalOcean) en utilisant GPT-5.6-sol à l’état de raisonnement le plus élevé. Certains des autres agents que nous utilisons utilisent d’autres harnais et modèles d’agents, mais c’est celui-ci sur lequel j’aimerais me concentrer dans cet article.

Nous avons remarqué que la plupart des entreprises n’utilisent pas ce type d’agent autonome pour gérer les flux critiques dans leur entreprise, ce qui les ralentit énormément. En fait, beaucoup d’entre eux s’appuient sur des agents plus petits et plus personnels : des agents de codage comme Codex/ClaudeCode ou des agents assistants comme Work/Cowork/Copilot. Ceux-ci effectuent des tâches sur des machines et des appareils locaux et leur principale lacune est le manque de connaissances. Cela a conduit à une toute nouvelle industrie de systèmes de « second cerveau » qui tentent essentiellement de créer un graphe de connaissances partagé entre ces agents distribués. Les entreprises qui travaillent ainsi proclament souvent qu’elles ont des agents qui se comptent par dizaines, centaines et, dans certains cas extrêmes, par milliers. Cela signifie essentiellement que chaque employé a un ou plusieurs limité agents effectuant des tâches pour eux.

Le fait que nos agents aient été exposés très tôt aux données du monde réel, aux plaintes des utilisateurs et à notre code les a rendus considérablement plus agiles et plus intelligents que n’importe quel agent personnel que nous employons à leurs côtés.

Nous venons de réaliser que nos agents les plus intelligents deviennent une superintelligence d’entreprise.

Par souci de clarté : je ne revendique pas la sensibilité, AGI ou quoi que ce soit de proche. Je propose qu’il s’agisse d’une toute nouvelle entité dans l’organigramme de l’entreprise.

Qu’est-ce qu’une superintelligence d’entreprise ?

Lorsqu’un agent commence à se démarquer, tant qu’il reste concentré, il peut commencer à devenir une entité superintelligente. Comment définissons-nous cela ?

Je dirais que dans la plupart des cas, les agents ont actuellement avant tout un avantage en termes de patience et de persévérance, et non d’intelligence par rapport aux humains. Cependant, à mesure que les modèles se sont améliorés (les GPT 5.6 sol et Opus 5 sont vraiment bons !), nous avons commencé à voir quelque chose de nouveau émerger, quelque chose qui dépasse ce que nous pourrions faire – pas seulement en termes de vitesse, mais aussi en termes d’action que les humains ne peuvent pas faire.

Cela a commencé pour nous lorsque nous avons donné à notre agent une abondance de données (Mixpanel) et de capacités d’analyse commerciale et d’accès aux données (erreurs via Sentry, données financières dans Baremetrics, traces AI via LangSmith). Ensuite, nous l’avons exposé aux bogues des utilisateurs (erreurs Sentry) et aux rapports de plaintes des utilisateurs. Enfin, nous lui avons donné accès aux agents de codage et à nos dépôts principaux sur GitHub. Il n’a aucun accès extérieur par courrier électronique ou toute interaction utilisateur, mais en observant notre comportement sur ces sujets, il a commencé à comprendre les choses. Grâce à ces interactions, il surveille désormais ce qui constitue un bloqueur, ce qu’est la pensée critique, le fonctionnement de notre entreprise et quelles sont les SOP (Standard Operating Procedures). Il le fait par essais et erreurs et semble gagner régulièrement en intelligence.

C’est à ce moment-là que nous avons commencé à lui poser des questions intéressantes. Au début, tout nécessitait une double vérification et une critique lorsque les choses n’étaient pas expliquées correctement ou que les conclusions semblaient louches. Il le fait encore de temps en temps, par exemple je lui ai posé des questions sur les régressions et il m’a donné des données d’erreur bruyantes, mais c’est une opportunité d’apprentissage : je lui ai appris ma définition des régressions et maintenant il « comprend ».

Lorsque les utilisateurs se plaignent ou lorsque les erreurs augmentent, nous générons des correctifs de manière proactive. Cela signifie que chaque matin, nos ingénieurs n’ont pas à vérifier les régressions, ils doivent simplement décider si une PR est bonne ou non. Au début, il s’agissait de PR jetables qui ne répondaient pas à nos normes de qualité de codage, donc les ingénieurs lui disaient ce qui n’allait pas, ou réévaluaient simplement le problème eux-mêmes. À mesure que la confiance grandissait, bon nombre de ces correctifs ont commencé à être automatiquement fusionnés dans la base de code. L’agent évalue également la complexité du PR et son niveau de confiance quant à sa fusion. Nous n’en sommes pas à un point où ces PR sont automatiquement fusionnés, mais j’y vois un chemin, je suppose que nous y serons dans un mois ou deux.

Mais ce n’est pas vraiment ce qui rend l’agent super intelligent. Ce qui se passe, c’est que maintenant que les ingénieurs et la direction de l’entreprise ont confiance dans l’agent, ils commencent à lui déléguer du travail et à lui poser des questions vraiment intéressantes. Il effectue les recherches à leur place, non pas comme les recherches Google, mais en gardant à l’esprit la connaissance avancée du secteur, ce qui lui confère un avantage particulier. Il en va de même pour lui donner une connaissance d’un plus grand nombre de secteurs de l’entreprise. OpenClaw et HermesAgent s’effondreraient historiquement à un moment donné où leur contexte historique dépassait leur capacité à traiter l’information. Ce type de panne se produirait et les résultats seraient une baisse drastique de l’intelligence, de la mémoire et de la qualité de leur travail. Notre expérience avec le Hermes Agent est désormais bien différente : la mémoire conversationnelle est désormais de 3 Go et croît de façon exponentielle tandis que son intelligence s’améliore clairement au fil du temps.

Cela ne veut pas dire que c’est parfait, il y a des régressions et il faut parfois lui rappeler de se comporter de certaines manières ou identifier pourquoi il ne se comporte pas comme prévu dans un contexte particulier ou ne répond pas correctement à un autre agent qui lui demande des données ou des actions. Mais nous y arrivons.

Un effet secondaire inattendu de la protection des succursales nous a apporté une autre avancée. L’idée derrière la protection des branches est qu’au moins deux personnes voient un PR avant qu’il n’entre en production, réduisant ainsi les risques qu’un code mauvais (voire néfaste) pénètre dans le système. C’est de plus en plus difficile à réaliser correctement avec les nouveaux agents de codage. À mesure que la vitesse augmente, le taux de nouveaux PR et la quantité de code sont presque impossibles à examiner minutieusement à la main. Nous avons plusieurs agents de différents fournisseurs qui examinent Prs à la recherche de bogues, de problèmes de sécurité et de problèmes d’architecture. Cependant, la protection des succursales reste, j’ai donc permis à notre agent superintelligent d’être l’approbateur final des PR.

Nous nous attendions à moitié à ce que les résultats soient banals. Après tout, ces PR ont passé avec succès les examens des agents de codage locaux, les tests, les examens de sécurité, les examens externes GitHubCopilot et CodeRabbit et ont été entièrement approuvés. Mais notre agent a quand même percé des trous dans ces PR. Il a trouvé des cas extrêmes vraiment intéressants que nous avions manqués, des bogues de sécurité, de qualité logicielle et d’architecture que nous n’avions pas pris en compte. Il utilise les mêmes modèles que tous les autres évaluateurs, pourquoi découvre-t-il des choses que les autres n’ont pas découvert ?

Cela dépend de la connaissance et de l’expérience. Le harnais Hermes Agent combiné aux connaissances accumulées par l’agent crée un nouveau type d’agent superintelligent que nous n’avons jamais vu auparavant. Nous avons donc approfondi cette question et rendu les évaluations des agents obligatoires, non seulement pour les humains travaillant sur le système, mais elles servent désormais de référence pour d’autres agents moins intelligents !

Cet agent a désormais la capacité de nous donner une pensée critique que nous ne voyions auparavant que chez les humains, mais soutenue par les données réelles des clients, les commentaires, notre code et une compréhension approfondie du produit.

Si nous développons cela et lui donnons plus de données sur lesquelles se nourrir, faisons évoluer son matériel et sa mémoire, nous assisterons à une augmentation exponentielle des performances. Je pense que les modèles le retiennent encore. Lorsque nous passerons à la phase suivante de ce jeu, peut-être via GPT-6, les résultats seront considérablement plus intéressants. À mesure que nous accumulons davantage de données, confiez aux agents davantage de tâches à accomplir et faites-leur davantage confiance.

En quoi est-ce différent du deuxième cerveau basé sur le wiki de Karpathy ?

Ce qui différencie cette approche des autres approches est qu’au lieu de traiter des connaissances partagées, les connaissances des superagents sont stockées localement. Nous pouvons lui demander de conserver sa propre mémoire et sa compréhension du monde dans un dépôt, ce qui nous permet de le dupliquer et de le surveiller, mais en fin de compte, c’est pas Il s’agit de rendre les connaissances et les compétences partageables et collaboratives. Il s’agit d’une base de connaissances unique qui, associée aux outils et à l’accès au monde, lui permet de répondre directement à vos questions. Vous ne demandez pas à votre agent de le comprendre en utilisant les connaissances partagées, soit vous, soit vos agents posez vos questions à l’agent superintelligent. Étonnamment, cela fonctionne bien pour nous à l’heure actuelle, au point que nous élargissons continuellement l’accès et la portée de l’agent et que nous n’avons pas encore constaté de dégradation des connaissances ou de l’intelligence.

Remarque : nous n’exposons pas l’agent à des informations ou fonctionnalités sensibles. Il n’a pas d’accès direct à nos systèmes bancaires, de recharge ou de facturation. Il est également séparé du monde et n’a pas accès au courrier électronique ou aux canaux extérieurs. À mesure que nous acquérons de l’expérience et de la confiance, je ne pense pas que nous soyons très loin de lever également ces restrictions.