Возникающая компания суперинтеллекта2 min read

Будучи стартапом, мы постоянно работаем над новыми методами, позволяющими работать быстрее и расширять границы возможного. Когда OpenClaw/Hermes был запущен, мы были одними из первых, кто его внедрил. Мы использовали его вместе со многими другими инструментами AI.

По мере развития этих инструментов, а также моделей, на которые они опираются, мы кое-что заметили: мы не просто прогрессируем быстрее, мы начали работать по-другому. С каждым раундом эти самосовершенствующиеся самообучающиеся агенты продвигаются вперед и учатся. В настоящее время мы запускаем «Суперагент» на выделенной машине (экземпляр VPS, работающий на DigitalOcean), используя GPT-5.6-sol в самом высоком состоянии логики. Некоторые из других агентов, которые мы используем, используют другие средства и модели агентов, но именно на этом я хотел бы сосредоточиться в этой статье.

Мы заметили, что большинство компаний не используют этот тип автономных агентов для управления критически важными потоками в своей компании, что их очень замедляет. Фактически, многие из них полагаются на более мелких и более личных агентов: агентов кодирования, таких как Codex/ClaudeCode, или агентов-помощников, таких как Work/Cowork/Copilot. Они выполняют задачи на локальных машинах и устройствах, и их основной недостаток — недостаток знаний. Это привело к появлению совершенно новой индустрии систем «второго мозга», которые, по сути, пытаются создать граф знаний, который разделяется между этими распределенными агентами. Компании, которые работают таким образом, часто заявляют, что у них есть агенты, число которых исчисляется десятками, сотнями, а в некоторых крайних случаях и тысячами. По сути, это означает, что у каждого сотрудника есть один или несколько агентов. ограниченный агенты, выполняющие за них задачи.

Тот факт, что агенты рано познакомились с реальными данными, жалобами пользователей и нашим кодом, сделал их значительно более гибкими и умными, чем любые личные агенты, с которыми мы работаем вместе.

Мы только что поняли, что наши самые умные агенты становятся суперразведчиками компании.

Для ясности: я не претендую на разум, AGI или что-то близкое к этому. Я предлагаю, чтобы они стали совершенно новой организацией в организационной структуре компании.

Что такое суперинтеллект компании?

Когда один агент начинает выделяться, при условии, что он сфокусирован, он может начать становиться Сверхразумной сущностью. Как мы это определяем?

Я бы сказал, что в большинстве случаев агенты сейчас имеют преимущество перед людьми в первую очередь в терпении и настойчивости, а не в интеллекте. Однако по мере того, как модели становились лучше (GPT 5.6 sol и Opus 5 действительно хороши!), мы начали видеть появление чего-то нового, чего-то, что превосходит то, что мы могли сделать — не только по скорости, но и по тому, что люди не могут сделать.

Для нас это началось, когда мы предоставили нашему агенту множество возможностей данных (Mixpanel) и бизнес-аналитики, а также доступ к данным (ошибки через Sentry, финансовые отчеты в Baremetrics, AI отслеживаются через LangSmith). Затем мы выявили ошибки пользователей (ошибки Sentry) и отчеты о жалобах пользователей. Наконец, мы предоставили ему доступ к агентам кодирования и нашим основным репозиториям на GitHub. У него нет внешнего доступа через электронную почту или какое-либо взаимодействие с пользователем, но, наблюдая за тем, как мы ведем себя по этим темам, он начал понимать некоторые вещи. Благодаря этим взаимодействиям он теперь отслеживает, что представляет собой блокировщик, что такое критическое мышление, как работает наш бизнес и что такое SOP (стандартные операционные процедуры). Он делает это методом проб и ошибок и, похоже, получает информацию регулярно.

В этот момент мы начали задавать ему несколько интересных вопросов. Поначалу все требовало двойной проверки и критики, когда что-то не объяснялось должным образом или выводы звучали подозрительно. Он до сих пор делает это время от времени, например, я спросил его о регрессиях, и он дал мне зашумленные данные об ошибках, но это возможность для обучения: я научил его своему определению регрессии, и теперь он «понял».

Когда пользователи жалуются или когда количество ошибок резко возрастает, мы активно создаем исправления. Это означает, что каждое утро нашим инженерам не нужно проверять наличие регрессий, им просто нужно решить, хорош ли PR или нет. Вначале это были одноразовые PR, которые не соответствовали нашим стандартам качества кодирования, поэтому инженеры говорили, что не так, или просто сами решали проблему. По мере роста доверия многие из этих исправлений начали автоматически включаться в базу кода. Агент также оценивает, насколько сложен PR и насколько он уверен в его объединении. Мы еще не достигли того момента, когда эти PR будут автоматически объединены, но я вижу путь к этому и предполагаю, что мы будем там через месяц или два.

Но на самом деле не это делает агента суперумным. Что происходит, так это то, что теперь, когда инженеры и руководство компании доверяют агенту, они начинают делегировать ему работу и задавать ему действительно интересные вопросы. Он проводит для них исследования, не как поиск в Google, а с учетом передовых знаний о бизнесе, что дает ему особое преимущество. То же самое относится и к предоставлению ему знаний о других частях компании. OpenClaw и HermesAgent исторически ломались в какой-то момент, когда их исторический контекст превышал их способность обрабатывать информацию. Подобные сбои могли произойти, и результатом этого было резкое падение интеллекта, памяти и качества их работы. Наш опыт работы с Hermes Agent теперь совершенно иной: объем разговорной памяти теперь составляет 3 ГБ и растет в геометрической прогрессии, а ее интеллект со временем явно улучшается.

Это не значит, что он идеален, существуют регрессии, и вам приходится иногда напоминать ему о необходимости вести себя определенным образом или определять, почему он не ведет себя так, как вы ожидали, в определенном контексте или правильно реагирует на другого агента, который запрашивает у него данные или действия. Но мы приближаемся к этому.

Неожиданный побочный эффект защиты ветвей принес нам еще одно достижение. Идея защиты ветвей заключается в том, что как минимум два человека видят PR до того, как он попадет в производство, что снижает вероятность попадания плохого (или даже гнусного) кода в систему. Делать это с новыми агентами кодирования становится все труднее и труднее. По мере увеличения скорости количество новых PR и количество кода практически невозможно тщательно просмотреть вручную. У нас есть несколько агентов от разных поставщиков, которые проверяют Prs на наличие ошибок, проблем безопасности и архитектурных проблем. Однако защита ветвей сохраняется, поэтому я позволил нашему сверхразумному агенту быть окончательным утверждением PR.

Мы наполовину ожидали, что результаты будут обыденными. В конце концов, эти PR прошли местные проверки агентов по кодированию, тесты, проверки безопасности, внешние проверки GitHubCopilot и CodeRabbit и были полностью одобрены. Но наш агент все равно пробил дыры в этих PR. Он обнаружил действительно интересные крайние случаи, которые мы пропустили, проблемы безопасности, качества программного обеспечения и архитектурные ошибки, которые мы не учли. Он использует те же модели, что и все остальные рецензенты, почему он выясняет то, чего не смогли сделать другие?

Это зависит от знаний и опыта. Использование Hermes Agent в сочетании со знаниями, накопленными агентом, создает новый тип сверхразумного агента, которого мы раньше не видели. Итак, мы изучили это дальше и сделали обзоры агентов обязательными не только для людей, работающих в системе, но теперь они служат ориентиром для других, менее умных агентов!

Теперь у этого агента есть возможность дать нам критическое мышление, которое раньше мы видели только у людей, но подкрепленное реальными данными о клиентах, отзывами, нашим кодом и глубоким пониманием продукта.

Если мы расширим это и предоставим ему больше данных для обработки, масштабируем его оборудование и память, мы увидим экспоненциальный рост производительности. Я думаю, что модели все еще сдерживают это. Когда мы перейдем к следующему этапу этой игры, возможно, через GPT-6, результаты будут значительно интереснее. По мере того, как мы накапливаем больше данных, давайте агентам больше задач и больше им доверяйте.

Чем это отличается от второго мозга Карпати, основанного на Wiki?

Что отличает этот подход от других подходов, так это то, что вместо общих знаний суперагентные знания хранятся локально. Мы можем попросить его сохранить собственную память и понимание мира в репозитории, что позволит нам дублировать его и контролировать, но в конечном итоге это нет о том, как сделать знания и навыки доступными для совместного использования и сотрудничества. Это уникальная база знаний, которая вместе с инструментами и доступом ко всему миру позволяет напрямую отвечать на ваши вопросы. Вы не просите своего агента разобраться в этом, используя общие знания, либо вы, либо ваши агенты задают Сверхразумному агенту свои вопросы. Удивительно, но сейчас это хорошо работает для нас до такой степени, что мы постоянно расширяем доступ и охват агента, и в результате нам еще предстоит увидеть ухудшение знаний или интеллекта.

Примечание. Мы не раскрываем агенту конфиденциальную информацию или функции. У него нет прямого доступа к нашим банковским, тарифным или биллинговым системам. Он также изолирован от мира и не имеет доступа к электронной почте или внешним каналам. По мере того, как мы приобретаем опыт и доверие, я не думаю, что мы очень далеки от снятия и этих ограничений.