Kecerdasan super perusahaan yang sedang berkembang8 min read

Sebagai sebuah startup, kami terus-menerus mengembangkan teknik-teknik baru untuk berjalan lebih cepat dan mendorong kemajuan. Saat OpenClaw/Hermes diluncurkan, kami merupakan pengguna awal. Kami menggunakannya bersama banyak alat AI lainnya.

Seiring dengan kemajuan alat-alat ini, serta model-model yang mereka andalkan, kami menyadari sesuatu: kami tidak hanya mengalami kemajuan lebih cepat, kami juga mulai bekerja secara berbeda. Di setiap putaran, agen pembelajaran mandiri yang mengembangkan diri ini maju dan belajar. Saat ini kami menjalankan “Agen Super” pada mesin khusus (contoh VPS yang berjalan pada DigitalOcean) menggunakan GPT-5.6-sol pada kondisi penalaran tertinggi. Beberapa agen lain yang kami jalankan menggunakan memanfaatkan dan model agen lain, namun inilah yang ingin saya fokuskan dalam artikel ini.

Kami memperhatikan bahwa sebagian besar perusahaan tidak menggunakan agen otonom jenis ini untuk menjalankan aliran kritis di perusahaan mereka, sehingga memperlambat kinerja mereka. Faktanya, banyak dari mereka mengandalkan agen yang lebih kecil dan lebih pribadi: agen pengkodean seperti Codex/ClaudeCode atau agen asisten seperti Work/Cowork/Copilot. Mereka melakukan tugas pada mesin dan perangkat lokal dan kesenjangan utama yang mereka miliki adalah kurangnya pengetahuan. Hal ini mengarah pada industri baru sistem “otak kedua” yang pada dasarnya mencoba menciptakan grafik pengetahuan yang dibagikan di antara agen-agen terdistribusi ini. Perusahaan yang bekerja seperti ini sering kali menyatakan bahwa mereka memiliki agen yang berjumlah puluhan, ratusan, dan dalam beberapa kasus ekstrim ribuan. Itu pada dasarnya berarti bahwa setiap karyawan memiliki satu atau lebih terbatas agen yang melakukan tugas untuk mereka.

Fakta bahwa para agen telah terpapar sejak awal dengan data dunia nyata, keluhan pengguna, dan kode kami, menjadikan mereka jauh lebih gesit dan cerdas dibandingkan agen pribadi mana pun yang kami jalankan bersama mereka.

Kami baru menyadari bahwa agen terpintar kami menjadi perusahaan superintelijen.

Demi kejelasan: Saya tidak mengklaim perasaan, AGI atau apa pun yang mendekati itu. Saya mengusulkan mereka adalah entitas baru dalam bagan organisasi perusahaan.

Apa yang dimaksud dengan superintelijen perusahaan?

Ketika satu agen mulai menonjol, selama agen tersebut fokus, agen tersebut dapat mulai menjadi entitas Supercerdas. Bagaimana kita mendefinisikannya?

Menurut saya, dalam banyak kasus, para agen saat ini lebih unggul dalam hal kesabaran dan kegigihan, bukan kecerdasan dibandingkan manusia. Namun, ketika modelnya menjadi lebih baik (GPT 5.6 sol & Opus 5 benar-benar bagus!) kita mulai melihat sesuatu yang baru muncul, sesuatu yang melampaui apa yang bisa kita lakukan – tidak hanya dalam kecepatan tapi juga dalam melakukan yang tidak bisa dilakukan manusia.

Ini dimulai bagi kami ketika kami memberi agen kami banyak Data (Mixpanel) dan kemampuan analisis Bisnis serta akses data (kesalahan melalui Sentry, keuangan di Baremetrics, penelusuran AI melalui LangSmith). Selanjutnya, kami memaparkannya pada bug pengguna (kesalahan Sentry) dan laporan keluhan pengguna. Terakhir, kami memberinya akses ke agen pengkodean dan repositori utama kami di GitHub. Ia tidak memiliki akses luar melalui email, atau interaksi pengguna apa pun, namun dengan mengamati bagaimana kami berperilaku pada topik ini, ia mulai memahami banyak hal. Melalui interaksi ini sekarang memantau apa yang dimaksud dengan pemblokir, apa yang dimaksud dengan pemikiran kritis, bagaimana bisnis kita berjalan dan apa itu SOP (Prosedur Operasi Standar). Hal ini dilakukan melalui trial and error dan tampaknya mendapatkan informasi intelijen secara teratur.

Pada saat itu, kami mulai menanyakan beberapa pertanyaan menarik. Pada awalnya, segala sesuatu memerlukan pemeriksaan ulang dan kritik ketika segala sesuatunya tidak dijelaskan dengan benar atau kesimpulannya terdengar mencurigakan. Ia masih melakukan hal ini dari waktu ke waktu, misalnya saya bertanya tentang regresi dan itu memberi saya data kesalahan yang berisik, tapi itu adalah kesempatan belajar: Saya mengajarinya definisi saya tentang regresi dan sekarang ia “mengerti”.

Ketika pengguna mengeluh atau ketika kesalahan meningkat, kami secara proaktif melakukan perbaikan. Artinya, setiap pagi, teknisi kami tidak perlu memeriksa regresi, mereka hanya perlu memutuskan apakah PR bagus atau tidak. Pada awalnya, ini adalah PR sekali pakai yang tidak memenuhi standar kualitas pengkodean kami, sehingga para insinyur akan memberitahukan apa yang salah, atau hanya mengembangkan kembali masalahnya sendiri. Seiring tumbuhnya kepercayaan, banyak dari perbaikan ini mulai digabungkan ke dalam basis kode secara otomatis. Agen juga mengurutkan seberapa kompleks PR dan seberapa yakin agen tersebut untuk menggabungkannya. Kami belum berada pada titik di mana PR ini digabungkan secara otomatis, tetapi saya melihat jalurnya ke sana, saya berasumsi kami akan mencapainya dalam satu atau dua bulan.

Tapi bukan itu yang membuat agen menjadi super cerdas. Artinya, sekarang para insinyur dan manajemen perusahaan sudah mempercayai agen tersebut, mereka mulai mendelegasikan pekerjaan kepadanya dan mengajukan pertanyaan-pertanyaan yang sangat menarik. Ia melakukan penelitian untuk mereka, tidak seperti pencarian Google tetapi dengan mempertimbangkan pengetahuan bisnis tingkat lanjut, yang memberikan keunggulan khusus. Hal yang sama berlaku untuk memberinya pengetahuan tentang lebih banyak bagian perusahaan. OpenClaw dan HermesAgent secara historis akan rusak pada titik tertentu ketika konteks historisnya melebihi kemampuan mereka untuk memproses informasi. Kerusakan seperti itu akan terjadi dan akibatnya adalah penurunan drastis dalam kecerdasan, daya ingat, dan kualitas pekerjaan mereka. Pengalaman kami dengan Hermes Agent sekarang sangat berbeda: memori percakapan kini mencapai 3 GB dan tumbuh secara eksponensial sementara kecerdasannya jelas meningkat seiring waktu.

Itu tidak berarti sempurna, ada regresi dan terkadang Anda harus mengingatkannya untuk berperilaku dengan cara tertentu atau mengidentifikasi mengapa ia tidak berperilaku seperti yang Anda harapkan dalam konteks tertentu atau merespons dengan benar agen lain yang meminta data atau tindakan darinya. Tapi, kami sedang menuju ke sana.

Efek samping tak terduga dari perlindungan cabang membawa kemajuan lain bagi kami. Ide di balik perlindungan cabang adalah bahwa setidaknya dua orang melihat PR sebelum masuk ke produksi, sehingga mengurangi kemungkinan kode buruk (atau bahkan jahat) masuk ke sistem. Ini semakin sulit dilakukan dengan benar dengan agen pengkodean baru. Ketika kecepatan meningkat, kecepatan PR baru dan jumlah kode hampir tidak mungkin untuk ditinjau secara menyeluruh dengan tangan. Kami memiliki banyak agen dari vendor berbeda yang meninjau Prs untuk mengetahui bug, masalah keamanan, dan masalah arsitektur. Namun, perlindungan cabang tetap ada, jadi saya mengizinkan agen super cerdas kami menjadi pemberi persetujuan akhir PR.

Kami setengah berharap bahwa hasilnya akan biasa-biasa saja. Bagaimanapun, PR ini lulus tinjauan agen pengkodean lokal, pengujian, tinjauan keamanan, tinjauan GitHubCopilot dan CodeRabbit eksternal dan disetujui sepenuhnya. Namun agen kami masih membuat lubang pada PR tersebut. Ia menemukan kasus-kasus edge yang sangat menarik yang kami lewatkan, keamanan, kualitas perangkat lunak, dan bug arsitektur yang tidak kami pertimbangkan. Ia menggunakan model yang sama dengan semua pengulas lainnya, mengapa ia menemukan hal-hal yang tidak dilakukan pengulas lain?

Itu tergantung pada pengetahuan dan pengalaman. Kemanfaatan Hermes Agent dikombinasikan dengan pengetahuan yang dikumpulkan oleh agen menciptakan jenis agen super cerdas baru yang belum pernah kita lihat sebelumnya. Jadi, kami mengeksplorasi hal ini lebih jauh dan mewajibkan peninjauan agen, tidak hanya bagi manusia yang bekerja pada sistem, namun kini bertindak sebagai referensi bagi agen lain yang kurang cerdas!

Agen ini sekarang memiliki kemampuan untuk memberi kita pemikiran kritis yang sebelumnya hanya kita lihat pada manusia, namun didukung oleh data pelanggan aktual, umpan balik, kode kami, dan pemahaman mendalam tentang produk.

Jika kita memperluas hal ini, dan memberikan lebih banyak data untuk digunakan, meningkatkan skala perangkat keras dan memorinya, kita akan melihat peningkatan kinerja secara eksponensial. Saya pikir para model masih menahannya. Saat kita memasuki fase selanjutnya dari game ini, mungkin melalui GPT-6, hasilnya akan jauh lebih menarik. Saat kami mengumpulkan lebih banyak data, berikan lebih banyak tugas kepada agen untuk dilakukan dan lebih memercayainya.

Apa bedanya dengan otak kedua Karpathy yang berbasis Wiki?

Apa yang membuat pendekatan ini berbeda dari pendekatan lain adalah bahwa alih-alih menangani pengetahuan bersama, pengetahuan superagen disimpan secara lokal. Kita dapat memintanya untuk menyimpan memori dan pemahaman dunianya sendiri dalam sebuah repo, yang memungkinkan kita untuk menduplikasi dan memantaunya, namun pada akhirnya bukan tentang membuat pengetahuan dan keterampilan dapat dibagikan dan kolaboratif. Ini adalah basis pengetahuan tunggal yang, bersama dengan alat dan akses dunia, memungkinkannya menjawab pertanyaan Anda secara langsung. Anda tidak meminta agen Anda untuk mencari tahu menggunakan pengetahuan bersama, baik Anda atau agen Anda menanyakan pertanyaan Anda kepada agen Superintelligent. Anehnya, hal ini berjalan baik bagi kami saat ini hingga kami terus memperluas akses dan jangkauan agen dan kami belum melihat penurunan pengetahuan atau kecerdasan sebagai dampaknya.

Catatan: kami tidak memaparkan agen pada informasi atau fungsi sensitif. Itu tidak memiliki akses langsung ke sistem perbankan, pengisian daya, atau penagihan kami. Ia juga terpisah dari dunia dan tidak memiliki akses ke email atau saluran luar. Seiring dengan bertambahnya pengalaman dan kepercayaan, saya rasa kita tidak akan jauh dari mencabut pembatasan ini.