Vercel mengumumkan bahwa AI Gateway dan Vercel Sandbox kini dapat digunakan pada Hermes Agent. AI Gateway berfungsi sebagai inference layer, sedangkan Sandbox menyediakan microVM terisolasi untuk menjalankan perintah agent.
Integrasi ini menggabungkan dua kebutuhan dalam workflow AI coding: akses ke model dan tempat aman untuk menjalankan pekerjaan. Vercel menyebut AI Gateway menyediakan akses ke lebih dari 200 model, sementara penggunaan dan pengeluaran dapat terlihat pada dashboard gateway.
Dua lapisan dalam satu workflow
Inference layer menentukan bagaimana agent mendapatkan kemampuan model. Environment execution menentukan di mana perintah, file, dan proses dijalankan. Memisahkan keduanya membantu tim mengatur model dan runtime sesuai kebutuhan masing-masing.
Sandbox microVM dapat mengurangi risiko perintah agent menyentuh mesin utama. Ini berguna ketika agent perlu memasang dependency, menjalankan test, atau mengubah file dalam project sementara.
Manfaat untuk developer
Tim dapat mencoba beberapa model tanpa membangun integrasi provider satu per satu. Pada sisi runtime, agent dapat bekerja pada environment terpisah sehingga eksperimen lebih mudah dibuang atau diulang. Dashboard penggunaan juga membantu melihat pola biaya.
Namun, akses ke banyak model tidak otomatis membuat semua task cocok untuk model yang sama. Developer tetap perlu membandingkan kualitas, latency, biaya, kemampuan tool calling, dan kebutuhan privasi.
Kesimpulan
Integrasi AI Gateway dan Sandbox memperlihatkan arah workflow coding agent yang memisahkan model dari environment eksekusi. Bagi tim web, pola ini menarik untuk pengujian, prototyping, dan automation yang membutuhkan isolasi tanpa mengorbankan visibilitas penggunaan.
Sumber asli:
https://vercel.com/changelog/vercel-ai-gateway-and-vercel-sandbox-now-available-on-hermes-agent
