Deskripsi
Agent Squad (sebelumnya multi-agent-orchestrator, dan sebelumnya dihosting di AWS Labs) adalah kerangka kerja sumber terbuka untuk membangun sistem yang terdiri dari beberapa agen AI khusus alih-alih satu chatbot umum. Sebuah pengklasifikasi membaca kueri pengguna dan riwayat percakapan dan memilih agen yang paling sesuai untuk menangani giliran tersebut; seorang pengorkestra kemudian menjaga konteks tetap mengalir di antara agen sehingga percakapan multi-giliran tetap koheren meskipun diarahkan ke agen yang berbeda.
Baca Selengkapnya
Proyek ini tersedia dalam tiga runtime yang dijelaskan oleh pemelihara sebagai memiliki paritas fitur: paket TypeScript (npm install agent-squad) dan paket Python (pip install agent-squad, dengan tambahan untuk aws, anthropic, openai atau semua), yang keduanya dapat dijalankan di mana saja Node atau Python berjalan, termasuk AWS Lambda atau kontainer. Paket Swift yang lebih baru membawa model pengorkestrasian yang sama ke iOS dan macOS, berjalan sepenuhnya di perangkat dengan pemanggilan alat native dan MCP (Model Context Protocol), suara waktu nyata, pelacakan, dan penyimpanan obrolan lokal-pertama.
Secara default, Agent Squad mencakup pembungkus agen yang sudah dibangun untuk Amazon Bedrock, Anthropic, OpenAI, Amazon Lex, dan AWS Lambda, ditambah pengklasifikasi bawaan, backend penyimpanan, dan pengambil, dengan titik ekstensi yang ditentukan untuk agen, pengklasifikasi, atau penyimpanan kustom. Respons dapat dialirkan atau dikembalikan secara penuh. Penambahan yang lebih baru, JevClassifier, menggantikan pengklasifikasi berbasis LLM default dengan model keputusan (Jev, dari TypeSafe AI) yang mengembalikan agen pemenang ditambah skor kepercayaan yang dikalibrasi dalam waktu kurang dari satu detik, ditagih hanya berdasarkan token input, dan mendukung hasil "tidak diketahui" yang eksplisit untuk permintaan di luar cakupan alih-alih memaksa pencocokan.
Repositori ini dipindahkan dari awslabs/agent-squad ke 2FastLabs/agent-squad dan awalnya dirilis sebagai multi-agent-orchestrator; perubahan organisasi GitHub menandakan perubahan pemelihara dari AWS Labs ke tim independen, meskipun kerangka kerja dan API-nya terus berasal dari basis kode yang sama. Ini dilisensikan di bawah Apache 2.0 dan memiliki sekitar 7.700 bintang GitHub pada saat penulisan.
Agent Squad cocok untuk pengembang yang membangun chatbot atau asisten yang perlu beralih antara beberapa keterampilan atau domain pengetahuan yang berbeda (misalnya agen dukungan teknis versus agen penagihan) alih-alih mengandalkan satu prompt untuk melakukan semuanya, dan tim yang menginginkan logika pengorkestrasian yang sama tersedia dalam bahasa backend (Python atau TypeScript) dan secara native di perangkat Apple.
- KategoriPembuat Agen AI
- Model HargaOpen source
- PenerapanUniversal (Cloud, Local, AWS Lambda)
- PlatformWeb, iOS, macOS
Fitur Inti Agent Squad
Pengarahan berbasis pengklasifikasi untuk setiap kueri ke agen khusus yang paling sesuai
Konteks percakapan dipertahankan di antara agen dan sesi
Respons agen yang dialirkan dan tidak dialirkan
Agen yang sudah dibangun untuk Bedrock, Anthropic, OpenAI, Amazon Lex, dan AWS Lambda
Antarmuka penyimpanan, pengklasifikasi, dan pengambil yang dapat diperluas untuk pengaturan kustom
Runtime Python dan TypeScript dengan paritas fitur, dapat digunakan di Lambda, kontainer, atau secara lokal
Runtime Swift di perangkat untuk iOS dan macOS dengan pemanggilan alat native dan MCP
Suara waktu nyata dan penyimpanan obrolan lokal-pertama di runtime Swift
JevClassifier: pengarahan kepercayaan yang dikalibrasi dalam sub-detik melalui model keputusan alih-alih pemanggilan LLM
Lisensi Apache 2.0, dipelihara di 2FastLabs/agent-squad (sebelumnya multi-agent-orchestrator AWS Labs)
Memulai dengan Agent Squad
Instal paket: npm install agent-squad (TypeScript) atau pip install "agent-squad[aws]" (Python).
Buat pengorkestra: Instansiasi AgentSquad() di aplikasi Anda.
Tambahkan agen: Daftarkan agen yang sudah dibangun (misalnya BedrockLLMAgent) dengan nama dan deskripsi spesialisasi mereka.
Arahkan permintaan: Panggil routeRequest()/route_request() dengan pesan pengguna, ID pengguna, dan ID sesi.
Tangani respons: Baca response.output (atau alirkan potongan) dan response.metadata.agentName untuk melihat agen mana yang menjawab.
Ganti dengan JevClassifier: Lewati classifier: new JevClassifier() untuk pengarahan berbasis model keputusan yang lebih cepat.
Kasus Penggunaan Agent Squad
- Chatbot multi-keterampilan
- Asisten iOS/macOS di perangkat
- Backend agen asli AWS
- Pengarahan niat cepat
