Beschreibung
Agent Squad (ehemals multi-agent-orchestrator und zuvor unter AWS Labs gehostet) ist ein Open-Source-Framework zum Erstellen von Systemen, die aus mehreren spezialisierten KI-Agenten bestehen, anstatt aus einem allgemeinen Chatbot. Ein Klassifizierer liest die Anfrage des Benutzers und die Gesprächshistorie und wählt den am besten geeigneten Agenten aus, um diese Phase zu bearbeiten; ein Orchestrator sorgt dann dafür, dass der Kontext zwischen den Agenten fließt, sodass ein mehrstufiges Gespräch kohärent bleibt, auch wenn es an verschiedene Agenten weitergeleitet wird.
Weiterlesen
Das Projekt wird als drei Laufzeitumgebungen ausgeliefert, die von den Betreuern als funktionsgleich beschrieben werden: ein TypeScript-Paket (npm install agent-squad) und ein Python-Paket (pip install agent-squad, mit Erweiterungen für aws, anthropic, openai oder alle), die beide überall dort laufen, wo Node oder Python laufen, einschließlich AWS Lambda oder einem Container. Ein neuer Swift-Paket bringt dasselbe Orchestrierungsmodell auf iOS und macOS, das vollständig auf dem Gerät mit nativen und MCP (Model Context Protocol) Toolaufrufen, Echtzeit-Sprachverarbeitung, Nachverfolgung und lokalem Chat-Speicher läuft.
Out of the box enthält Agent Squad vorgefertigte Agentenwrapper für Amazon Bedrock, Anthropic, OpenAI, Amazon Lex und AWS Lambda sowie integrierte Klassifizierer, Speicher-Backends und Abrufmechanismen, mit definierten Erweiterungspunkten für benutzerdefinierte Agenten, Klassifizierer oder Speicher. Antworten können gestreamt oder vollständig zurückgegeben werden. Eine neuere Ergänzung, JevClassifier, ersetzt den standardmäßigen LLM-basierten Klassifizierer durch ein Entscheidungsmodell (Jev, von TypeSafe AI), das den gewählten Agenten plus einen kalibrierten Vertrauensscore in weniger als einer Sekunde zurückgibt, nur auf Basis der Eingabetoken abgerechnet wird und ein explizites "unbekannt"-Ergebnis für Anfragen außerhalb des Anwendungsbereichs unterstützt, anstatt eine Übereinstimmung zu erzwingen.
Das Repository wurde von awslabs/agent-squad zu 2FastLabs/agent-squad übertragen und wurde ursprünglich als multi-agent-orchestrator veröffentlicht; der Wechsel der GitHub-Organisation signalisiert einen Wechsel des Betreuers von AWS Labs zu einem unabhängigen Team, obwohl das Framework und seine APIs aus demselben Codebasis fortgeführt werden. Es ist unter der Lizenz Apache 2.0 lizenziert und hat zum Zeitpunkt des Schreibens etwa 7.700 GitHub-Sterne.
Agent Squad eignet sich für Entwickler, die Chatbots oder Assistenten erstellen, die zwischen mehreren unterschiedlichen Fähigkeiten oder Wissensbereichen (zum Beispiel ein technischer Support-Agent im Vergleich zu einem Abrechnungsagenten) wechseln müssen, anstatt sich auf einen einzigen Prompt zu verlassen, um alles zu erledigen, sowie für Teams, die dieselbe Orchestrierungslogik in einer Backend-Sprache (Python oder TypeScript) und nativ auf Apple-Geräten verfügbar haben möchten.
- KategorieKI-Agenten-Builder
- PreismodellOpen Source
- BereitstellungUniversell (Cloud, Lokal, AWS Lambda)
- PlattformenWeb, iOS, macOS
Agent Squad's Kernfunktionen
Klassifizierer-basiertes Routing jeder Anfrage an den am besten geeigneten spezialisierten Agenten
Gesprächskontext wird über Agenten und Sitzungen hinweg aufrechterhalten
Streaming- und Nicht-Streaming-Agentenantworten
Vorgefertigte Agenten für Bedrock, Anthropic, OpenAI, Amazon Lex und AWS Lambda
Erweiterbare Speicher-, Klassifizierer- und Abrufschnittstellen für benutzerdefinierte Setups
Funktionsgleiche Python- und TypeScript-Laufzeitumgebungen, die in Lambda, Containern oder lokal verwendet werden können
On-Device Swift-Laufzeit für iOS und macOS mit nativen und MCP-Toolaufrufen
Echtzeit-Sprachverarbeitung und lokal-priorisierter Chat-Speicher in der Swift-Laufzeit
JevClassifier: sub-sekündliches, kalibriertes Vertrauensrouting über ein Entscheidungsmodell anstelle eines LLM-Aufrufs
Apache 2.0 Lizenz, gepflegt bei 2FastLabs/agent-squad (ehemals AWS Labs' multi-agent-orchestrator)
Erste Schritte mit Agent Squad
Paket installieren: npm install agent-squad (TypeScript) oder pip install "agent-squad[aws]" (Python).
Orchestrator erstellen: Instanziieren Sie AgentSquad() in Ihrer App.
Agenten hinzufügen: Registrieren Sie vorgefertigte Agenten (z.B. BedrockLLMAgent) mit einem Namen und einer Beschreibung ihrer Spezialität.
Anfragen weiterleiten: Rufen Sie routeRequest()/route_request() mit der Nachricht des Benutzers, der Benutzer-ID und der Sitzungs-ID auf.
Antwort verarbeiten: Lesen Sie response.output (oder streamen Sie Teile) und response.metadata.agentName, um zu sehen, welcher Agent geantwortet hat.
JevClassifier verwenden: Übergeben Sie classifier: new JevClassifier() für schnelleres, entscheidungsmodellbasiertes Routing.
Agent Squad's Anwendungsfälle
- Multi-Skill-Chatbots
- On-Device iOS/macOS-Assistenten
- AWS-native Agenten-Backends
- Schnelles Intent-Routing
