Описание
Agent Squad (ранее multi-agent-orchestrator, и ранее размещенный в AWS Labs) — это фреймворк с открытым исходным кодом для создания систем, состоящих из нескольких специализированных ИИ-агентов, а не одного универсального чат-бота. Классификатор анализирует запрос пользователя и историю разговора и выбирает наиболее подходящего агента для обработки этого обращения; затем оркестратор поддерживает поток контекста между агентами, чтобы многоповоротный разговор оставался последовательным, даже когда он направляется к различным агентам.
Читать далее
Проект поставляется в виде трех сред выполнения, которые поддерживающие описывают как имеющие равные функции: пакет TypeScript (npm install agent-squad) и пакет Python (pip install agent-squad, с дополнительными параметрами для aws, anthropic, openai или всех), которые могут работать везде, где работают Node или Python, включая AWS Lambda или контейнер. Новый пакет Swift приносит ту же модель оркестрации на iOS и macOS, работая полностью на устройстве с вызовом инструментов на нативном уровне и MCP (Model Context Protocol), поддержкой голосовой связи в реальном времени, трассировкой и локальным хранением чата.
Из коробки Agent Squad включает предустановленные обертки агентов для Amazon Bedrock, Anthropic, OpenAI, Amazon Lex и AWS Lambda, а также встроенные классификаторы, хранилища и извлекатели, с определенными точками расширения для пользовательских агентов, классификаторов или хранилищ. Ответы могут быть потоковыми или возвращаться полностью. Новое дополнение, JevClassifier, заменяет стандартный классификатор на основе LLM на модель принятия решений (Jev от TypeSafe AI), которая возвращает выигравшего агента плюс откалиброванный коэффициент уверенности менее чем за секунду, оплачиваемый только за входные токены, и поддерживает явный результат "неизвестно" для запросов вне области применения, вместо того чтобы заставлять делать совпадение.
Репозиторий был перенесен с awslabs/agent-squad на 2FastLabs/agent-squad и изначально был выпущен как multi-agent-orchestrator; изменение организации GitHub сигнализирует о смене поддерживающей команды с AWS Labs на независимую команду, хотя фреймворк и его API продолжают использовать ту же кодовую базу. Он лицензирован по Apache 2.0 и на момент написания имеет около 7,700 звезд на GitHub.
Agent Squad подходит разработчикам, создающим чат-ботов или помощников, которым необходимо передавать управление между несколькими различными навыками или областями знаний (например, агент технической поддержки против агента по выставлению счетов), а также командам, которые хотят, чтобы та же логика оркестрации была доступна на языке бэкенда (Python или TypeScript) и нативно на устройствах Apple.
- КатегорияКонструкторы AI-агентов
- Модель ценообразованияОткрытый код
- РазвёртываниеУниверсальный (Облако, Локально, AWS Lambda)
- ПлатформыВеб, iOS, macOS
Основные функции Agent Squad
Маршрутизация каждого запроса на основе классификатора к наиболее подходящему специализированному агенту
Поддержание контекста разговора между агентами и сессиями
Потоковые и непотоковые ответы агентов
Предустановленные агенты для Bedrock, Anthropic, OpenAI, Amazon Lex и AWS Lambda
Расширяемые интерфейсы для хранения, классификаторов и извлекателей для пользовательских настроек
Равные функции для сред выполнения Python и TypeScript, используемых в Lambda, контейнерах или локально
Среда выполнения Swift на устройстве для iOS и macOS с вызовом инструментов на нативном уровне и MCP
Голосовая связь в реальном времени и локальное хранение чата в среде выполнения Swift
JevClassifier: маршрутизация с откалиброванной уверенностью менее секунды через модель принятия решений вместо вызова LLM
Лицензия Apache 2.0, поддерживаемая на 2FastLabs/agent-squad (ранее multi-agent-orchestrator от AWS Labs)
Начало работы с Agent Squad
Установите пакет: npm install agent-squad (TypeScript) или pip install "agent-squad[aws]" (Python).
Создайте оркестратор: создайте экземпляр AgentSquad() в вашем приложении.
Добавьте агентов: зарегистрируйте предустановленных агентов (например, BedrockLLMAgent) с именем и описанием их специализации.
Маршрут запросов: вызовите routeRequest()/route_request() с сообщением пользователя, идентификатором пользователя и идентификатором сессии.
Обработайте ответ: прочитайте response.output (или потоковые части) и response.metadata.agentName, чтобы увидеть, какой агент ответил.
Замените на JevClassifier: передайте classifier: new JevClassifier() для более быстрой маршрутизации на основе модели принятия решений.
Варианты использования Agent Squad
- Многофункциональные чат-боты
- Ассистенты на устройствах iOS/macOS
- Агенты бэкенда, нативные для AWS
- Быстрая маршрутизация намерений
