Описание
AI21 создает инфраструктуру для компаний, использующих ИИ-агентов в производстве, а не разрабатывает собственное приложение для конечных пользователей. Основная идея заключается в том, что большинство команд платят за гораздо большее количество токенов, чем на самом деле необходимо их агентам, и что простая замена модели не может решить эту проблему без ущерба для качества.
Читать далее
Основной продукт, AI21 Gateway, который сейчас находится на стадии бета-тестирования, представляет собой конечную точку, которая располагается между агентом и его моделями. Интеграция осуществляется с помощью одной строки кода, указывающей базовый URL API агента на шлюз, и он работает с такими инструментами, как Claude Code, Codex, LangChain или пользовательским хранилищем без дополнительных изменений в коде. Шлюз создает профиль затрат на основе трафика самого агента, затем сокращает и структурирует избыточный контекст, направляет каждое обращение к правильной модели в зависимости от сложности задачи и корректирует кэширование, оценивая всю сессию, а не оптимизируя отдельные вызовы в изоляции. AI21 сообщает о снижении затрат на 68% для автономного агента по проверке кода и рекламирует сокращение счетов за токены до 40% более широко, при этом каждая рекомендация по экономии проверяется на соответствие стандартам кодирования перед тем, как попасть в производство. AI21 Gateway бесплатен для использования в течение бета-превью; корпоративные функции, такие как доступ к совместному рабочему пространству, требуют обращения в AI21 напрямую.
Второй продукт, Post-Training, позволяет AI21 работать совместно с командой клиента для обучения специализированной модели на их данных, а затем передает рецепт обучения, чтобы команда могла проводить дальнейшие раунды самостоятельно. AI21 предлагает это как более дешевый путь, когда счета за вывод уже превышают стоимость хостинга и обучения собственной модели.
AI21 обучает языковые модели с 2021 года, когда выпустила Jurassic-1, и утверждает, что стала второй компанией в мире, выпустившей крупную языковую модель. В ее работе включены открытые модели семейства Jamba и 11 опубликованных научных статей по смешиванию данных, архитектуре и масштабированию. Руководит компанией генеральный директор Ори Гошен и председатель профессор Йоав Шохам, профессор Стэнфорда и бывший главный научный сотрудник Google.
Инструменты AI21 созданы для инженерных и ML-команд, работающих с ИИ-агентами в больших масштабах, которые хотят снизить затраты на вывод или получить модель, настроенную на их собственные данные, а не для отдельных разработчиков, создающих первый прототип.
- КатегорияПлатформы машинного обучения
- Модель ценообразованияФримиум
- РазвёртываниеОблако
- ПлатформыВеб
Основные функции AI21
AI21 Gateway: конечная точка, которая снижает затраты на токены для трафика ИИ-агентов
Интеграция в одну строку; работает с Claude Code, Codex, LangChain или пользовательским хранилищем
Создает профиль затрат для каждого агента на основе реального трафика, а не общих эвристик
Экономия с учетом траектории, которая оценивает всю сессию агента, а не отдельные вызовы в изоляции
Сжатие контекста и адаптивное кэширование для сокращения избыточных затрат на токены
Рекомендации по экономии, проверенные на соответствие стандартам кодирования перед попаданием в производство
Post-Training: обучение пользовательской модели на данных компании с последующей передачей рецепта
Внутренний стек исследований предварительного обучения, включая открытое семейство моделей Jamba
Как использовать AI21?
Подключите: укажите базовый URL API вашего агента на AI21 Gateway
Запустите трафик: позвольте шлюзу создать профиль затрат на основе реального использования вашего агента
Просмотрите: проверьте рекомендации по экономии, которые шлюз предлагает для вашего агента
Подтвердите: подтвердите, какие изменения применить перед тем, как они попадут в производство
Получите пользовательские модели: работайте с командой Post-Training AI21 для обучения специализированной модели на ваших данных
Варианты использования AI21
- Снижение затрат на агентов
- Кодирующие агенты
- Пользовательские корпоративные модели
- Многофреймворковые агенты
