Описание
GLiDE, разработанная Fastino, — это модель принятия решений, которая обрабатывает входные данные в виде текста, JSON или изображений, чтобы предоставить результаты на основе вероятностей для задач принятия решений. Эта модель особенно полезна для приложений классификации, маршрутизации и оценки. Пользователи могут получить доступ к GLiDE через хостинг API Fastino, который требует API-ключ для аутентификации. Модель поддерживает различные типы решений, включая выбор, noul (да/нет) и оценку, с возможностью обработки до 255 вариантов на вопрос.
Читать далее
GLiDE разработана для эффективной работы с длинными контекстами, поддерживая до 40 000 токенов на запрос вопроса. Она работает с использованием Python API и HTTP-сервера, который общается в формате System One. Аппаратные требования модели включают GPU с как минимум 80 ГБ памяти, и она была протестирована на GPU NVIDIA RTX PRO 6000, B200 и H100.
Вес модели занимает 52,2 ГБ на диске, с пиковым использованием памяти GPU 60,2 ГБ для вопроса на 39k токенов. GLiDE оптимизирована для производительности, с такими функциями, как flash-linear-attention для более быстрого обработки. Она детерминирована, что обеспечивает последовательные результаты для схожих запросов.
Ограничения GLiDE включают максимум 255 вариантов на вопрос и лимит в 40 000 токенов на запрос вопроса. Она не генерирует текст или объяснения, сосредоточившись исключительно на принятии решений на основе предоставленных вариантов. Модель лицензирована по лицензии Fastino Community License, с вкладом от Qwen и других сторонних компонентов.
- КатегорияИИ-модели и LLM
- РазвёртываниеОблако
- ПлатформыВеб
Главное о GLiDE
Модель принятия решений для классификации
Поддерживает текст, JSON и изображения
Доступ через API Fastino
Обрабатывает до 255 вариантов на вопрос
40 000 токенов на запрос вопроса
Python API и HTTP-сервер
Детерминированные результаты
Требуется GPU с 80 ГБ памяти
Начало работы с GLiDE
Доступ к странице модели: посетите страницу GLiDE на Hugging Face
Аутентификация: получите API-ключ от Fastino
Настройка: настройте API с необходимыми параметрами
Отправка запросов: используйте API для отправки запросов на принятие решений
Варианты использования GLiDE
- Задачи классификации
- Маршрутизация решений
- Оценочные приложения
- Мультимодальная обработка
- Внутренняя поддержка принятия решений
