Описание
Inkling-Small — это универсальная мультимодальная модель, предназначенная для обработки текстовых, изображенческих и аудиовходов, производя текстовые выходы. Она подходит для использования на английском и других языках и поддерживает несколько языков программирования. Разработчики могут использовать Inkling-Small для создания AI-приложений, таких как чат-боты, помощники по программированию и системы генерации с дополнением поиска.
Читать далее
Архитектура модели представляет собой трансформер с 42 слоями, работающий только в режиме декодера, с разреженной архитектурой Mixture-of-Experts. Каждый токен направляется к 6 из 256 экспертов, плюс 2 общих эксперта активны для каждого токена. Она включает в себя гибкий механизм внимания, объединяющий локальные и глобальные слои. Inkling-Small изначально мультимодальна, кодируя изображения с помощью иерархического кодировщика патчей и аудио с помощью дискретного кодирования токенов, при этом все модальности проецируются в общее скрытое пространство.
Inkling-Small поддерживает локальное развертывание с использованием библиотек с открытым исходным кодом, таких как SGLang, vLLM, TokenSpeed, Unsloth и Huggingface. Доступ к API возможен через сторонние провайдеры вывода. Данные для обучения модели включают разнообразные типы контента, полученные из общедоступных репозиториев, сторонних приобретений и синтетической генерации.
Оценки безопасности были проведены для обеспечения ответственного использования Inkling-Small с текстовыми, аудио- и изображенческими входами. Были применены меры по снижению рисков, и общие инструменты модерации могут быть наложены на модель для повышения безопасности. Ограничения включают потенциальные предвзятости и галлюцинации, характерные для базовых моделей, а также ухудшение производительности в длительных беседах. Разработчикам рекомендуется применять человеческий контроль и дополнительные меры безопасности для приложений с высокими ставками.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако, На своём сервере
- ПлатформыВеб
Главное о Inkling-Small
Мультимодальная модель
Открытые веса
Доступ к API
Поддержка локального развертывания
Трансформер с 42 слоями
Разреженная Mixture-of-Experts
Иерархический кодировщик патчей
Дискретное кодирование токенов
Начало работы с Inkling-Small
Доступ к странице модели: посетите Hugging Face
Аутентификация: настройте учетные данные доступа
Конфигурация: настройте параметры модели
Отправка запросов: введите текст, изображение или аудио
Тонкая настройка: настройте выходы модели
Варианты использования Inkling-Small
- Чат-боты
- Помощники по программированию
- Мультимодальные приложения
- Следование инструкциям
- Исследования









