Descrição
Inkling-Small é um modelo multimodal de uso geral projetado para lidar com entradas de texto, imagem e áudio, produzindo saídas de texto. É adequado para uso em inglês e outras línguas, e suporta várias linguagens de programação. Os desenvolvedores podem utilizar o Inkling-Small para construir aplicações impulsionadas por IA, como chatbots, assistentes de programação e sistemas de geração aumentada por recuperação.
Ler mais
A arquitetura do modelo é um transformador de 42 camadas apenas de decodificação com uma estrutura de alimentação Mixture-of-Experts esparsa. Cada token é roteado para 6 de 256 especialistas, além de 2 especialistas compartilhados ativos em cada token. Ele apresenta um mecanismo de atenção híbrido que combina camadas locais e globais. Inkling-Small é nativamente multimodal, codificando imagens por meio de um codificador de patch hierárquico e áudio por meio de codificação de token discreto, com todas as modalidades projetadas em um espaço oculto compartilhado.
Inkling-Small suporta implantação local usando bibliotecas de código aberto como SGLang, vLLM, TokenSpeed, Unsloth e Huggingface. O acesso à API está disponível através de provedores de inferência de terceiros. Os dados de treinamento do modelo incluem tipos de conteúdo diversos provenientes de repositórios publicamente disponíveis, aquisições de terceiros e geração sintética.
Avaliações de segurança foram realizadas para garantir o uso responsável do Inkling-Small em entradas de texto, áudio e imagem. Mitigações foram aplicadas para reduzir riscos, e ferramentas comuns de moderação podem ser sobrepostas ao modelo para aumentar a segurança. As limitações incluem potenciais preconceitos e alucinações, comuns em modelos fundacionais, e desempenho degradado em conversas longas. Os desenvolvedores são incentivados a aplicar supervisão humana e salvaguardas adicionais para aplicações de alto risco.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem, Auto-hospedado
- PlataformasWeb
Destaques de Inkling-Small
Modelo multimodal
Pesos abertos
Acesso à API
Suporte à implantação local
Transformador de 42 camadas
Mixture-of-Experts esparsa
Codificador de patch hierárquico
Codificação de token discreto
Primeiros passos com Inkling-Small
Acesse a página do modelo: visite Hugging Face
Autentique-se: configure credenciais de acesso
Configure: ajuste as configurações do modelo
Envie prompts: insira texto, imagem ou áudio
Ajuste fino: personalize as saídas do modelo
Casos de uso de Inkling-Small
- Chatbots
- Assistentes de Programação
- Aplicações Multimodais
- Seguimento de Instruções
- Pesquisa









