Descrição
d1-2B é um modelo de decisão altamente eficiente desenvolvido pela LiquidAI, disponível no Hugging Face. Construído sobre a arquitetura LFM3-VL-2B, este modelo é projetado para processar e tomar decisões com base em entradas multimodais, incluindo texto, imagens e vídeo. Uma característica chave do d1-2B é sua capacidade de retornar respostas calibradas em uma única passagem para frente, eliminando a necessidade de geração de tokens, o que contribui para sua velocidade e eficiência.
Ler mais
O modelo demonstra desempenho de classe mundial entre os modelos d1 abertos, liderando em média em mais de cem benchmarks de decisão. Apesar de ser menor que o d1-3B, muitas vezes supera este, mostrando seu design otimizado. Além das tarefas tradicionais de classificação, o d1-2B oferece capacidades avançadas, como a extração de texto específico, números e datas com seus intervalos, localização precisa de objetos dentro de imagens e estimativa de quantidades com intervalos definidos.
O desempenho é uma vantagem significativa, com o d1-2B alcançando tempos de decisão de 5,7 milissegundos em um NVIDIA H100 e 3,8 milissegundos em um AMD MI325X. Este processamento rápido é mantido mesmo com múltiplas perguntas sobre um único estado em uma única chamada. A família LFM3, que inclui o d1-2B, apresenta modelos base, de texto, visão, áudio, omni e de decisão. Enquanto o d1-2B lida com texto, imagens e vídeo, seu irmão d1-Omni-2B estende as capacidades para incluir áudio.
Com 1,92 bilhões de parâmetros e uma arquitetura de backbone LFM3 composta por 24 camadas (13 convoluções curtas com portão, 5 atenções de janela deslizante, 6 atenções globais), o d1-2B suporta um comprimento de contexto de 128K tokens e um vocabulário de 128.000 tokens. Ele aceita entradas como um estado (texto ou JSON), imagens ou vídeo, juntamente com qualquer número de perguntas nomeadas, produzindo respostas tipadas com probabilidades sem gerar tokens. Suporta uma ampla gama de idiomas, incluindo inglês, árabe, chinês, francês, alemão, italiano, japonês, coreano, português, espanhol, vietnamita, tailandês, indonésio, hindi, russo e polonês.
o d1-2B é versátil, adequado para várias etapas de pipeline que requerem decisões, como roteamento e triagem, moderação de conteúdo, classificação de intenção e tópico, extração de dados de documentos, julgamento e reclassificação, e inspeção visual. É explicitamente notado como não sendo um modelo de chat. Embora seja eficaz para perguntas com alto conteúdo de conhecimento, a confiabilidade pode diminuir além de 64K tokens de estado. As estimativas são confiáveis para contagens e pontuações, mas menos para quantidades livres. O modelo roda em Transformers com seu próprio código, não exigindo parâmetros de amostragem.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de d1-2B
Modelo de Decisão Multimodal (Texto, Imagens, Vídeo)
2 Bilhões de Parâmetros
Passagem Única para Respostas Calibradas
Sem Geração de Tokens
Desempenho em Benchmarks de Decisão de Classe Mundial
Extração de Texto, Números e Datas
Localização de Objetos em Imagens
Estimativa de Quantidade com Intervalos
Velocidade de Decisão em Milissegundos (ex: 3,8 ms no AMD MI325X)
Arquitetura de Backbone LFM3
Comprimento de Contexto de 128K Tokens
Vocabulário de 128.000 Tokens
Suporte Multilíngue (15+ idiomas)
Projetado para Roteamento, Triagem, Moderação, Extração
Roda em Transformers com Código de Modelo Personalizado
Primeiros passos com d1-2B
Acesse a Página do Modelo: Navegue até a página do modelo LiquidAI/d1-2B no Hugging Face.
Explore os Arquivos: Revise os detalhes do modelo, arquitetura e especificações fornecidas.
Configure a Inferência: Utilize a biblioteca Transformers para configurar o modelo para inferência.
Prepare as Entradas: Forneça um estado (texto ou JSON), imagens ou vídeo, juntamente com perguntas nomeadas.
Execute as Chamadas: Use `system_one` para solicitações únicas ou `system_one_batch` para solicitações em lote.
Interprete a Saída: Receba respostas tipadas com probabilidades, sem tokens gerados.
Casos de uso de d1-2B
- Roteamento e Triagem
- Moderação e Guardrails
- Classificação de Intenção
- Classificação de Tópicos
- Extração de Documentos
- Julgamento e Reclassificação
- Inspeção Visual
- Tomada de Decisão Multimodal
