Descrição
GLiDE, desenvolvido pela Fastino, é um modelo de decisão que processa dados de entrada na forma de texto, JSON ou imagens para fornecer resultados baseados em probabilidades para tarefas de tomada de decisão. Este modelo é particularmente útil para aplicações de classificação, roteamento e pontuação. Os usuários podem acessar o GLiDE através da API hospedada da Fastino, que requer uma chave de API para autenticação. O modelo suporta vários tipos de decisão, incluindo escolha, noul (sim/não) e pontuação, com a capacidade de lidar com até 255 opções por pergunta.
Ler mais
GLiDE é projetado para funcionar de forma eficiente com contextos longos, suportando até 40.000 tokens por prompt de pergunta. Ele opera usando uma API Python e um servidor HTTP que se comunica no formato System One. Os requisitos de hardware do modelo incluem uma GPU com pelo menos 80 GB de memória, e ele foi testado em GPUs NVIDIA RTX PRO 6000, B200 e H100.
Os pesos do modelo ocupam 52,2 GB em disco, com um uso máximo de memória GPU de 60,2 GB para uma pergunta de 39k tokens. O GLiDE é otimizado para desempenho, com recursos como atenção flash-linear para processamento mais rápido. Ele é determinístico, garantindo resultados consistentes em solicitações semelhantes.
As limitações do GLiDE incluem um máximo de 255 opções por pergunta e um limite de 40.000 tokens por prompt de pergunta. Ele não gera texto ou explicações, focando exclusivamente na tomada de decisão com base nas opções fornecidas. O modelo é licenciado sob a Licença da Comunidade Fastino, com contribuições da Qwen e outros componentes de terceiros.
- CategoriaModelos de IA e LLMs
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de GLiDE
Modelo de decisão para classificação
Suporta texto, JSON e imagens
Acesso via API da Fastino
Lida com até 255 opções por pergunta
40.000 tokens por prompt de pergunta
API Python e servidor HTTP
Resultados determinísticos
Requer GPU com 80 GB de memória
Primeiros passos com GLiDE
Acesse a página do modelo: Visite a página do GLiDE no Hugging Face
Autentique-se: Obtenha uma chave de API da Fastino
Configure: Configure a API com os parâmetros necessários
Envie prompts: Use a API para enviar solicitações de decisão
Casos de uso de GLiDE
- Tarefas de Classificação
- Decisões de Roteamento
- Aplicações de Pontuação
- Processamento Multimodal
- Suporte à Decisão Interna
