Descrição
A Instrução de Pré-visualização Solar Pro é um modelo de linguagem de grande porte (LLM) de ponta desenvolvido para se encaixar em uma única GPU com 22 bilhões de parâmetros. Este modelo demonstra desempenho excepcional, superando modelos com menos de 30 bilhões de parâmetros e competindo com aqueles mais de três vezes seu tamanho, como o Llama 3.1 com 70 bilhões de parâmetros. O modelo é construído usando uma versão aprimorada do método de escalonamento de profundidade, escalonando um modelo Phi-3-médio de 14 bilhões para 22 bilhões de parâmetros, otimizado para uma GPU com 80GB de VRAM.
Ler mais
A estratégia de treinamento e o conjunto de dados para a Pré-visualização Solar Pro foram meticulosamente elaborados, resultando em melhorias significativas de desempenho em relação ao modelo Phi-3-médio, especialmente em benchmarks como MMLU-Pro e IFEval, que avaliam o conhecimento e as capacidades de seguir instruções de um modelo. Embora esta seja uma versão pré-lançamento, já se destaca por sua eficiência e capacidade, com planos para o lançamento oficial do Solar Pro em novembro de 2024, que incluirá suporte expandido a idiomas e janelas de contexto mais longas.
A Pré-visualização Solar Pro é especificamente projetada para tarefas de seguimento de instruções e engajamentos conversacionais, utilizando o modelo ChatML para desempenho ideal. Este modelo está disponível como uma API no Console Upstage, oferecendo vários métodos para integração. Apesar de suas limitações atuais em cobertura de idiomas e comprimento de contexto, a Pré-visualização Solar Pro está pronta para um desenvolvimento e aprimoramento adicionais.
- CategoriaModelos de IA e LLMs
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de Instrução de Pré-visualização Solar Pro
22 bilhões de parâmetros
Compatibilidade com uma única GPU
Desempenho superior a modelos com menos de 30B de parâmetros
Comparável a modelos com mais de 70B de parâmetros
Método de escalonamento de profundidade aprimorado
Otimizado para 80GB de VRAM
Ajustado para tarefas conversacionais
Disponível como API no Console Upstage
Primeiros passos com Instrução de Pré-visualização Solar Pro
Acessar página: Visite a página do modelo Hugging Face
Carregar modelo: Use o código de inferência fornecido
Configurar ambiente: Configure a GPU com 80GB de VRAM
Integrar: Use a API no Console Upstage
Ajustar: Aplique o modelo ChatML para tarefas
Casos de uso de Instrução de Pré-visualização Solar Pro
- IA Conversacional
- Seguimento de Instruções
- Teste de Benchmark
- Integração de API
- Pesquisa em Modelos de Linguagem
