Descrição
North Mini Code é um modelo sofisticado desenvolvido pela Cohere e Cohere Labs, otimizado para geração de código, engenharia de software agentiva e tarefas de terminal. Ele apresenta um modelo de 30 bilhões de parâmetros com 3 bilhões de parâmetros ativos, tornando-o altamente eficiente para tarefas de codificação complexas. O modelo suporta um comprimento de contexto de 256K e um comprimento máximo de saída de 64K, proporcionando ampla capacidade para projetos de codificação extensos.
Ler mais
A arquitetura do modelo é baseada em um Transformer apenas de decodificação com um design de Mistura de Especialistas esparsa. Incorpora um mecanismo de atenção eficiente, intercalando atenção de janela deslizante com RoPE e atenção global sem embeddings posicionais. Este design é complementado por um bloco de feed-forward com 128 especialistas, dos quais 8 são ativados por token, garantindo um processamento preciso e eficaz.
North Mini Code foi pós-treinado usando um fine-tuning supervisionado em duas etapas em cascata, seguido por aprendizado por reforço com recompensas verificáveis, focando na codificação agentiva. Essa abordagem de treinamento aprimora sua capacidade de lidar com tarefas de codificação complexas e capacidades de uso de ferramentas. O modelo é de código aberto, licenciado sob a Apache 2.0, e disponível para uso através da plataforma Hugging Face.
Os usuários podem experimentar o North Mini Code no OpenCode e no Hugging Face Space hospedado, permitindo uma experiência prática antes de baixar os pesos do modelo. O desempenho do modelo foi avaliado usando várias metodologias, incluindo SWE-Bench e Terminal-Bench, demonstrando sua proficiência em tarefas de codificação agentiva.
North Mini Code é ideal para desenvolvedores e engenheiros que buscam um modelo robusto para geração de código e tarefas de engenharia de software. Suas capacidades de uso de ferramentas são suportadas por meio de templates de chat em Transformers, permitindo uma integração perfeita em fluxos de trabalho existentes.
- CategoriaAssistentes de programação com IA
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de North Mini Code
Modelo de 30B-A3B parâmetros
Otimizado para geração de código
Suporta engenharia de software agentiva
Arquitetura de Mistura de Especialistas esparsa
Implementação de atenção eficiente
Comprimento de contexto de 256K
Comprimento máximo de saída de 64K
Código aberto sob Apache 2.0
Primeiros passos com North Mini Code
Acesse a página do modelo: Visite Hugging Face
Autentique-se: Faça login na sua conta
Configure: Defina os parâmetros de amostragem
Envie prompts: Use o pipeline de transformers
Ajuste fino: Aplique o ajuste fino supervisionado
Casos de uso de North Mini Code
- Geração de Código
- Engenharia de Software
- Tarefas de Terminal
- Integração de Ferramentas
- Teste de Benchmark
