Descripción
North Mini Code es un modelo sofisticado desarrollado por Cohere y Cohere Labs, optimizado para la generación de código, la ingeniería de software agentiva y tareas terminales. Presenta un modelo de 30 mil millones de parámetros con 3 mil millones de parámetros activos, lo que lo hace altamente eficiente para tareas de codificación complejas.
Leer más
La arquitectura del modelo se basa en un Transformer solo de decodificador con un diseño de Mixture-of-Experts disperso. Incorpora un mecanismo de atención eficiente, intercalando atención de ventana deslizante con RoPE y atención global sin incrustaciones posicionales. Este diseño se complementa con un bloque de avance con 128 expertos, de los cuales 8 se activan por token, asegurando un procesamiento preciso y efectivo.
North Mini Code ha sido post-entrenado utilizando un ajuste fino supervisado en cascada de dos etapas seguido de aprendizaje por refuerzo con recompensas verificables, enfocándose en la codificación agentiva. Este enfoque de entrenamiento mejora su capacidad para manejar tareas de codificación complejas y capacidades de uso de herramientas. El modelo es de código abierto, licenciado bajo Apache 2.0, y está disponible para su uso a través de la plataforma de Hugging Face.
Los usuarios pueden probar North Mini Code en OpenCode y en el espacio alojado de Hugging Face, lo que permite una experiencia práctica antes de descargar los pesos del modelo. El rendimiento del modelo ha sido evaluado utilizando diversas metodologías, incluyendo SWE-Bench y Terminal-Bench, demostrando su competencia en tareas de codificación agentiva.
North Mini Code es ideal para desarrolladores e ingenieros que buscan un modelo robusto para la generación de código y tareas de ingeniería de software. Sus capacidades de uso de herramientas están respaldadas a través de plantillas de chat en Transformers, lo que permite una integración fluida en flujos de trabajo existentes.
- CategoríaAsistentes de programación con IA
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de North Mini Code
Modelo de 30B-A3B parámetros
Optimizado para la generación de código
Admite ingeniería de software agentiva
Arquitectura de Mixture-of-Experts dispersa
Implementación de atención eficiente
Longitud de contexto de 256K
Longitud máxima de salida de 64K
Código abierto bajo Apache 2.0
Primeros pasos con North Mini Code
Acceder a la página del modelo: Visitar Hugging Face
Autenticarse: Iniciar sesión en su cuenta
Configurar: Establecer parámetros de muestreo
Enviar indicaciones: Usar la tubería de transformers
Ajustar: Aplicar ajuste fino supervisado
Casos de uso de North Mini Code
- Generación de Código
- Ingeniería de Software
- Tareas Terminales
- Integración de Herramientas
- Pruebas de Benchmark
