Descripción
Flint es un sofisticado modelo de lenguaje de mezcla de expertos desarrollado por Recursive, específicamente diseñado para agentes de codificación. Con un total de 39.8 mil millones de parámetros y aproximadamente 2.5 mil millones de parámetros activos por token, Flint está diseñado para realizar una variedad de tareas, incluyendo la investigación de bases de código, la corrección de errores, la implementación de características y la escritura de pruebas. El modelo admite entrada y salida de texto, razonamiento y uso de herramientas en múltiples turnos, lo que lo convierte en una herramienta versátil para los desarrolladores.
Leer más
En términos de rendimiento, Flint obtiene un 54.9% en Terminal-Bench 2.1, un 89.7% en SWE-bench Pro v2 y un 74.2% en SWE-bench Verified. Estas puntuaciones reflejan su capacidad para manejar tareas de codificación complejas. El modelo se basa en una arquitectura de Transformer de mezcla de expertos solo de decodificador, con 49 capas, 35 capas de ventana deslizante y 14 capas de atención completa. Utiliza una ventana deslizante de 513 tokens y emplea 32 cabezas de consulta y 4 cabezas de clave/valor para la atención.
Flint está disponible como un modelo de código abierto bajo la licencia Apache 2.0, con un punto de control BF16, configuración del modelo, tokenizador, plantilla de chat y un kit de servicio SGLang incluidos en el repositorio. Variantes cuantizadas están disponibles para entornos NVIDIA y Apple Silicon. El entrenamiento del modelo involucró preentrenamiento, entrenamiento intermedio, ajuste fino supervisado y aprendizaje por refuerzo, abarcando texto y código, seguimiento de instrucciones y tareas agenciales.
A pesar de sus capacidades, Flint tiene limitaciones. Puede producir contenido incorrecto o dañino, código defectuoso o llamadas a herramientas inapropiadas. Se aconseja a los usuarios que prueben el código generado y revisen los cambios antes de la implementación. El rendimiento del modelo puede variar según la precisión del punto de control y el tiempo de ejecución de inferencia, y las tareas de razonamiento prolongadas pueden aumentar la latencia. Para soporte, los usuarios pueden contactar a Recursive con detalles específicos sobre su configuración.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de Flint
Modelo de lenguaje de mezcla de expertos
39.8 mil millones de parámetros en total
2.5 mil millones de parámetros activos por token
Admite entrada y salida de texto
Razonamiento y uso de herramientas en múltiples turnos
Código abierto bajo la licencia Apache 2.0
Variantes cuantizadas para NVIDIA y Apple Silicon
Ajuste fino supervisado y aprendizaje por refuerzo
Primeros pasos con Flint
Acceder a la página del modelo: Visita el repositorio de Flint en Hugging Face
Autenticarse: Asegúrate de tener las credenciales necesarias
Configurar: Configura el modelo utilizando los archivos de configuración proporcionados
Enviar indicaciones: Usa la plantilla de chat para interactuar con el modelo
Ajustar: Ajusta la configuración del modelo para tareas específicas
Casos de uso de Flint
- Investigación de Bases de Código
- Corrección de Errores
- Implementación de Características
- Escritura de Pruebas
- Uso de Herramientas en Múltiples Turnos
