Descripción
Inkling-Small es un modelo multimodal de propósito general diseñado para manejar entradas de texto, imagen y audio, produciendo salidas de texto. Es adecuado para su uso en inglés y otros idiomas, y soporta múltiples lenguajes de programación. Los desarrolladores pueden utilizar Inkling-Small para construir aplicaciones impulsadas por IA, como chatbots, asistentes de programación y sistemas de generación aumentada por recuperación.
Leer más
La arquitectura del modelo es un transformador de 42 capas solo de decodificación con una estructura de retroalimentación de Mixture-of-Experts dispersa. Cada token se dirige a 6 de 256 expertos, más 2 expertos compartidos activos en cada token. Presenta un mecanismo de atención híbrido que combina capas locales y globales. Inkling-Small es nativamente multimodal, codificando imágenes a través de un codificador jerárquico de parches y audio mediante codificación de tokens discretos, con todas las modalidades proyectadas en un espacio oculto compartido.
Inkling-Small soporta implementación local utilizando bibliotecas de código abierto como SGLang, vLLM, TokenSpeed, Unsloth y Huggingface. El acceso a la API está disponible a través de proveedores de inferencia de terceros. Los datos de entrenamiento del modelo incluyen diversos tipos de contenido obtenidos de repositorios disponibles públicamente, adquisiciones de terceros y generación sintética.
Se realizaron evaluaciones de seguridad para garantizar el uso responsable de Inkling-Small en entradas de texto, audio e imagen. Se aplicaron mitigaciones para reducir riesgos, y se pueden superponer herramientas de moderación alrededor del modelo para mejorar la seguridad. Las limitaciones incluyen sesgos potenciales y alucinaciones, comunes en modelos base, y un rendimiento degradado en conversaciones largas. Se alienta a los desarrolladores a aplicar supervisión humana y salvaguardias adicionales para aplicaciones de alto riesgo.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube, Autoalojado
- PlataformasWeb
Aspectos destacados de Inkling-Small
Modelo multimodal
Pesos abiertos
Acceso a API
Soporte para implementación local
Transformador de 42 capas
Mixture-of-Experts disperso
Codificador jerárquico de parches
Codificación de tokens discretos
Primeros pasos con Inkling-Small
Acceder a la página del modelo: visitar Hugging Face
Autenticarse: configurar credenciales de acceso
Configurar: ajustar la configuración del modelo
Enviar solicitudes: ingresar texto, imagen o audio
Ajustar: personalizar las salidas del modelo
Casos de uso de Inkling-Small
- Chatbots
- Asistentes de Programación
- Aplicaciones Multimodales
- Seguimiento de Instrucciones
- Investigación









