LM-Kit.NET

Cada uno de estos pilares está diseñado para funcionar sin problemas en el entorno de ejecución principal. El paquete NuGet LM-Kit.NET incluye todo el sistema de inferencia, con LLMs de pesos abiertos, modelos de visión y lenguaje, modelos de incrustación, reconocimiento de voz en el dispositivo, OCR y clasificadores. Estos componentes se aceleran en varios tipos de hardware, incluyendo CPU, AVX2, CUDA 12/13, Vulkan y Metal, garantizando una ejecución local eficiente. Este enfoque garantiza una latencia predecible, soberanía total de los datos e independencia tecnológica, ya que no se realizan llamadas a la nube.

El pilar de Agentes de IA soporta patrones avanzados de orquestación como planificación ReAct, supervisores y orquestadores paralelos/de pipeline, junto con memoria persistente y herramientas personalizadas. La Inteligencia Documental ofrece un robusto análisis de PDF e imágenes, OCR en el dispositivo que alcanza puntuaciones de referencia de vanguardia, y extracción de campos estructurados utilizando generación con restricciones gramaticales. Las capacidades de Visión y Multimodal incluyen comprensión de imágenes, clasificación, etiquetado, chat multimodal y VLM-OCR, ofreciendo la misma interfaz conversacional que los LLMs.

Para RAG y Conocimiento, LM-Kit.NET incluye un almacén vectorial integrado con conectores para Qdrant y pgvector, soportando recuperación híbrida y citas de origen. El Análisis de Texto proporciona clasificadores y extractores integrados para sentimiento, reconocimiento de entidades nombradas (NER), detección de PII y detección de idioma, emitiendo objetos C# tipados. El pilar de Voz y Audio presenta una pila de reconocimiento de voz local en crecimiento con supresión de alucinaciones, detección de actividad de voz, traducción en tiempo real y salida en streaming para más de 100 idiomas.

La Generación de Texto abarca primitivas de conversación de un solo turno, multi-turno y sin estado, incluyendo traducción, reescritura, resumen, plantillas de prompts y salidas con restricciones gramaticales. La base de LM-Kit.NET es su motor de inferencia adaptable, que presenta salida restringida mediante gramática dinámica para el análisis garantizado de formas de JSON, esquemas y llamadas a herramientas, guía adaptable para reducir alucinaciones, y arquitectura agnóstica al modelo para una fácil integración de nuevos modelos de pesos abiertos.

LM-Kit.NET ofrece ventajas significativas sobre las API en la nube, incluyendo la ausencia de facturación por token, que los datos no salgan de la red, latencia predecible y el aprovechamiento de la infraestructura de cómputo existente. También contrasta con los servicios de Python al evitar sidecars y shims HTTP, integrándose directamente en el proceso .NET. En comparación con otras pilas locales de .NET, LM-Kit.NET proporciona el entorno de ejecución completo, no solo la inferencia, abarcando agentes, RAG, OCR, voz, visión y clasificadores.

LM-Kit.NET es compatible con .NET Standard 2.0 y .NET 8/9/10, ejecutándose en Windows, Linux (x64 y ARM64) y macOS. Ofrece una licencia comunitaria gratuita para aplicaciones no comerciales y evaluación, con una opción profesional de precio personalizado para redistribución comercial. Hay puentes disponibles para Microsoft.Extensions.AI y Semantic Kernel, lo que permite una integración fluida con los ecosistemas de IA .NET existentes.