Saltar al contenido principal
ToolPotion
Asesor de IA
Enviar

OpenVINO

OpenVINO es un kit de herramientas de código abierto diseñado para optimizar y desplegar inferencias de IA. Proporciona un conjunto completo de herramientas y bibliotecas para ayudar a los desarrolladores a acelerar modelos de aprendizaje profundo en diversas plataformas de hardware. El kit de herramientas admite una amplia gama de modelos de IA y ofrece características para la optimización de modelos, cuantización y ejecución eficiente, lo que lo hace adecuado para diversas aplicaciones de IA.

Ver repositorio
Compartir
Ver repositorio
Compartir

OpenVINO™ es un kit de herramientas de código abierto desarrollado para simplificar la optimización y el despliegue de inferencias de IA. Proporciona un marco robusto que permite a los desarrolladores convertir, optimizar y ejecutar modelos de aprendizaje profundo de manera eficiente en una variedad de hardware, incluidos CPUs, GPUs y otros aceleradores. El kit de herramientas está diseñado para maximizar el rendimiento aplicando técnicas como la cuantización, la compresión de modelos y la optimización de gráficos, que reducen significativamente la latencia de inferencia y mejoran el rendimiento.

Leer más

La funcionalidad central de OpenVINO gira en torno a su capacidad para tomar modelos preentrenados de marcos populares como TensorFlow, PyTorch y ONNX, y prepararlos para una ejecución de alto rendimiento. Incluye un Optimizador de Modelos que convierte modelos en una representación intermedia (IR), que luego se optimiza para objetivos de hardware específicos. El Motor de Inferencia, otro componente clave, proporciona una API unificada para desplegar estos modelos optimizados, asegurando un rendimiento consistente en diferentes dispositivos.

OpenVINO admite un amplio espectro de aplicaciones de IA, desde tareas de visión por computadora como detección de objetos y clasificación de imágenes hasta procesamiento de lenguaje natural y reconocimiento de voz. Su flexibilidad lo convierte en una opción ideal para escenarios de computación en el borde donde la baja latencia y la utilización eficiente de recursos son críticas. El kit de herramientas también ofrece un rico conjunto de ejemplos y documentación para ayudar a los usuarios a comenzar rápidamente e integrar capacidades de IA en sus proyectos.

Al ser un proyecto de código abierto, OpenVINO se beneficia de una comunidad vibrante de colaboradores, asegurando un desarrollo y mejora continuos. Incluye soporte para varios lenguajes de programación, principalmente Python y C++, lo que permite a los desarrolladores elegir su entorno preferido. El compromiso del kit de herramientas con estándares abiertos y amplia compatibilidad de hardware lo convierte en un activo valioso para cualquiera que busque desplegar modelos de IA en aplicaciones del mundo real con un rendimiento óptimo.

  • CategoríaMLOps y despliegue de modelos
  • Modelo de preciosCódigo abierto
  • ImplementaciónNube, Autoalojado
  • PlataformasWindows, Linux, macOS

  • Kit de herramientas de código abierto para inferencias de IA

  • Optimiza modelos de aprendizaje profundo

  • Despliega inferencias de IA en diversas plataformas de hardware

  • Admite CPUs, GPUs y otros aceleradores

  • Incluye Optimizador de Modelos para conversión de modelos

  • Proporciona Motor de Inferencia para despliegue de API unificada

  • Admite modelos de TensorFlow, PyTorch, ONNX

  • Incluye cuantización y compresión de modelos

  • Ofrece técnicas de optimización de gráficos

  • Reduce la latencia de inferencia y mejora el rendimiento

  • Adecuado para tareas de visión por computadora

  • Aplicable al procesamiento de lenguaje natural

  • Admite aplicaciones de reconocimiento de voz

  • Diseñado para escenarios de computación en el borde

  • Se beneficia de contribuciones de la comunidad

  1. Clonar Repositorio: Usa `git clone` para obtener el código fuente de OpenVINO desde GitHub.

  2. Instalar Dependencias: Sigue las instrucciones en el script `install_build_dependencies.sh` para configurar las bibliotecas y herramientas necesarias.

  3. Configurar Construcción: Usa CMake para configurar el proceso de construcción, especificando el hardware objetivo y los componentes deseados.

  4. Construir OpenVINO: Compila el código fuente utilizando tu sistema de construcción elegido (por ejemplo, Make, Ninja).

  5. Desplegar Modelos: Convierte tus modelos de IA preentrenados utilizando el Optimizador de Modelos a la Representación Intermedia (IR) de OpenVINO.

  6. Ejecutar Inferencia: Utiliza la API del Motor de Inferencia en tu aplicación para cargar y ejecutar modelos optimizados en tu dispositivo objetivo.

  7. Optimizar Rendimiento: Experimenta con diferentes técnicas de optimización como cuantización y fusión de modelos para lograr los métricas de rendimiento deseadas.

  • Despliegue de Visión por Computadora
  • Procesamiento de Lenguaje Natural
  • Sistemas de Reconocimiento de Voz
  • Aplicaciones de IA en el Borde
  • Automatización Industrial
  • Análisis de Retail
  • Imágenes Médicas en Salud
  • Robótica y Sistemas Autónomos

De Intel

Parte de OpenVINO Toolkit.

Reseñas de OpenVINO

Cargando...

Herramientas de IA populares como OpenVINO

NVIDIA Model-Optimizer

Repositorios de IA en GitHub

NVIDIA Model-Optimizer es una biblioteca unificada que ofrece técnicas de vanguardia para optimizar modelos de aprendizaje profundo. Incluye métodos como cuantización,…

MLOps y despliegue de modelos
Ver herramienta

Repositorios de IA en GitHub

Biblioteca unificada que ofrece técnicas de vanguardia para optimizar modelos de aprendizaje profundo. Incluye métodos como cuantización,…NVIDIA Model-Optimizer es una biblioteca unificada que ofrece técnicas de vanguardia para optimizar modelos de aprendizaje profundo. Incluye métodos como cuantización,…

MLOps y despliegue de modelos
Ver el Top 250 de Repositorios de IA en GitHub

DeepInfer

Repositorios de IA en GitHub

DeepInfer es un marco de inferencia de alto rendimiento y gran escala diseñado para modelos DeepSeek. Facilita procesos de inferencia eficientes y escalables, lo que lo hace ideal…

MLOps y despliegue de modelos
Ver herramienta

Repositorios de IA en GitHub

Marco de inferencia de alto rendimiento y gran escala diseñado para modelos DeepSeek. Facilita procesos de inferencia eficientes y escalables, lo que lo hace ideal…DeepInfer es un marco de inferencia de alto rendimiento y gran escala diseñado para modelos DeepSeek. Facilita procesos de inferencia eficientes y escalables, lo que lo hace ideal…

MLOps y despliegue de modelos
Ver el Top 250 de Repositorios de IA en GitHub

AirLLM

Repositorios de IA en GitHub

AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

MLOps y despliegue de modelos

N.º 73 en Aprendizaje automático y ciencia de datos

Ver herramienta

Repositorios de IA en GitHub

Proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

MLOps y despliegue de modelos
N.º 73 en Aprendizaje automático y ciencia de datos

OpenVINO Toolkit

Frameworks de IA

OpenVINO es un kit de herramientas de código abierto para implementar soluciones de IA de alto rendimiento en diversos hardware. Permite a los desarrolladores convertir, optimizar…

Herramientas de visión artificial
Ver herramienta

Frameworks de IA

Kit de herramientas de código abierto para implementar soluciones de IA de alto rendimiento en diversos hardware. Permite a los desarrolladores convertir, optimizar…OpenVINO es un kit de herramientas de código abierto para implementar soluciones de IA de alto rendimiento en diversos hardware. Permite a los desarrolladores convertir, optimizar…

Herramientas de visión artificial
Ver el Top 50 de Frameworks de IA

Kapitsa

Repositorios de IA en GitHub

Kapitsa es un motor de inferencia optimizado diseñado para Apple Silicon, compatible con las API de OpenAI y Anthropic. Desarrollado por Nace AI, soporta los modelos Qwen y…

MLOps y despliegue de modelos
Ver herramienta

Repositorios de IA en GitHub

Motor de inferencia optimizado diseñado para Apple Silicon, compatible con las API de OpenAI y Anthropic. Desarrollado por Nace AI, soporta los modelos Qwen y…Kapitsa es un motor de inferencia optimizado diseñado para Apple Silicon, compatible con las API de OpenAI y Anthropic. Desarrollado por Nace AI, soporta los modelos Qwen y…

MLOps y despliegue de modelos
Ver el Top 250 de Repositorios de IA en GitHub

Baseten

Plataformas de IA

La Plataforma de Inferencia de Baseten permite a los usuarios desplegar y escalar modelos de IA de código abierto y personalizados de manera eficiente. Ofrece inferencia de alto…

MLOps y despliegue de modelos

N.º 72 en Plataformas de IA

Ver herramienta

Plataformas de IA

La Plataforma de Inferencia de Baseten permite a los usuarios desplegar y escalar modelos de IA de código abierto y personalizados de manera eficiente. Ofrece inferencia de alto…

DestacadaMLOps y despliegue de modelos
N.º 72 en Plataformas de IA

TorchTitan

Repositorios de IA en GitHub

TorchTitan es una plataforma nativa de PyTorch diseñada para entrenar modelos de IA generativa. Proporciona un marco robusto para desarrollar y optimizar proyectos de IA a gran…

Plataformas de aprendizaje automático
Ver herramienta

Repositorios de IA en GitHub

Plataforma nativa de PyTorch diseñada para entrenar modelos de IA generativa. Proporciona un marco robusto para desarrollar y optimizar proyectos de IA a gran…TorchTitan es una plataforma nativa de PyTorch diseñada para entrenar modelos de IA generativa. Proporciona un marco robusto para desarrollar y optimizar proyectos de IA a gran…

Plataformas de aprendizaje automático
Ver el Top 250 de Repositorios de IA en GitHub

trnrt

Repositorios de IA en GitHub

trnrt es un motor de inferencia LLM de código abierto diseñado para AWS Trainium, que ofrece megakernels NKI y soporta un contexto de 1M tokens. Desarrollado por RunAnywhere,…

MLOps y despliegue de modelos

N.º 160 en MLOps y despliegue de modelos

Ver herramienta

Repositorios de IA en GitHub

Motor de inferencia LLM de código abierto diseñado para AWS Trainium, que ofrece megakernels NKI y soporta un contexto de 1M tokens. Desarrollado por RunAnywhere,…trnrt es un motor de inferencia LLM de código abierto diseñado para AWS Trainium, que ofrece megakernels NKI y soporta un contexto de 1M tokens. Desarrollado por RunAnywhere,…

MLOps y despliegue de modelos
N.º 160 en MLOps y despliegue de modelos
1 de 8