Pular para o conteúdo principal
ToolPotion
Consultor de IA
Enviar

OpenVINO

OpenVINO é um kit de ferramentas de código aberto projetado para otimizar e implantar inferência de IA. Ele fornece um conjunto abrangente de ferramentas e bibliotecas para ajudar os desenvolvedores a acelerar modelos de aprendizado profundo em várias plataformas de hardware. O kit de ferramentas suporta uma ampla gama de modelos de IA e oferece recursos para otimização de modelos, quantização e execução eficiente, tornando-o adequado para diversas aplicações de IA.

Ver repositório
Compartilhar
Ver repositório
Compartilhar

OpenVINO™ é um kit de ferramentas de código aberto desenvolvido para simplificar a otimização e a implantação da inferência de IA. Ele fornece uma estrutura robusta que permite aos desenvolvedores converter, otimizar e executar modelos de aprendizado profundo de forma eficiente em uma variedade de hardware, incluindo CPUs, GPUs e outros aceleradores. O kit de ferramentas é projetado para maximizar o desempenho aplicando técnicas como quantização, compressão de modelos e otimização de gráficos, que reduzem significativamente a latência de inferência e melhoram a taxa de transferência.

Ler mais

A funcionalidade central do OpenVINO gira em torno de sua capacidade de pegar modelos pré-treinados de frameworks populares como TensorFlow, PyTorch e ONNX, e prepará-los para execução de alto desempenho. Ele inclui um Otimizador de Modelos que converte modelos em uma representação intermediária (IR), que é então otimizada para alvos de hardware específicos. O Motor de Inferência, outro componente chave, fornece uma API unificada para implantar esses modelos otimizados, garantindo desempenho consistente em diferentes dispositivos.

OpenVINO suporta um amplo espectro de aplicações de IA, desde tarefas de visão computacional, como detecção de objetos e classificação de imagens, até processamento de linguagem natural e reconhecimento de fala. Sua flexibilidade o torna uma escolha ideal para cenários de computação em borda, onde baixa latência e utilização eficiente de recursos são críticas. O kit de ferramentas também oferece um rico conjunto de exemplos e documentação para ajudar os usuários a começar rapidamente e integrar capacidades de IA em seus projetos.

Sendo um projeto de código aberto, o OpenVINO se beneficia de uma comunidade vibrante de colaboradores, garantindo desenvolvimento e melhoria contínuos. Ele inclui suporte para várias linguagens de programação, principalmente Python e C++, permitindo que os desenvolvedores escolham seu ambiente preferido. O compromisso do kit de ferramentas com padrões abertos e ampla compatibilidade de hardware o torna um ativo valioso para qualquer pessoa que deseje implantar modelos de IA em aplicações do mundo real com desempenho ideal.

  • CategoriaMLOps e implantação de modelos
  • Modelo de preçosCódigo aberto
  • ImplantaçãoNuvem, Auto-hospedado
  • PlataformasWindows, Linux, macOS

  • Kit de ferramentas de código aberto para inferência de IA

  • Otimizando modelos de aprendizado profundo

  • Implanta inferência de IA em vários hardwares

  • Suporta CPUs, GPUs e outros aceleradores

  • Inclui Otimizador de Modelos para conversão de modelos

  • Fornece Motor de Inferência para implantação de API unificada

  • Suporta modelos de TensorFlow, PyTorch, ONNX

  • Apresenta quantização e compressão de modelos

  • Oferece técnicas de otimização de gráficos

  • Reduz a latência de inferência e melhora a taxa de transferência

  • Adequado para tarefas de visão computacional

  • Aplicável ao processamento de linguagem natural

  • Suporta aplicações de reconhecimento de fala

  • Projetado para cenários de computação em borda

  • Beneficia-se de contribuições da comunidade

  1. Clonar Repositório: Use `git clone` para obter o código-fonte do OpenVINO do GitHub.

  2. Instalar Dependências: Siga as instruções no script `install_build_dependencies.sh` para configurar as bibliotecas e ferramentas necessárias.

  3. Configurar Build: Use CMake para configurar o processo de build, especificando o hardware alvo e os componentes desejados.

  4. Compilar OpenVINO: Compile o código-fonte usando seu sistema de build escolhido (por exemplo, Make, Ninja).

  5. Implantar Modelos: Converta seus modelos de IA pré-treinados usando o Otimizador de Modelos para a Representação Intermediária (IR) do OpenVINO.

  6. Executar Inferência: Utilize a API do Motor de Inferência em sua aplicação para carregar e executar modelos otimizados em seu dispositivo alvo.

  7. Otimizar Desempenho: Experimente diferentes técnicas de otimização, como quantização e fusão de modelos, para alcançar as métricas de desempenho desejadas.

  • Implantação de Visão Computacional
  • Processamento de Linguagem Natural
  • Sistemas de Reconhecimento de Fala
  • Aplicações de IA em Borda
  • Automação Industrial
  • Análise de Varejo
  • Imagens em Saúde
  • Robótica e Sistemas Autônomos

De Intel

Parte de OpenVINO Toolkit.

Avaliações de OpenVINO

Carregando...

Ferramentas de IA populares como OpenVINO

NVIDIA Model-Optimizer

Repositórios de IA no GitHub

NVIDIA Model-Optimizer é uma biblioteca unificada que oferece técnicas de ponta para otimização de modelos de aprendizado profundo. Inclui métodos como quantização, destilação,…

MLOps e implantação de modelos
Ver ferramenta

Repositórios de IA no GitHub

Biblioteca unificada que oferece técnicas de ponta para otimização de modelos de aprendizado profundo. Inclui métodos como quantização, destilação,…NVIDIA Model-Optimizer é uma biblioteca unificada que oferece técnicas de ponta para otimização de modelos de aprendizado profundo. Inclui métodos como quantização, destilação,…

MLOps e implantação de modelos
Ver o Top 250 de Repositórios de IA no GitHub

DeepInfer

Repositórios de IA no GitHub

DeepInfer é uma estrutura de inferência de alto desempenho e grande escala projetada para modelos DeepSeek. Facilita processos de inferência eficientes e escaláveis, tornando-se…

MLOps e implantação de modelos
Ver ferramenta

Repositórios de IA no GitHub

Estrutura de inferência de alto desempenho e grande escala projetada para modelos DeepSeek. Facilita processos de inferência eficientes e escaláveis, tornando-se…DeepInfer é uma estrutura de inferência de alto desempenho e grande escala projetada para modelos DeepSeek. Facilita processos de inferência eficientes e escaláveis, tornando-se…

MLOps e implantação de modelos
Ver o Top 250 de Repositórios de IA no GitHub

AirLLM

Repositórios de IA no GitHub

AirLLM é um projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…

MLOps e implantação de modelos

Nº 73 em Machine learning e ciência de dados

Ver ferramenta

Repositórios de IA no GitHub

Projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…AirLLM é um projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…

MLOps e implantação de modelos
Nº 73 em Machine learning e ciência de dados

OpenVINO Toolkit

Frameworks de IA

OpenVINO é um toolkit de código aberto para implementar soluções de IA de alto desempenho em hardware diverso. Ele permite que os desenvolvedores convertam, otimizem e executem…

Ferramentas de visão computacional
Ver ferramenta

Frameworks de IA

Toolkit de código aberto para implementar soluções de IA de alto desempenho em hardware diverso. Ele permite que os desenvolvedores convertam, otimizem e executem…OpenVINO é um toolkit de código aberto para implementar soluções de IA de alto desempenho em hardware diverso. Ele permite que os desenvolvedores convertam, otimizem e executem…

Ferramentas de visão computacional
Ver o Top 50 de Frameworks de IA

Kapitsa

Repositórios de IA no GitHub

Kapitsa é um motor de inferência otimizado projetado para Apple Silicon, compatível com as APIs da OpenAI e da Anthropic. Desenvolvido pela Nace AI, ele suporta os modelos Qwen e…

MLOps e implantação de modelos
Ver ferramenta

Repositórios de IA no GitHub

Motor de inferência otimizado projetado para Apple Silicon, compatível com as APIs da OpenAI e da Anthropic. Desenvolvido pela Nace AI, ele suporta os modelos Qwen e…Kapitsa é um motor de inferência otimizado projetado para Apple Silicon, compatível com as APIs da OpenAI e da Anthropic. Desenvolvido pela Nace AI, ele suporta os modelos Qwen e…

MLOps e implantação de modelos
Ver o Top 250 de Repositórios de IA no GitHub

Baseten

Plataformas de IA

A Plataforma de Inferência da Baseten permite que os usuários implantem e escalem modelos de IA de código aberto e personalizados de forma eficiente. Oferece inferência de alto…

MLOps e implantação de modelos

Nº 72 em Plataformas de IA

Ver ferramenta

Plataformas de IA

A Plataforma de Inferência da Baseten permite que os usuários implantem e escalem modelos de IA de código aberto e personalizados de forma eficiente. Oferece inferência de alto…

DestaqueMLOps e implantação de modelos
Nº 72 em Plataformas de IA

TorchTitan

Repositórios de IA no GitHub

TorchTitan é uma plataforma nativa do PyTorch projetada para treinar modelos de IA generativa. Ela fornece uma estrutura robusta para desenvolver e otimizar projetos de IA em…

Plataformas de machine learning
Ver ferramenta

Repositórios de IA no GitHub

Plataforma nativa do PyTorch projetada para treinar modelos de IA generativa. Ela fornece uma estrutura robusta para desenvolver e otimizar projetos de IA em…TorchTitan é uma plataforma nativa do PyTorch projetada para treinar modelos de IA generativa. Ela fornece uma estrutura robusta para desenvolver e otimizar projetos de IA em…

Plataformas de machine learning
Ver o Top 250 de Repositórios de IA no GitHub

trnrt

Repositórios de IA no GitHub

trnrt é um mecanismo de inferência LLM de código aberto projetado para AWS Trainium, oferecendo megakernels NKI e suportando um contexto de 1M tokens. Desenvolvido pela…

MLOps e implantação de modelos

Nº 160 em MLOps e implantação de modelos

Ver ferramenta

Repositórios de IA no GitHub

Mecanismo de inferência LLM de código aberto projetado para AWS Trainium, oferecendo megakernels NKI e suportando um contexto de 1M tokens. Desenvolvido pela…trnrt é um mecanismo de inferência LLM de código aberto projetado para AWS Trainium, oferecendo megakernels NKI e suportando um contexto de 1M tokens. Desenvolvido pela…

MLOps e implantação de modelos
Nº 160 em MLOps e implantação de modelos
1 de 8