メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

OpenVINO

OpenVINOは、AI推論の最適化と展開のために設計されたオープンソースツールキットです。さまざまなハードウェアプラットフォームでディープラーニングモデルを加速するための包括的なツールとライブラリのセットを提供します。このツールキットは、幅広いAIモデルをサポートし、モデルの最適化、量子化、効率的な実行のための機能を提供し、多様なAIアプリケーションに適しています。

リポジトリを見る
共有
リポジトリを見る
共有

OpenVINO™は、AI推論の最適化と展開を効率化するために開発されたオープンソースツールキットです。これは、開発者がCPU、GPU、その他のアクセラレーターを含むさまざまなハードウェア上でディープラーニングモデルを効率的に変換、最適化、実行できる堅牢なフレームワークを提供します。このツールキットは、量子化、モデル圧縮、グラフ最適化などの技術を適用することでパフォーマンスを最大化するように設計されており、推論のレイテンシを大幅に削減し、スループットを向上させます。

続きを読む

OpenVINOのコア機能は、TensorFlow、PyTorch、ONNXなどの人気のあるフレームワークからの事前学習済みモデルを取得し、高性能な実行のために準備する能力にあります。モデルを中間表現(IR)に変換するモデルオプティマイザーが含まれており、これは特定のハードウェアターゲット用に最適化されます。もう一つの重要なコンポーネントである推論エンジンは、これらの最適化されたモデルを展開するための統一APIを提供し、異なるデバイス間で一貫したパフォーマンスを確保します。

OpenVINOは、物体検出や画像分類などのコンピュータビジョンタスクから、自然言語処理や音声認識に至るまで、幅広いAIアプリケーションをサポートしています。その柔軟性により、低レイテンシと効率的なリソース利用が重要なエッジコンピューティングシナリオに最適な選択肢となります。このツールキットは、ユーザーが迅速に始められるようにするための豊富なサンプルとドキュメントも提供し、AI機能をプロジェクトに統合する手助けをします。

オープンソースプロジェクトであるOpenVINOは、活気ある貢献者コミュニティの恩恵を受けており、継続的な開発と改善が保証されています。主にPythonとC++のさまざまなプログラミング言語をサポートしており、開発者は好みの環境を選択できます。このツールキットのオープンスタンダードと広範なハードウェア互換性へのコミットメントは、最適なパフォーマンスで実世界のアプリケーションにAIモデルを展開しようとするすべての人にとって貴重な資産となります。

  • カテゴリーMLOps・モデルデプロイ
  • 料金モデルオープンソース
  • デプロイクラウド, セルフホスト
  • プラットフォームWindows, Linux, macOS

  • AI推論のためのオープンソースツールキット

  • ディープラーニングモデルの最適化

  • さまざまなハードウェア上でのAI推論の展開

  • CPU、GPU、その他のアクセラレーターをサポート

  • モデル変換のためのモデルオプティマイザーを含む

  • 統一API展開のための推論エンジンを提供

  • TensorFlow、PyTorch、ONNXからのモデルをサポート

  • 量子化とモデル圧縮の機能

  • グラフ最適化技術を提供

  • 推論のレイテンシを削減し、スループットを向上

  • コンピュータビジョンタスクに適している

  • 自然言語処理に適用可能

  • 音声認識アプリケーションをサポート

  • エッジコンピューティングシナリオ向けに設計

  • コミュニティの貢献から恩恵を受ける

  1. リポジトリをクローン: `git clone`を使用してGitHubからOpenVINOのソースコードを取得します。

  2. 依存関係をインストール: `install_build_dependencies.sh`スクリプトの指示に従って、必要なライブラリとツールをセットアップします。

  3. ビルドを構成: CMakeを使用してビルドプロセスを構成し、ターゲットハードウェアと必要なコンポーネントを指定します。

  4. OpenVINOをビルド: 選択したビルドシステム(例: Make、Ninja)を使用してソースコードをコンパイルします。

  5. モデルを展開: 事前学習済みのAIモデルをモデルオプティマイザーを使用してOpenVINOの中間表現(IR)に変換します。

  6. 推論を実行: アプリケーション内で推論エンジンAPIを利用して、ターゲットデバイス上で最適化されたモデルをロードして実行します。

  7. パフォーマンスを最適化: 量子化やモデル融合などのさまざまな最適化技術を試して、望ましいパフォーマンスメトリクスを達成します。

  • コンピュータビジョンの展開
  • 自然言語処理
  • 音声認識システム
  • エッジAIアプリケーション
  • 産業オートメーション
  • 小売分析
  • 医療画像処理
  • ロボティクスと自律システム

Intel の製品

OpenVINO Toolkit の一部です。

OpenVINO のレビュー

読み込み中...

OpenVINO に似た人気のAIツール

NVIDIA Model-Optimizer

AI GitHub リポジトリ

NVIDIA Model-Optimizerは、深層学習モデルを最適化するための最先端技術を提供する統一ライブラリです。量子化、蒸留、プルーニング、ニューラルアーキテクチャサーチなどの手法を含み、モデルを圧縮します。このライブラリは、TensorRT-LLM、TensorRT、vLLMなどのデプロイメントフレームワークの推論速度を向上させるように設計されてお…

MLOps・モデルデプロイ
ツールを見る

AI GitHub リポジトリ

深層学習モデルを最適化するための最先端技術を提供する統一ライブラリです。量子化、蒸留、プルーニング、ニューラルアーキテクチャサーチなどの手法を含み、モデルを圧縮します。このライブラリは、TensorRT-LLM、TensorRT、vLLMなどのデプロイメントフレームワークの推論速度を向上させるように設計されてお…NVIDIA Model-Optimizerは、深層学習モデルを最適化するための最先端技術を提供する統一ライブラリです。量子化、蒸留、プルーニング、ニューラルアーキテクチャサーチなどの手法を含み、モデルを圧縮します。このライブラリは、TensorRT-LLM、TensorRT、vLLMなどのデプロイメントフレームワークの推論速度を向上させるように設計されてお…

MLOps・モデルデプロイ
AI GitHub リポジトリ トップ250を見る

DeepInfer

AI GitHub リポジトリ

DeepInferは、DeepSeekモデル向けに設計された高性能で大規模な推論フレームワークです。効率的でスケーラブルな推論プロセスを実現し、堅牢なモデルのデプロイと実行を必要とする深層学習プロジェクトに取り組む開発者に最適です。

MLOps・モデルデプロイ
ツールを見る

AI GitHub リポジトリ

DeepSeekモデル向けに設計された高性能で大規模な推論フレームワークです。効率的でスケーラブルな推論プロセスを実現し、堅牢なモデルのデプロイと実行を必要とする深層学習プロジェクトに取り組む開発者に最適です。DeepInferは、DeepSeekモデル向けに設計された高性能で大規模な推論フレームワークです。効率的でスケーラブルな推論プロセスを実現し、堅牢なモデルのデプロイと実行を必要とする深層学習プロジェクトに取り組む開発者に最適です。

MLOps・モデルデプロイ
AI GitHub リポジトリ トップ250を見る

AirLLM

AI GitHub リポジトリ

AirLLMは、1つの4GB GPUを使用して70億パラメータの推論を可能にするGitHubプロジェクトです。限られたハードウェア上で大規模言語モデルのパフォーマンスを最適化するように設計されており、高度なAI機能をよりアクセスしやすくします。

MLOps・モデルデプロイ

機械学習とデータサイエンスで第73位

ツールを見る

AI GitHub リポジトリ

1つの4GB GPUを使用して70億パラメータの推論を可能にするGitHubプロジェクトです。限られたハードウェア上で大規模言語モデルのパフォーマンスを最適化するように設計されており、高度なAI機能をよりアクセスしやすくします。AirLLMは、1つの4GB GPUを使用して70億パラメータの推論を可能にするGitHubプロジェクトです。限られたハードウェア上で大規模言語モデルのパフォーマンスを最適化するように設計されており、高度なAI機能をよりアクセスしやすくします。

MLOps・モデルデプロイ
機械学習とデータサイエンスで第73位

OpenVINO Toolkit

AI フレームワーク

OpenVINOは、多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。

コンピュータービジョンツール
ツールを見る

AI フレームワーク

多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。OpenVINOは、多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。

コンピュータービジョンツール
AI フレームワーク トップ50を見る

Kapitsa

AI GitHub リポジトリ

Kapitsaは、Apple Silicon向けに最適化された推論エンジンで、OpenAIおよびAnthropic APIと互換性があります。Nace AIによって開発され、QwenおよびNemotronモデルをサポートし、AI推論タスクのための高性能ソリューションを提供します。

MLOps・モデルデプロイ
ツールを見る

AI GitHub リポジトリ

Apple Silicon向けに最適化された推論エンジンで、OpenAIおよびAnthropic APIと互換性があります。Nace AIによって開発され、QwenおよびNemotronモデルをサポートし、AI推論タスクのための高性能ソリューションを提供します。Kapitsaは、Apple Silicon向けに最適化された推論エンジンで、OpenAIおよびAnthropic APIと互換性があります。Nace AIによって開発され、QwenおよびNemotronモデルをサポートし、AI推論タスクのための高性能ソリューションを提供します。

MLOps・モデルデプロイ
AI GitHub リポジトリ トップ250を見る

Baseten

AI プラットフォーム

Basetenの推論プラットフォームは、ユーザーがオープンソースおよびカスタムAIモデルを効率的にデプロイおよびスケールできるようにします。専用のインフラストラクチャ、高性能なAPI、シームレスな開発者ワークフローを提供し、迅速なデプロイと信頼性の高いパフォーマンスを確保します。

MLOps・モデルデプロイ

AI プラットフォームで第72位

ツールを見る

AI プラットフォーム

Basetenの推論プラットフォームは、ユーザーがオープンソースおよびカスタムAIモデルを効率的にデプロイおよびスケールできるようにします。専用のインフラストラクチャ、高性能なAPI、シームレスな開発者ワークフローを提供し、迅速なデプロイと信頼性の高いパフォーマンスを確保します。

注目MLOps・モデルデプロイ
AI プラットフォームで第72位

TorchTitan

AI GitHub リポジトリ

TorchTitanは、生成AIモデルのトレーニングのために設計されたPyTorchネイティブプラットフォームです。大規模なAIプロジェクトの開発と最適化のための堅牢なフレームワークを提供し、PyTorchの機能を活用します。このプラットフォームは、アクティベーションオフロード、分散トレーニング、包括的なテストなど、モデルトレーニングのさまざまな側面をサポー…

機械学習プラットフォーム
ツールを見る

AI GitHub リポジトリ

生成AIモデルのトレーニングのために設計されたPyTorchネイティブプラットフォームです。大規模なAIプロジェクトの開発と最適化のための堅牢なフレームワークを提供し、PyTorchの機能を活用します。このプラットフォームは、アクティベーションオフロード、分散トレーニング、包括的なテストなど、モデルトレーニングのさまざまな側面をサポー…TorchTitanは、生成AIモデルのトレーニングのために設計されたPyTorchネイティブプラットフォームです。大規模なAIプロジェクトの開発と最適化のための堅牢なフレームワークを提供し、PyTorchの機能を活用します。このプラットフォームは、アクティベーションオフロード、分散トレーニング、包括的なテストなど、モデルトレーニングのさまざまな側面をサポー…

機械学習プラットフォーム
AI GitHub リポジトリ トップ250を見る

trnrt

AI GitHub リポジトリ

trnrtは、AWS Trainium向けに設計されたオープンソースのLLM推論エンジンで、NKIメガカーネルを提供し、1Mトークンのコンテキストをサポートします。RunAnywhereによって開発され、OpenAI互換のAPIを提供し、特化したAWSハードウェア上で効率的かつスケーラブルな大規模言語モデルの展開を可能にします。このプロジェクトは、開発者や組…

MLOps・モデルデプロイ

MLOps・モデルデプロイで第160位

ツールを見る

AI GitHub リポジトリ

AWS Trainium向けに設計されたオープンソースのLLM推論エンジンで、NKIメガカーネルを提供し、1Mトークンのコンテキストをサポートします。RunAnywhereによって開発され、OpenAI互換のAPIを提供し、特化したAWSハードウェア上で効率的かつスケーラブルな大規模言語モデルの展開を可能にします。このプロジェクトは、開発者や組…trnrtは、AWS Trainium向けに設計されたオープンソースのLLM推論エンジンで、NKIメガカーネルを提供し、1Mトークンのコンテキストをサポートします。RunAnywhereによって開発され、OpenAI互換のAPIを提供し、特化したAWSハードウェア上で効率的かつスケーラブルな大規模言語モデルの展開を可能にします。このプロジェクトは、開発者や組…

MLOps・モデルデプロイ
MLOps・モデルデプロイで第160位
1 / 8