LiteRT

TensorFlow

AI フレームワーク

誰でも利用できるエンドツーエンドのオープンソース機械学習プラットフォームです。機械学習モデルを簡単に作成し、展開するための柔軟なツール、ライブラリ、コミュニティリソースのエコシステムを提供します。TensorFlowは、誰でも利用できるエンドツーエンドのオープンソース機械学習プラットフォームです。機械学習モデルを簡単に作成し、展開するための柔軟なツール、ライブラリ、コミュニティリソースのエコシステムを提供します。

ZETIC Melange

AI アプリ

#138

あらゆるデバイス上のあらゆるモデルに対して、オンデバイスAIのデプロイを自動化します。元Qualcommエンジニアが開発し、NPUアクセラレーションを最適化し、200以上のデバイスでベンチマークを行い、わずか3行のコードで数時間でのデプロイを可能にし、コストとレイテンシを削減します。ZETIC Melangeは、あらゆるデバイス上のあらゆるモデルに対して、オンデバイスAIのデプロイを自動化します。元Qualcommエンジニアが開発し、NPUアクセラレーションを最適化し、200以上のデバイスでベンチマークを行い、わずか3行のコードで数時間でのデプロイを可能にし、コストとレイテンシを削減します。

TensorFlow Extended (TFX)

AI フレームワーク

Google の本番環境スケールの機械学習プラットフォームです。ML システムの定義、起動、監視のための共通コンポーネントを統合するための設定フレームワークと共有ライブラリを提供します。TFX を使用すると、本番環境で ML…TensorFlow Extended (TFX) は、Google の本番環境スケールの機械学習プラットフォームです。ML システムの定義、起動、監視のための共通コンポーネントを統合するための設定フレームワークと共有ライブラリを提供します。TFX を使用すると、本番環境で ML…

Dynamo-Triton オープンソースソフトウェア

AI フレームワーク

NVIDIA Dynamo-Tritonは、TensorRT、PyTorch、ONNXなどのさまざまなフレームワークでAIモデルのデプロイを可能にします。リアルタイム、バッチ処理、ストリーミングワークロードをサポートし、多様なAIアプリケーションに適しています。

BigDL LLM

AI フレームワーク

BigDL-LLMは、ラップトップからクラウドGPUまで、Intel XPUハードウェア上で大規模言語モデル（LLM）を実行するためのオープンソースライブラリです。低遅延推論のためのINT4/FP4/INT8/FP8量子化をサポートし、PyTorchモデル向けの包括的なファインチューニング機能を提供します。

開発者が200以上の最適化されたLLMおよびマルチモーダルモデルをデプロイ、ファインチューニング、実行できるAIインフラストラクチャプラットフォームで、OpenAI互換のAPIを通じて従量課金制で提供されます。

DeepDetect

AI フレームワーク

ディープラーニングモデルのデプロイと管理に特化したAIフレームワークです。機械学習モデルのサービングプロセスを簡素化し、開発者が効率的にAI機能をアプリケーションに統合できるようにします。このプラットフォームは、リアルタイム推論とモデル監視のための堅牢なバックエンドを提供することに重点を置いています。DeepDetectは、ディープラーニングモデルのデプロイと管理に特化したAIフレームワークです。機械学習モデルのサービングプロセスを簡素化し、開発者が効率的にAI機能をアプリケーションに統合できるようにします。このプラットフォームは、リアルタイム推論とモデル監視のための堅牢なバックエンドを提供することに重点を置いています。

OpenVINO Toolkit

AI フレームワーク

多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。OpenVINOは、多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。