説明
Superlinkedは、AIエージェントに小規模でタスク特化型のモデルを提供するために設計されたオープンソース推論サーバーであるSuperlinked Inference Engine（SIE）を提供します。このプラットフォームは、ユーザーが測定結果に基づいてオープンモデルを主要なAPIと比較できるようにし、SIE Serverless（ホスティングされたAPI）を使用する柔軟性や、自社のクラウドインフラ内でモデルを実行することを可能にします。
続きを読む
SIEは、ユーザーのネットワーク内で推論を保持するように構築されており、データプライバシーとセキュリティに関する懸念に対処しています。文書関連のタスクにおいては、フロンティアAPIと比較して、文書をJSONに変換したりPDFページを検索したりする作業が3倍から15倍速く、88%安価であると主張しています。このエンジンは、検索やRAG、文書処理、テキストおよびLLMアプリケーション、画像および音声理解、安全性およびコンプライアンスを含む幅広いAIエージェントタスクをサポートします。
2021年に設立されたSuperlinkedは、サンフランシスコに拠点を置くAI推論会社です。SIEはApache 2.0ライセンスの下でリリースされており、チームは単一のマシン（SIE Local）でエンジンをセルフホストしたり、AWS、GCP、Azure、またはAlibaba Cloudアカウント内のKubernetesクラスター（SIE Cluster）にデプロイしたりできます。追加のサポートが必要な場合、Native InferenceはSIE ClusterとSuperlinkedのエンジニアリング専門知識を組み合わせます。
Superlinkedは、埋め込み、再ランキング、抽出、OCR、音声、物体検出、生成のための142のモデルの包括的なカタログを提供することで差別化されています。これらはすべて単一のAPIを通じてアクセス可能です。このマルチモデルアプローチにより、複数のモデルがGPUを共有し、リソースの最適化と速度の維持が可能になります。特に、顧客のインフラ内でAIを展開するSaaSおよび企業ソフトウェア会社にとって有益です。
統合はシームレスで、LangChain、LlamaIndex、Haystack、Qdrant、Weaviate、Chroma、LanceDB、DSPy、CrewAIなどの人気AIフレームワークおよびベクターデータベース用のフレームワークアダプターが用意されています。また、完全な機能アクセスのためのネイティブSDKと、既存の埋め込みやチャットコードの簡単な移行のためのOpenAI互換性も提供しています。Superlinkedは、SIE Serverlessの使用ベースの価格モデルを提供し、新しいアカウントには$20の無料クレジットが付与されます。一方、オープンソースエンジンは無料で使用できます。
- カテゴリーMLOps・モデルデプロイ
- 料金モデルフリーミアム
- デプロイクラウド、セルフホスト
Superlinkedの主要機能
Apache 2.0ライセンスのオープンソース推論エンジン（SIE）
管理された推論のためのホスティングAPI（SIE Serverless）
セルフホスティングオプション：SIE Local（単一マシン）およびSIE Cluster（Kubernetes）
Superlinkedエンジニアリングサポートによるネイティブ推論
多様なAIエージェントタスクのための142モデルのカタログ
埋め込み、再ランキング、抽出、OCR、音声、物体検出、生成をサポート
最適化されたパフォーマンスのためのマルチモデルGPU共有
主要APIと比較して高速な推論とコスト効率
データプライバシーのために自社ネットワーク内で推論を保持
人気のAIフレームワークおよびベクターデータベースとの統合
簡単な移行のためのOpenAI互換性
検索、文書処理、抽出、安全性、画像/音声、チャット/生成の6つの分野で25のエージェントタスクをサポート
AWS、GCP、Azure、Alibaba Cloud、またはエアギャップネットワークへのデプロイ
無料クレジット付きのServerlessの使用ベースの価格設定
GitHubの問題を通じたコミュニティサポート
セキュリティコンプライアンスのためのSOC2 Type 2レポートが利用可能
Superlinkedの使い方は？
サインアップ：Superlinkedコンソールでアカウントを作成し、SIE Serverlessにアクセスして$20の無料クレジットを受け取ります。
デプロイメントの選択：ホスティングされたAPIのためのSIE Serverlessまたは自社クラウドでのSIE Local/Clusterをセルフホストするかを選択します。
モデルの統合：Superlinked APIを直接呼び出すか、LangChain、LlamaIndex、その他のツール用のフレームワークアダプターを使用します。
モデルの選択：モデルカタログを閲覧して、さまざまなAIエージェントの仕事のための142のタスク特化型モデルから選択します。
本番環境へのデプロイ：主要なクラウドプロバイダーでのKubernetesデプロイメントのためにHelmチャートとTerraformモジュールを利用します。
パフォーマンスの監視：公共ベンチマークでモデルの結果を比較し、コスト最適化のためにServerlessの価格を追跡します。
Superlinkedの使用例
- 強化された検索とRAG
- 文書処理
- データ抽出と分類
- セキュリティとコンプライアンス
- 画像と音声の理解
- チャットとテキスト生成
- PIIのマスキング
- 知識グラフの構築
