メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

Sarvam-Prism

AI モデルAIモデルとLLMフリーミアム · Web

Sarvam-Prismは、テキスト分類のために設計されたSarvam-105Bに基づく意思決定モデルです。コンテキストと複数の質問を受け取り、それぞれに事前定義された回答があり、単一のパスで各オプションの確率を返します。このモデルはテキストを生成せず、常に提供された選択肢から回答を選択するため、構造化された意思決定タスクに最適です。

モデルを見る
共有
モデルを見る
共有

Sarvam-Prismは、Sarvamによって開発された専門的な意思決定モデルで、強力なSarvam-105Bバックボーンを活用しています。その主な機能はテキスト分類であり、与えられたコンテキストと1つ以上の質問を処理し、それぞれに固定された可能な回答のセットが付随します。生成AIモデルとは異なり、Sarvam-Prismは新しいテキストを作成せず、代わりに各事前定義された回答オプションに確率を割り当て、出力が常に提供された選択肢の1つであることを保証します。

続きを読む

このモデルは、オープンエンドのテキスト生成ではなく、正確で制約のある意思決定を必要とするアプリケーションに特に適しています。各質問を状態、指示、およびすべてのオプションを含むシーケンスに変換し、回答マーカーを続けて処理します。小さな意思決定ヘッドが各オプションの最後と回答マーカーで隠れ状態を読み取り、各オプションの確率を生成します。モデルのアーキテクチャには、効率的な推論のための特定のアテンションマスク調整とFP8カーネルが含まれています。

Sarvam-Prismはダウンロード可能で、Hugging Face上で実行でき、特定のハードウェア要件にはFP8サポートを持つNVIDIA GPUと約120 GBの空きメモリ(例:B200またはH200)が含まれます。また、Python 3.10以上とCコンパイラも必要です。必要なハードウェアがない場合、SarvamからホスティングされたAPIとしても提供されており、ローカルのGPUリソースが不要です。

モデルのパフォーマンスは速度に最適化されており、NVIDIA B200上でのリクエストあたりの中央値は44 msであり、公共のDecision Indexベンチマークで測定されています。さまざまなリクエスト形式(「choice」、「yes_no」、「score」タイプ)をサポートし、柔軟な質問設計を可能にします。リクエスト内のすべての質問はバッチで一緒にスコアリングされ、各質問は独立してスコアリングされます。コンテキストの制限は、各質問あたり131,072トークンに設定されており、広範な入力に対応しています。

重みはカスタムFP8レイアウトで保存されており、一般的な推論サーバーやAutoModelForCausalLMのような標準モデルとは互換性がありません。モデルの推論コードは、入力エンコーディング、アテンションマスク、意思決定ヘッド、およびFP8カーネルを含む`prism.py`ファイル内に提供されています。Sarvam-PrismはApache 2.0ライセンスの下でリリースされており、幅広いアプリケーションにアクセス可能です。

  • カテゴリーAIモデルとLLM
  • 料金モデルフリーミアム
  • デプロイクラウド, セルフホスト
  • プラットフォームWeb

  • テキスト分類意思決定モデル

  • Sarvam-105Bバックボーンに基づく

  • 事前定義された回答の確率を返す

  • テキストを生成せず、選択肢からのみ選択する

  • Hugging Faceでダウンロード可能

  • SarvamからホスティングされたAPI(GPU不要)

  • FP8サポートを持つNVIDIA GPUが必要(例:B200/H200)

  • Python 3.10以上とCコンパイラが必要

  • リクエストあたりの中央値44 msで速度に最適化

  • 「choice」、「yes_no」、「score」質問タイプをサポート

  • 質問をバッチで処理

  • 各質問あたり131,072トークンのコンテキスト制限

  • 重みはカスタムFP8レイアウトで保存

  • 推論コードは`prism.py`に提供

  • Apache 2.0ライセンスの下でライセンス

  1. モデルとコードのダウンロード: Sarvam-Prismモデルと関連コードをHugging Faceリポジトリから取得します。

  2. 依存関係のインストール: 必要なPython 3.10以上の環境を設定し、すべての必要な依存関係をインストールします。

  3. ハードウェアの準備: FP8サポートを持つNVIDIA GPUと少なくとも120 GBの空きメモリ(B200またはH200など)を確保します。

  4. モデルのロード: `Prism.from_pretrained("sarvamai/prism")`を使用するか、指示に従って`prism.py`でモデルをロードします。

  5. リクエストのフォーマット: `state`(コンテキスト)と`questions`(質問名と質問オブジェクトのマップ)を指定し、`type`、`instructions`、および`criteria`を構成します。

  6. 推論の実行: フォーマットされたリクエストを使用してモデルを実行し、各回答オプションの確率を受け取ります。

  7. APIへのアクセス(オプション): ローカルのGPUリソースが利用できない場合は、SarvamからホスティングされたAPIを利用し、APIドキュメントに従います。

  • 構造化意思決定
  • テキスト分類
  • 調査分析
  • 質問応答
  • 感情スコアリング
  • コンプライアンスチェック
  • コンテンツモデレーション

Sarvam AI の製品

Sarvam-Prism のレビュー

読み込み中...

Sarvam-Prism に似た人気のAIツール

GLiDE 27Bは、Fastinoによって開発された270億パラメータの意思決定モデルです。テキスト、JSON、およびオプションの画像を含む状態を処理し、各オプションの確率を伴って入力された質問に回答します。このモデルは、分類、ルーティング、スコアリングタスクに最適であり、さまざまな意思決定アプリケーションに対して正確で非生成的な確率出力を提供します。

AIモデルとLLM
ツールを見る

Fastinoによって開発された270億パラメータの意思決定モデルです。テキスト、JSON、およびオプションの画像を含む状態を処理し、各オプションの確率を伴って入力された質問に回答します。このモデルは、分類、ルーティング、スコアリングタスクに最適であり、さまざまな意思決定アプリケーションに対して正確で非生成的な確率出力を提供します。GLiDE 27Bは、Fastinoによって開発された270億パラメータの意思決定モデルです。テキスト、JSON、およびオプションの画像を含む状態を処理し、各オプションの確率を伴って入力された質問に回答します。このモデルは、分類、ルーティング、スコアリングタスクに最適であり、さまざまな意思決定アプリケーションに対して正確で非生成的な確率出力を提供します。

AIモデルとLLM
LLM トップ50を見る

d3-ultra

AI モデル

d3-ultraは、vLLM Semantic Routerからの27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して、確率を用いて質問に回答します。複雑な意思決定タスクに最適で、1つの質問につき最大131,072トークンをサポートし、テスト用の無料APIを提供します。

AIモデルとLLM
ツールを見る

AI モデル

vLLM Semantic Routerからの27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して、確率を用いて質問に回答します。複雑な意思決定タスクに最適で、1つの質問につき最大131,072トークンをサポートし、テスト用の無料APIを提供します。d3-ultraは、vLLM Semantic Routerからの27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して、確率を用いて質問に回答します。複雑な意思決定タスクに最適で、1つの質問につき最大131,072トークンをサポートし、テスト用の無料APIを提供します。

AIモデルとLLM
AI モデル トップ5を見る

XLM-RoBERTa Base

AI モデル

XLM-RoBERTaは、100の言語にわたる2.5TBのデータで事前学習された多言語モデルです。シーケンス分類やトークン分類などのタスクに優れており、さまざまな自然言語処理アプリケーションにとって貴重なツールです。

AIモデルとLLM
ツールを見る

AI モデル

100の言語にわたる2.5TBのデータで事前学習された多言語モデルです。シーケンス分類やトークン分類などのタスクに優れており、さまざまな自然言語処理アプリケーションにとって貴重なツールです。XLM-RoBERTaは、100の言語にわたる2.5TBのデータで事前学習された多言語モデルです。シーケンス分類やトークン分類などのタスクに優れており、さまざまな自然言語処理アプリケーションにとって貴重なツールです。

注目AIモデルとLLM
AI モデル トップ5を見る

Llama-2-7b-chat-hf

AI モデル

Llama-2-7b-chat-hfは、対話のユースケースに最適化されたファインチューニングされた生成テキストモデルです。Metaによって開発され、自然言語処理タスクに対する高度な機能を提供し、商業および研究アプリケーションの両方に適しています。

AIモデルとLLM
ツールを見る

AI モデル

対話のユースケースに最適化されたファインチューニングされた生成テキストモデルです。Metaによって開発され、自然言語処理タスクに対する高度な機能を提供し、商業および研究アプリケーションの両方に適しています。Llama-2-7b-chat-hfは、対話のユースケースに最適化されたファインチューニングされた生成テキストモデルです。Metaによって開発され、自然言語処理タスクに対する高度な機能を提供し、商業および研究アプリケーションの両方に適しています。

注目AIモデルとLLM
AI モデル トップ5を見る

GPT-2

AI モデル

GPT-2は、英語のテキスト生成のために設計された事前学習済みのトランスフォーマーモデルです。因果言語モデルの目的を利用し、プロンプトに基づいて一貫したテキストを生成する能力があり、さまざまな自然言語処理タスクに役立ちます。

AIモデルとLLM
ツールを見る

AI モデル

英語のテキスト生成のために設計された事前学習済みのトランスフォーマーモデルです。因果言語モデルの目的を利用し、プロンプトに基づいて一貫したテキストを生成する能力があり、さまざまな自然言語処理タスクに役立ちます。GPT-2は、英語のテキスト生成のために設計された事前学習済みのトランスフォーマーモデルです。因果言語モデルの目的を利用し、プロンプトに基づいて一貫したテキストを生成する能力があり、さまざまな自然言語処理タスクに役立ちます。

注目AIモデルとLLM
AI モデル トップ5を見る

d3-turbo

AI モデル

d3-turboは、vLLMセマンティックルーターからの高度な27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して確率を伴う回答を提供し、効率的な意思決定能力を提供します。

AIモデルとLLM
ツールを見る

AI モデル

vLLMセマンティックルーターからの高度な27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して確率を伴う回答を提供し、効率的な意思決定能力を提供します。d3-turboは、vLLMセマンティックルーターからの高度な27Bマルチモーダル意思決定モデルです。テキスト、JSON、画像、動画を処理して確率を伴う回答を提供し、効率的な意思決定能力を提供します。

AIモデルとLLM
AI モデル トップ5を見る

Mistral-7B-v0.1

AI モデル

Mistral-7B-v0.1は、70億のパラメータを持つ事前学習済みの生成テキストモデルで、オープンソースを通じて人工知能を進化させることを目的としています。さまざまなベンチマークでLlama 2 13Bを上回り、自然言語処理タスクにおいて強力なツールとなっています。

AIモデルとLLM
ツールを見る

AI モデル

70億のパラメータを持つ事前学習済みの生成テキストモデルで、オープンソースを通じて人工知能を進化させることを目的としています。さまざまなベンチマークでLlama 2 13Bを上回り、自然言語処理タスクにおいて強力なツールとなっています。Mistral-7B-v0.1は、70億のパラメータを持つ事前学習済みの生成テキストモデルで、オープンソースを通じて人工知能を進化させることを目的としています。さまざまなベンチマークでLlama 2 13Bを上回り、自然言語処理タスクにおいて強力なツールとなっています。

注目AIモデルとLLM
AI モデル トップ5を見る

SelfJev

AI アプリ

SelfJevは、テキストと画像を構造化された意思決定に変換する自己ホスト型の意思決定モデルです。型付きの回答、共有接頭辞推論を提供し、実験のオープンな記録を維持しながら、自分のインフラストラクチャ上で実行することでデータプライバシーを確保します。

機械学習とデータサイエンス
ツールを見る

AI アプリ

テキストと画像を構造化された意思決定に変換する自己ホスト型の意思決定モデルです。型付きの回答、共有接頭辞推論を提供し、実験のオープンな記録を維持しながら、自分のインフラストラクチャ上で実行することでデータプライバシーを確保します。SelfJevは、テキストと画像を構造化された意思決定に変換する自己ホスト型の意思決定モデルです。型付きの回答、共有接頭辞推論を提供し、実験のオープンな記録を維持しながら、自分のインフラストラクチャ上で実行することでデータプライバシーを確保します。

機械学習とデータサイエンス
AI アプリ トップ250を見る
1 / 8