ジェフ

Decider

AI GitHub リポジトリ

Qwen3.5からファインチューニングされたSystem Oneスタイルのモデル群です。キャリブレーションされた確率を用いて、一度の入力で決定を下すことを目的とした、効率的な意思決定プロセスを提供します。Deciderは、Qwen3.5からファインチューニングされたSystem Oneスタイルのモデル群です。キャリブレーションされた確率を用いて、一度の入力で決定を下すことを目的とした、効率的な意思決定プロセスを提供します。

AnyJev

AI GitHub リポジトリ

任意の大規模言語モデル（LLM）をJevスタイルの意思決定モデルに変換するGitHubプロジェクトです。追加のトレーニングを必要とせず、型付きの意思決定と実際の確率を提供するため、意思決定能力を向上させたい開発者にとって多用途なツールです。AnyJevは、任意の大規模言語モデル（LLM）をJevスタイルの意思決定モデルに変換するGitHubプロジェクトです。追加のトレーニングを必要とせず、型付きの意思決定と実際の確率を提供するため、意思決定能力を向上させたい開発者にとって多用途なツールです。

Ollaya

AI GitHub リポジトリ

#214

ユーザーがオープンな意思決定モデルをローカルで実行できるようにするGitHubプロジェクトです。Laya、decider、NLI、GLiClassモデルをサポートし、シームレスな統合のためのTypeSafe互換APIを提供します。Ollayaは、ユーザーがオープンな意思決定モデルをローカルで実行できるようにするGitHubプロジェクトです。Laya、decider、NLI、GLiClassモデルをサポートし、シームレスな統合のためのTypeSafe互換APIを提供します。

Petals

AI GitHub リポジトリ

#102

ユーザーがBitTorrentスタイルのアプローチを使用して自宅で大規模言語モデル（LLM）を実行できるオープンソースプロジェクトです。従来のオフロード手法と比較して、より迅速なファインチューニングと推論を提供します。Petalsは、ユーザーがBitTorrentスタイルのアプローチを使用して自宅で大規模言語モデル（LLM）を実行できるオープンソースプロジェクトです。従来のオフロード手法と比較して、より迅速なファインチューニングと推論を提供します。

OpenLLaMA

AI GitHub リポジトリ

Meta AIのLLaMA 7Bモデルを許可なく利用可能なライセンスで再現したオープンソースモデルです。RedPajamaデータセットで学習され、3B、7B、13Bのパラメータバージョンを提供し、既存のLLaMA実装にシームレスに統合するためのPyTorchおよびJAXウェイトを提供します。OpenLLaMAは、Meta AIのLLaMA 7Bモデルを許可なく利用可能なライセンスで再現したオープンソースモデルです。RedPajamaデータセットで学習され、3B、7B、13Bのパラメータバージョンを提供し、既存のLLaMA実装にシームレスに統合するためのPyTorchおよびJAXウェイトを提供します。

Xinference

AI GitHub リポジトリ

#97

ユーザーが1行のコードを変更することでGPTを任意のLLMに置き換えることを可能にする多目的推論APIです。オープンソース、音声、およびマルチモーダルモデルをサポートし、クラウド、オンプレミス、またはローカルマシンへの展開を可能にします。Xinferenceは、ユーザーが1行のコードを変更することでGPTを任意のLLMに置き換えることを可能にする多目的推論APIです。オープンソース、音声、およびマルチモーダルモデルをサポートし、クラウド、オンプレミス、またはローカルマシンへの展開を可能にします。

kimi-k3-in-c

AI GitHub リポジトリ

Kimi K3 in Cは、8.24 GBのRAMで単一のCPU上で推論を実行できる2.78兆パラメータのモデルです。これは、ポータブルC99で実装されており、BLAS、フレームワーク、またはGPUを必要としないため、開発者にとって非常にアクセスしやすいものとなっています。

Strands Decider

AI GitHub リポジトリ

ストランドデシダーは、エージェントワークフロー向けに設計された小型で高速な意思決定モデルです。ユーザーはオプションの中から選択したり、スケールで評価したりすることができ、大規模言語モデルよりも迅速に意思決定を行い、各決定に対して調整された自信を提供します。