Jeff

Decider

AI GitHub 仓库

一系列从 Qwen3.5 微调的 System One 风格模型。它旨在通过校准的概率进行一次性输入决策，从而提供简化的决策过程。Decider 是一系列从 Qwen3.5 微调的 System One 风格模型。它旨在通过校准的概率进行一次性输入决策，从而提供简化的决策过程。

AnyJev

AI GitHub 仓库

GitHub项目，将任何大型语言模型（LLM）转化为Jev风格的决策模型。它提供了类型化决策和真实概率，无需额外训练，是开发者增强决策能力的多功能工具。AnyJev是一个GitHub项目，将任何大型语言模型（LLM）转化为Jev风格的决策模型。它提供了类型化决策和真实概率，无需额外训练，是开发者增强决策能力的多功能工具。

Ollaya

AI GitHub 仓库

#214

GitHub项目，使用户能够在本地运行开放决策模型。它支持Laya、decider、NLI和GLiClass模型，提供与TypeSafe兼容的API，以实现无缝集成。Ollaya是一个GitHub项目，使用户能够在本地运行开放决策模型。它支持Laya、decider、NLI和GLiClass模型，提供与TypeSafe兼容的API，以实现无缝集成。

Petals

AI GitHub 仓库

#102

开源项目，使用户能够使用类似BitTorrent的方法在家中运行大型语言模型（LLMs）。与传统的卸载方法相比，它提供了更快的微调和推理。Petals是一个开源项目，使用户能够使用类似BitTorrent的方法在家中运行大型语言模型（LLMs）。与传统的卸载方法相比，它提供了更快的微调和推理。

OpenLLaMA

AI GitHub 仓库

Meta AI 的 LLaMA 7B 模型的一个允许自由许可的开源复现版本。它在 RedPajama 数据集上进行训练，提供 3B、7B 和 13B 参数版本，并提供 PyTorch 和 JAX 权重，可无缝集成到现有的 LLaMA 实现中。OpenLLaMA 是 Meta AI 的 LLaMA 7B 模型的一个允许自由许可的开源复现版本。它在 RedPajama 数据集上进行训练，提供 3B、7B 和 13B 参数版本，并提供 PyTorch 和 JAX 权重，可无缝集成到现有的 LLaMA 实现中。

Xinference

AI GitHub 仓库

#97

多功能推理 API，允许用户通过更改一行代码来替换 GPT 为任何大型语言模型（LLM）。它支持开源、语音和多模态模型，能够在云端、本地服务器或本地机器上部署。Xinference 是一个多功能推理 API，允许用户通过更改一行代码来替换 GPT 为任何大型语言模型（LLM）。它支持开源、语音和多模态模型，能够在云端、本地服务器或本地机器上部署。

kimi-k3-in-c

AI GitHub 仓库

Kimi K3 in C 是一个拥有 2.78 万亿参数的模型，能够在仅需 8.24 GB RAM 的单个 CPU 上运行推理。它采用可移植的 C99 实现，不需要 BLAS、框架或 GPU，使其对开发者高度可及。

Strands Decider

AI GitHub 仓库

小型、快速的决策模型，旨在增强自主工作流程。它允许用户在选项之间进行选择或进行评分，速度快于大型语言模型，并为每个决策提供经过校准的信心。Strands Decider 是一个小型、快速的决策模型，旨在增强自主工作流程。它允许用户在选项之间进行选择或进行评分，速度快于大型语言模型，并为每个决策提供经过校准的信心。