Ollama

llamafile

AI GitHub 仓库

#135

旨在简化大型语言模型（LLMs）分发和执行的工具，通过单个文件实现。它促进了 Mozilla AI 社区在 GitHub 上的协作和开发。Llamafile 是一个旨在简化大型语言模型（LLMs）分发和执行的工具，通过单个文件实现。它促进了 Mozilla AI 社区在 GitHub 上的协作和开发。

DeepEval

AI GitHub 仓库

#80

开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。DeepEval是一个开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。

LocalAI

AI 应用

#19

开源运行时，采用 MIT 许可证，可以在您拥有的硬件上运行 AI 模型，而不是通过云 API。一个二进制文件提供与 OpenAI、Anthropic、Ollama 和 ElevenLabs 兼容的 API，支持可更换的引擎，如 llama.cpp、vLLM 和 MLX，涵盖聊天、语音、视觉、图像和视频生成，以及代理。LocalAI 是一个开源运行时，采用 MIT 许可证，可以在您拥有的硬件上运行 AI 模型，而不是通过云 API。一个二进制文件提供与 OpenAI、Anthropic、Ollama 和 ElevenLabs 兼容的 API，支持可更换的引擎，如 llama.cpp、vLLM 和 MLX，涵盖聊天、语音、视觉、图像和视频生成，以及代理。

Open WebUI

AI GitHub 仓库

#22

用户友好的 AI 界面，支持多种 AI 模型，包括 Ollama 和 OpenAI API。它旨在简化开发者和用户与 AI 技术的互动。open-webui/open-webui 是一个用户友好的 AI 界面，支持多种 AI 模型，包括 Ollama 和 OpenAI API。它旨在简化开发者和用户与 AI 技术的互动。

Langfuse

AI GitHub 仓库

#19

开源的AI工程平台，提供LLM评估、可观察性、指标、提示管理等功能。它与OpenTelemetry、LangChain和OpenAI SDK集成，为AI开发提供全面的工具包。Langfuse是一个开源的AI工程平台，提供LLM评估、可观察性、指标、提示管理等功能。它与OpenTelemetry、LangChain和OpenAI SDK集成，为AI开发提供全面的工具包。

LLMs-from-scratch

AI GitHub 仓库

GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。LLMs-from-scratch 是一个 GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

Featherless - Serverless LLM 托管

AI 应用

提供开源 LLM 的无服务器托管，提供一个 API 密钥即可即时访问超过 30,000 个模型。它简化了部署，为希望集成高级 AI 功能而无需处理基础设施难题的开发人员和企业确保了可靠性和可预测的成本。Featherless 提供开源 LLM 的无服务器托管，提供一个 API 密钥即可即时访问超过 30,000 个模型。它简化了部署，为希望集成高级 AI 功能而无需处理基础设施难题的开发人员和企业确保了可靠性和可预测的成本。

LocalAI

AI GitHub 仓库

#44

开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。LocalAI 是一个开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。