Laya CoreML

Laya-MLX

AI GitHub 仓库

#136

Laya MLX 是一个为 Laya 类型决策模型设计的本地运行时，提供在 M3 Max 上快速决策的能力。它不依赖于文本生成、PyTorch 或云 API，确保高效的性能。

MLX

AI GitHub 仓库

专为 Apple Silicon 设计的数组框架，能够高效地进行机器学习操作。它允许开发者在 GitHub 上参与其开发，促进 AI 社区的合作与创新。MLX 是一个专为 Apple Silicon 设计的数组框架，能够高效地进行机器学习操作。它允许开发者在 GitHub 上参与其开发，促进 AI 社区的合作与创新。

MNN

AI GitHub 仓库

阿里巴巴开发的高性能、轻量级推理引擎。它旨在优化设备上的大语言模型（LLMs）和边缘AI应用，提供快速高效的推理能力。MNN是阿里巴巴开发的高性能、轻量级推理引擎。它旨在优化设备上的大语言模型（LLMs）和边缘AI应用，提供快速高效的推理能力。

Splash

AI GitHub 仓库

#137

专为 Apple 硅设计的本地推理引擎。它能够在 Apple 设备上高效地进行模型推理，为开发者提供了一种简化的本地 AI 模型解决方案。Splash 是一个专为 Apple 硅设计的本地推理引擎。它能够在 Apple 设备上高效地进行模型推理，为开发者提供了一种简化的本地 AI 模型解决方案。

Burrito Core

AI GitHub 仓库

针对 gpt-oss 的推理工具，兼容 OpenAI 和 Anthropic API。它支持原生 Python 和浏览器工具，利用 llama.cpp 或 vLLM 进行高效处理。Burrito Core 是一个针对 gpt-oss 的推理工具，兼容 OpenAI 和 Anthropic API。它支持原生 Python 和浏览器工具，利用 llama.cpp 或 vLLM 进行高效处理。

Keras

AI GitHub 仓库

开源深度学习库，旨在为人类服务。它简化了构建神经网络的过程，并允许开发者在GitHub上为其开发做出贡献。Keras是一个开源深度学习库，旨在为人类服务。它简化了构建神经网络的过程，并允许开发者在GitHub上为其开发做出贡献。

Cactus Compute

AI GitHub 仓库

#21

开源项目，专注于移动设备、可穿戴设备、智能家居系统和机器人中的量化、内核、运行时和推理引擎。它旨在优化各种平台上的AI性能。Cactus Compute是一个开源项目，专注于移动设备、可穿戴设备、智能家居系统和机器人中的量化、内核、运行时和推理引擎。它旨在优化各种平台上的AI性能。

TensorFlow

AI GitHub 仓库

为所有人设计的开源机器学习框架。它提供了一个全面的生态系统，用于构建和部署机器学习模型，使开发者和研究人员都能轻松使用。TensorFlow 是一个为所有人设计的开源机器学习框架。它提供了一个全面的生态系统，用于构建和部署机器学习模型，使开发者和研究人员都能轻松使用。