MiniCPM5: 设备端 LLM

LLMs-from-scratch

AI GitHub 仓库

GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。LLMs-from-scratch 是一个 GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

llama.cpp

AI GitHub 仓库

专注于C/C++中LLM推理的GitHub仓库。它允许开发者参与其开发并利用其在机器学习应用中的能力。ggml-org/llama.cpp是一个专注于C/C++中LLM推理的GitHub仓库。它允许开发者参与其开发并利用其在机器学习应用中的能力。

MiniGPT-4 & MiniGPT-v2

AI GitHub 仓库

MiniGPT-4 和 MiniGPT-v2 的开源代码，先进的大型语言模型，增强视觉-语言理解能力。这些模型支持视觉-语言任务的多任务学习，提供图像理解和生成能力。它们基于 Llama 2 和 Vicuna 模型构建，为研究人员和开发人员提供了强大的工具。

LocalAI

AI GitHub 仓库

#44

开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。LocalAI 是一个开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。

代码骆驼

大语言模型

#21

Meta的一个大型语言模型系列，专门针对代码，通过在代码密集型数据上进一步训练Llama 2而构建。它生成代码和关于代码的自然语言，完成和填充代码，并以聊天格式遵循编码指令，具有针对通用代码、Python和指令遵循的专用变体。代码骆驼是Meta的一个大型语言模型系列，专门针对代码，通过在代码密集型数据上进一步训练Llama 2而构建。它生成代码和关于代码的自然语言，完成和填充代码，并以聊天格式遵循编码指令，具有针对通用代码、Python和指令遵循的专用变体。

MLX LM

AI GitHub 仓库

#162

GitHub项目，旨在利用MLX框架简化大型语言模型（LLMs）的运行。它允许开发者参与其开发并增强其功能。MLX LM是一个GitHub项目，旨在利用MLX框架简化大型语言模型（LLMs）的运行。它允许开发者参与其开发并增强其功能。

EleutherAI GPT-NeoX

AI GitHub 仓库

开源实现，基于 GPU 的模型并行自回归变换器。它利用 Megatron 和 DeepSpeed 库来促进大规模语言模型的高效训练和部署。EleutherAI GPT-NeoX 是一个开源实现，基于 GPU 的模型并行自回归变换器。它利用 Megatron 和 DeepSpeed 库来促进大规模语言模型的高效训练和部署。

text-generation-webui

AI GitHub 仓库

#57

开源桌面应用程序，旨在支持本地大型语言模型（LLMs）。它支持文本、视觉和工具调用功能，并与 OpenAI 和 Anthropic API 兼容，确保 100% 的隐私。text-generation-webui 是一款开源桌面应用程序，旨在支持本地大型语言模型（LLMs）。它支持文本、视觉和工具调用功能，并与 OpenAI 和 Anthropic API 兼容，确保 100% 的隐私。