描述
我可以在本地运行AI吗?是一个免费的在线工具,旨在帮助用户确定他们的硬件可以支持哪些本地大型语言模型(LLMs)。通过使用这个基于浏览器的兼容性检查器,用户可以选择或检测他们的GPU、Mac或CPU,并获得适合内存的开放权重模型的估算。该工具提供了每个模型在给定量化和上下文长度下所需的VRAM或统一内存的详细信息,以及每秒的估计速度(以tokens为单位)。
阅读更多
该工具特别适合那些希望在本地运行AI模型而无需软件安装或账户创建的用户。它完全在浏览器中运行,确保原始GPU详细信息保持私密,不会被上传。用户可以将VRAM、内存、量化和上下文长度等要求与他们的硬件能力进行比较,从而做出明智的决定,选择下载和运行哪些模型。
我可以在本地运行AI吗?涵盖了来自12个出版商的55个开放权重文本生成模型的目录,包括流行模型如Llama、Qwen、Gemma和GPT-OSS。该工具为每个模型提供了适配判定和内存估算,以及可用的预期速度范围和可复制的运行命令。该目录定期更新,以包括新模型并重新检查现有条目与官方模型卡的匹配。
该工具还提供了关于量化选项的详细解释,如Q4、Q5、Q8、BF16、FP8和NVFP4,帮助用户理解内存权衡和硬件特定的精度支持。它被设计为一个规划工具,提供估算而非精确测量,并鼓励用户在依赖它们进行关键任务之前进行紧密适配的测试。
- 类别机器学习平台
- 定价模式免费
- 部署基于浏览器
- 平台网页
我可以在本地运行AI吗?的核心功能
基于浏览器的兼容性检查器
估算VRAM和内存需求
支持GPU、Mac和CPU检测
提供量化和上下文长度选项
提供每秒的估计速度(以tokens为单位)
无需安装或账户
55个开放权重模型的目录
可复制的运行命令
如何使用 我可以在本地运行AI吗??
选择或检测您的硬件:选择您的GPU、Mac或CPU。
设置量化和上下文:调整这些设置以适应您的模型。
查看适配和内存估算:检查哪些模型适合您的硬件。
复制运行命令:使用提供的命令在本地运行模型。
我可以在本地运行AI吗?的使用案例
- 模型兼容性检查
- VRAM和内存估算
- 量化分析
- 速度估算
- 本地AI模型执行








