描述
NobodyWho 是一个开源的 AI 推理引擎，旨在在设备和服务器上运行大型语言模型，确保数据隐私并消除令牌成本。NobodyWho 在丹麦哥本哈根构建和维护，提供多种编程语言的 SDK，包括 Rust、Python、Kotlin、Swift、Flutter、React Native 和 Godot。该平台提供两种部署模型：设备端和本地部署。设备端部署非常适合应用程序、游戏和嵌入式硬件，而本地部署则适合组织范围内的 AI 需求，运行在 GPU 服务器上。
阅读更多
NobodyWho 的治理与控制层处理设置、模型选择、治理和日常操作，使组织能够在没有内部 AI 团队的情况下运行本地 AI。该层确保 AI 模型始终保持最新，并与组织政策保持一致。NobodyWho 还提供定制工具以与现有工作流程集成，使团队更容易采用 AI 解决方案。
NobodyWho 的定价包括在用户基础设施上设置技术栈的免费层，而治理与控制层和租赁硬件的定价则根据部署规模而定。该平台支持超过 10,000 个开放模型，允许用户在不受供应商锁定的情况下进行部署。由于其对隐私和控制的关注，NobodyWho 特别适合欧盟内的组织，尽管欧盟 AI 法案并未强制要求。
对于新接触本地 LLM 的开发者和团队，NobodyWho 提供全面的指南和文档以帮助他们入门。该平台的开源特性允许用户检查、分叉和扩展引擎代码，确保 AI 部署的透明性和灵活性。
- 类别机器学习平台
- 定价模式免费增值
- 部署On-device, On-premises
- 平台Rust, Python, Kotlin, Swift, Flutter, React Native, Godot
NobodyWho的核心功能
开源 AI 推理引擎
设备端和本地部署
支持多种编程语言
治理与控制层
无每令牌费用
数据隐私和离线操作
用户基础设施上的免费设置
定制集成工具
如何使用 NobodyWho？
安装：在您的基础设施上设置 NobodyWho 技术栈
配置：选择并配置适合您用例的模型
部署：根据需要在设备或服务器上运行模型
监控：使用治理与控制层进行持续操作
NobodyWho的使用案例
- 设备端 AI
- 本地 AI
- 数据隐私
- 模型定制
- 企业 AI
