Weights & Biases 文档

描述

Weights & Biases (W&B) 提供了一个全面的平台，旨在促进 AI 模型、应用程序和代理的开发。W&B 平台经过精心设计，支持 AI 开发的整个生命周期，从初始模型构建到部署和持续管理。

W&B Models 是一个核心组件，通过强大的实验跟踪、微调功能、详细报告和超参数搜索，使用户能够管理 AI 模型开发。它还包括一个模型注册表，用于高效的版本控制和确保 AI 模型的可复现性。这套工具对于寻求组织和迭代模型开发流程的数据科学家和 ML 工程师至关重要。

作为 W&B Models 的补充，W&B Weave 能够将 AI 模型无缝集成到应用程序中。它提供跟踪、输出评估和成本估算功能，以及一个用于比较不同大型语言模型 (LLM) 及其配置的 Playground。这使得开发人员能够监控和优化其已部署 AI 模型的性能。

该平台还利用由 CoreWeave 基础设施支持的托管服务。无服务器推理 (Serverless Inference) 通过与 OpenAI 兼容的 API 提供对领先的开源基础模型的访问，并提供使用跟踪和 Weave 集成以进行跟踪和评估。目前处于公开预览阶段的无服务器训练 (Serverless Training) 允许用户使用托管 GPU 基础设施、ART 和 RULER 集成以及用于多轮代理任务的自动缩放功能来对 LLM 进行后训练和微调。此外，无服务器沙箱 (Serverless Sandboxes)（处于私有预览阶段）提供隔离的计算环境来运行代码，具有生命周期管理、秘密处理、文件访问和 Python SDK。

这种集成方法旨在简化 AI 从业者的工作流程，使他们能够更有效、更高效地构建、管理和部署 AI 解决方案。该平台面向参与 AI 开发的广泛用户，从个人研究人员到大型开发团队。

Weights & Biases 文档的核心功能

• AI 模型开发的实验跟踪

• LLM 的微调功能

• 模型优化的超参数搜索

• 用于版本控制和可复现性的模型注册表

• 应用程序中 AI 模型的跟踪和输出评估

• LLM 使用成本估算

• 用于比较 LLM 和设置的 Playground

• 具有 OpenAI 兼容 API 的无服务器推理

• LLM 的无服务器训练

• 用于训练的托管 GPU 基础设施

• 用于隔离代码执行的无服务器沙箱

• 用于与沙箱交互的 Python SDK

如何使用 Weights & Biases 文档？

1. 1

   安装：使用包管理器安装 W&B 工具。

2. 2

   配置：设置 W&B 环境并连接到平台。

3. 3

   开发：使用 W&B 功能构建 AI 模型和应用程序。

4. 4

   跟踪：记录实验、指标和工件以进行模型开发。

5. 5

   评估：使用 W&B Weave 评估模型性能并比较 LLM。

6. 6

   部署：将模型与跟踪和可观测性集成到应用程序中。

7. 7

   优化：利用无服务器训练和推理提高效率。

Weights & Biases 文档的使用案例

• AI 模型开发
• LLM 应用部署
• 实验跟踪
• 模型版本控制
• LLM 比较
• 无服务器 AI 训练
• 隔离代码执行
• AI 可观测性

Weights & Biases 文档的常见问题

• 什么是 Weights & Biases？

  Weights & Biases 是一个平台，通过提供实验跟踪、评估和可观测性工具，帮助开发人员构建 AI 模型、应用程序和代理。

• W&B 如何帮助开发 AI 模型？

  W&B Models 提供实验跟踪、微调、报告、超参数搜索以及用于版本控制和可复现性的模型注册表，从而帮助进行全面的 AI 模型开发。

• W&B Weave 用于什么？

  W&B Weave 允许用户在其代码中管理 AI 模型，提供跟踪、输出评估、成本估算以及用于比较 LLM 和设置的 Playground。

• Weights & Biases 提供哪些无服务器产品？

  Weights & Biases 提供无服务器推理 (Serverless Inference) 以访问基础模型，无服务器训练 (Serverless Training) 以进行 LLM 的后训练和微调，以及无服务器沙箱 (Serverless Sandboxes) 以在隔离环境中运行代码。

• 我可以通过 W&B 访问开源基础模型吗？

  是的，无服务器推理通过与 OpenAI 兼容的 API 提供对领先的开源基础模型的访问，并集成了使用跟踪和评估。

• 无服务器沙箱的目的是什么？

  无服务器沙箱提供隔离的计算环境来运行代码，具有生命周期管理、秘密处理、文件访问和用于开发人员的 Python SDK。

• 无服务器训练是否可用于微调 LLM？

  是的，无服务器训练目前处于公开预览阶段，可用于 LLM 的后训练和微调，利用托管 GPU 基础设施和自动缩放功能来处理代理任务。

• W&B 如何确保模型的可复现性？

  W&B 使用模型注册表进行版本控制和跟踪，这有助于确保 AI 模型能够可靠地复现。

• W&B 的托管服务使用哪种基础设施？

  Weights & Biases 提供的托管服务运行在 CoreWeave 基础设施上。

• 我如何使用 Weights & Biases 比较不同的 LLM？

  W&B Weave 包含一个 Playground 功能，允许用户比较各种大型语言模型 (LLM) 及其设置。