描述
lakeFS 是一个开源数据版本控制系统,旨在将您的对象存储转变为类似 Git 的仓库。这使用户能够以与管理代码相同的精确度和控制力管理他们的数据湖,使用分支、提交和合并。该平台对 AI 和数据工程团队特别有益,提供了一个控制平面,确保数据治理、可重现性,并减少访问摩擦。
使用 lakeFS,用户可以对数据执行类似 Git 的操作,例如分支和合并,这有助于创建可重现的数据管道并实施数据质量门控。该系统建立在一个高度可扩展的架构上,管理数据生命周期、来源和统一访问,使其非常适合 AI 和数据工程团队。
lakeFS 支持与流行的数据工程工具和技术的广泛集成,包括 Spark、Delta Lake、AWS CLI、Airflow 等。它与所有主要云服务提供商(如 AWS、Azure 和 GCP)兼容,确保数据和元数据安全存储在用户的 VPC 内。
该平台提供免费开源版本以及托管云服务。它旨在通过提供内置证据和预防性数据控制来简化合规审计,降低合规风险。lakeFS 还通过允许团队在不重复数据的情况下独立测试管道和模型更改,并能够立即从数据事件中回滚,来提高生产力。
总体而言,lakeFS 使组织能够在规模上解锁数据管理,通过将经过验证的工程最佳实践应用于数据管理,加速 AI 和 ML 计划。
lakeFS的核心功能
开源数据版本控制
数据的类似 Git 操作
分支和合并数据
可重现的数据管道
数据质量门控
与流行数据工具集成
支持 AWS、Azure、GCP
零拷贝分支
基于角色的访问控制
审计日志
如何使用 lakeFS?
配置:设置 lakeFS 与您的对象存储
使用:对您的数据执行类似 Git 的操作
集成:与您现有的数据工具连接
优化:增强数据治理和可重现性
lakeFS的使用案例
- 数据治理
- AI 训练
- 数据版本控制
- 管道测试
- 审计准备





