- GitHub 仓库
- dagster-io/dagster
- 总 Stars
- ★ 16,350
- 主要语言
- Python
是什么
Dagster 是数据资产的编排平台:开发、生产、观测数据管道,以“资产”为核心概念,带血缘、调度、观测 UI,官网 dagster.io。API 核验:16,350 star、Python、Apache-2.0 协议,10 月 29 日仍在更新。数据编排赛道的代表项目之一,与本站已发过的 Kestra、Airbyte 形成对照。
能干嘛
把数据管道从“一堆定时脚本”变成“可观测的资产图”:每个产出都是资产,上下游血缘清晰,失败了知道影响谁、该重跑哪一段。
适合谁
数据团队、数据工程师;管道数量一多、靠人肉记上下游已经记不住的团队;以及想从 Airflow 换个思路的人——Dagster 的资产视角是它最大的不同。
问:Dagster 和 Airflow 有什么区别?
一句话:Airflow 以“任务”为中心,Dagster 以“数据资产”为中心。前者回答“这个任务跑没跑”,后者回答“这份数据新不新鲜、从哪来、被谁用”。小团队单条管道没必要上全套,大团队、多上下游的场景,资产视角的优势才会显出来。
站长点评
编排工具我看过不少,最后发现大家翻车的原因都一样:管道一开始只有三条,半年后变成三十条,没人记得清谁依赖谁。Dagster 的资产图就是冲着这个问题去的——不是让管道跑得更快,而是让管道“看得见”。概念有学习曲线,别指望一天上手;但一旦资产图立起来,半夜被告警叫醒的次数会少很多。
项目地址:https://github.com/dagster-io/dagster
⬇ 下载区(本站中转)
本站服务器实时中转 GitHub 文件,国内网络也可稳定下载;也可使用右侧官方链接。 本项目遵循 Apache-2.0 许可证。
最新版 1.13.28 安装包
要下载其他 GitHub 项目?试试本站的 GitHub 加速下载工具,粘贴链接即可中转。
