首页 / GitHub 趋势 / 数据管道总是一团乱?Da…
数据与爬虫

数据管道总是一团乱?Dagster 用“资产”重新组织它们

dagster-io/dagster

GitHub 仓库
dagster-io/dagster
总 Stars
★ 16,350
主要语言
Python
查看 GitHub 项目

是什么

Dagster 是数据资产的编排平台:开发、生产、观测数据管道,以“资产”为核心概念,带血缘、调度、观测 UI,官网 dagster.io。API 核验:16,350 star、Python、Apache-2.0 协议,10 月 29 日仍在更新。数据编排赛道的代表项目之一,与本站已发过的 Kestra、Airbyte 形成对照。

能干嘛

把数据管道从“一堆定时脚本”变成“可观测的资产图”:每个产出都是资产,上下游血缘清晰,失败了知道影响谁、该重跑哪一段。

适合谁

数据团队、数据工程师;管道数量一多、靠人肉记上下游已经记不住的团队;以及想从 Airflow 换个思路的人——Dagster 的资产视角是它最大的不同。

问:Dagster 和 Airflow 有什么区别?

一句话:Airflow 以“任务”为中心,Dagster 以“数据资产”为中心。前者回答“这个任务跑没跑”,后者回答“这份数据新不新鲜、从哪来、被谁用”。小团队单条管道没必要上全套,大团队、多上下游的场景,资产视角的优势才会显出来。

站长点评

编排工具我看过不少,最后发现大家翻车的原因都一样:管道一开始只有三条,半年后变成三十条,没人记得清谁依赖谁。Dagster 的资产图就是冲着这个问题去的——不是让管道跑得更快,而是让管道“看得见”。概念有学习曲线,别指望一天上手;但一旦资产图立起来,半夜被告警叫醒的次数会少很多。

项目地址:https://github.com/dagster-io/dagster

⬇ 下载区(本站中转)

本站服务器实时中转 GitHub 文件,国内网络也可稳定下载;也可使用右侧官方链接。 本项目遵循 Apache-2.0 许可证。

📦 源码包(默认分支 ZIP)本站下载官方下载
最新版 1.13.28 安装包
create-dagster-aarch64-apple-darwin.tar.xz (53.9 MB)本站下载官方下载
create-dagster-aarch64-apple-darwin.tar.xz.sha256 (110 B)本站下载官方下载
create-dagster-installer.sh (46.2 KB)本站下载官方下载
create-dagster-x86_64-apple-darwin.tar.xz (54.1 MB)本站下载官方下载
create-dagster-x86_64-apple-darwin.tar.xz.sha256 (109 B)本站下载官方下载
create-dagster-x86_64-unknown-linux-gnu.tar.xz (93.7 MB)本站下载官方下载
create-dagster-x86_64-unknown-linux-gnu.tar.xz.sha256 (114 B)本站下载官方下载
sha256.sum (411 B)本站下载官方下载

要下载其他 GitHub 项目?试试本站的 GitHub 加速下载工具,粘贴链接即可中转。

数据与爬虫 热度最高

相关推荐