← 返回列表

Pinterest 利用事件时间水位线完成 PB 级数据分区定稿

InfoQ Architecture & Design原文发布 2026-10-19 22:37首次收录 2026-10-20上架 2026-10-20 07:12

☆ 收藏查看原文 ↗

这件事讲了什么

Pinterest 在数据库接入流程里加了一套机制,用来判断持续灌入的数据什么时候“差不多齐了”,好让下游任务开始处理。以前这种持续写入的数据不好确定边界,容易处理到一半又来了新数据。他们用 Apache Flink 跟踪事件时间,再通过 Apache Iceberg 的元数据发布一个只增不退的水位线,作为“可以定稿”的信号。这样下游就能按分区处理已经足够完整的数据,支撑到 PB 级别。这属于工程机制分享,原文没有说明具体上线范围或性能数字。

可以使用的工具

文中可用工具

  • Apache Flink跟踪事件时间,用于判断数据进度
  • Apache Iceberg通过元数据发布只增不退的水位线
这是基于来源内容整理的摘要。原文链接失效后,本页摘要和讨论仍会保留。

讨论 0

登录后参与讨论,阅读资讯无需注册。

还没有评论,来分享第一个看法。