[控场AI]
产品按需状态重分区

On-Demand State Repartitioning

Databricks推出的针对Apache Spark Structured Streaming的运行时功能,允许用户在不重建Checkpoint的情况下动态调整有状态流查询的状态分区数

时间轴 (近 90 天)

9月14日

Databricks推出了On-Demand State Repartitioning(按需状态重分区)功能,允许在不重建Checkpoint、不丢失现有状态的前提下动态调整有状态流查询的状态分区数

待验证50%
9月14日

按需状态重分区的实现通常引入一个重分区微批次,在该批次内对State Store中的全量Key进行Shuffle重路由,同时保证原子性

待验证50%
9月14日

触发重分区会带来该批次延迟的短暂升高,运维团队需要预留相应的处理窗口

待验证50%
9月14日

按需状态重分区使团队可以先以合理的初始值上线,再根据真实运行数据逐步优化分区配置,把容量规划从一次到位转向持续调整

待验证50%

全部知识事实 (4)

来源文章