金堂做网站的公司,四川省优质校建设 网站,淘客网站建设教程,佛山企业网站建设checkpoint#xff08;检查点#xff09;
在flink中最重要的容错机制#xff0c;就是checkpoint机制#xff0c;使用checkpoint可以将之前某个时间点的所有的状态进行保存#xff0c;这个存档就是checkpoint。
检查点的保存
周期性存储保存#xff0c;间隔时间可以由用…checkpoint检查点
在flink中最重要的容错机制就是checkpoint机制使用checkpoint可以将之前某个时间点的所有的状态进行保存这个存档就是checkpoint。
检查点的保存
周期性存储保存间隔时间可以由用户进行指定。 保存时间点应该是整体处理完某一条数据处理完将这个时间点的状态保存下来。
检查点恢复状态
当发生故障时需要找到最近一次成功保存的检查点进行数据恢复。
检查点算法
在flink中采用Channdy-Lamport 算法的分布式快照可以在不暂停流处理的前提下经状态备份保存到检查点。 借鉴水位线设计插入一个特殊数据结构表示触发检查保存的时间点算子遇到后就对当前算子内状态进行持久化保存。 在JobManager中有个『检查点协查器』用以专门协调处理检查点的相关工作。 分布式快照算法 barrier对齐的精准一次 barrier对齐的至少一次 非barrier对齐的精准一次
checkpoint 常用配置
主要是在设置检查点时需要设置周期已经模式例如采用精准一次 超时时间默认10分钟 指定检查存储路径 最大checkpoint并发数 最小等待时间间隔 最小等待间隔上一轮checkpoint结束到下一轮checkpoint开始间的间隔 取消作业时checkpoint的数据是否保留在外部系统 允许checkpoint连续失败的次数 非对齐检查点设置后将会自动设置为精准一次。
保存点用途
整体上看可以将保存点看做程序临时保存使用 版本管理和归档存储 更新Flink版本 更新应用程序 调整并行度 暂停应用程序
状态一致性
状态一致性部分主要分为三种级别 最多一次At-Most-Once 至少一次At-Least-Once 精准一次Exactly-Once 采用两阶段提交可以用来解决分布式场景下的事务1、上一次检查点完成后barrier后续的数据开始进行预提交2、当新的检查点完成时各个节点进行正式提交。
