数据库高可用

Pigsty 使用 Patroni 实现了 PostgreSQL 的高可用，确保主库不可用时自动进行故障转移，由从库接管。
Module:
Categories:

概览

Pigsty 的 PostgreSQL 集群带有开箱即用的高可用方案，由 Patroni、Etcd 和 HAProxy 强力驱动。

当您的 PostgreSQL 集群含有两个或更多实例时，您无需任何配置即拥有了硬件故障自愈的数据库高可用能力 —— 只要集群中有任意实例存活，集群就可以对外提供完整的服务，而客户端只要连接至集群中的任意节点，即可获得完整的服务，而无需关心主从拓扑变化。

在默认配置下，主库故障恢复时间目标 RTO ≈ 30s，数据恢复点目标 RPO < 1MB；从库故障 RPO = 0，RTO ≈ 0 (闪断)；在一致性优先模式下，可确保故障切换数据零损失：RPO = 0。以上指标均可通过参数，根据您的实际硬件条件与可靠性要求 按需配置。

Pigsty 内置了 HAProxy 负载均衡器用于自动流量切换，提供 DNS/VIP/LVS 等多种接入方式供客户端选用。故障切换与主动切换对业务侧除零星闪断外几乎无感知，应用不需要修改连接串重启。 极小的维护窗口需求带来了极大的灵活便利：您完全可以在无需应用配合的情况下滚动维护升级整个集群。硬件故障可以等到第二天再抽空善后处置的特性，让研发，运维与 DBA 都能在故障时安心睡个好觉。

pigsty-ha

许多大型组织与核心机构已经在生产环境中长时间使用 Pigsty ，最大的部署有 25K CPU 核心与 220+ PostgreSQL 超大规格实例（64c / 512g / 3TB NVMe SSD）；在这一部署案例中，五年内经历了数十次硬件故障与各类事故，但依然可以保持高于 99.999% 的总体可用性战绩。

高可用（High-Availability）解决什么问题？

  • 将数据安全C/IA中的可用性提高到一个新高度：RPO ≈ 0, RTO < 30s。
  • 获得无缝滚动维护的能力，最小化维护窗口需求，带来极大便利。
  • 硬件故障可以立即自愈，无需人工介入，运维DBA可以睡个好觉。
  • 从库可以用于承载只读请求，分担主库负载，让资源得以充分利用。

高可用有什么代价？

  • 基础设施依赖：高可用需要依赖 DCS (etcd/zk/consul) 提供共识。
  • 起步门槛增加：一个有意义的高可用部署环境至少需要 三个节点。
  • 额外的资源消耗：一个新从库就要消耗一份额外资源，不算大问题。
  • 复杂度代价显著升高：备份成本显著加大，需要使用工具压制复杂度。

高可用的局限性

因为复制实时进⾏，所有变更被⽴即应⽤⾄从库。因此基于流复制的高可用方案⽆法应对⼈为错误与软件缺陷导致的数据误删误改。（例如：DROP TABLE，或 DELETE 数据） 此类故障需要使用 延迟集群 ，或使用先前的基础备份与 WAL 归档进行 时间点恢复。

配置策略 RTO RPO
单机 + 什么也不做 数据永久丢失，无法恢复 数据全部丢失
单机 + 基础备份 取决于备份大小与带宽（几小时） 丢失上一次备份后的数据（几个小时到几天）
单机 + 基础备份 + WAL归档 取决于备份大小与带宽（几小时） 丢失最后尚未归档的数据（几十MB）
主从 + 手工故障切换 十分钟 丢失复制延迟中的数据（约百KB）
主从 + 自动故障切换 一分钟内 丢失复制延迟中的数据（约百KB）
主从 + 自动故障切换 + 同步提交 一分钟内 无数据丢失

原理

在 Pigsty 中，高可用架构的实现原理如下：

  • PostgreSQL 使⽤标准流复制搭建物理从库，主库故障时由从库接管。
  • Patroni 负责管理 PostgreSQL 服务器进程，处理高可用相关事宜。
  • Etcd 提供分布式配置存储（DCS）能力，并用于故障后的领导者选举
  • Patroni 依赖 Etcd 达成集群领导者共识，并对外提供健康检查接口。
  • HAProxy 对外暴露集群服务，并利⽤ Patroni 健康检查接口，自动分发流量至健康节点。
  • vip-manager 提供一个可选的二层 VIP，从 Etcd 中获取领导者信息，并将 VIP 绑定在集群主库所在节点上。

当主库故障时，将触发新一轮领导者竞选，集群中最为健康的从库将胜出（LSN位点最高，数据损失最小者），并被提升为新的主库。 胜选从库提升后，读写流量将立即路由至新的主库。 主库故障影响是 写服务短暂不可用：从主库故障到新主库提升期间，写入请求将被阻塞或直接失败，不可用时长通常在 15秒 ～ 30秒，通常不会超过 1 分钟。

当从库故障时，只读流量将路由至其他从库，如果所有从库都故障，只读流量才会最终由主库承载。 从库故障的影响是 部分只读查询闪断：当前从库上正在运行查询将由于连接重置而中止，并立即由其他可用从库接管。

故障检测由 Patroni 和 Etcd 共同完成，集群领导者将持有一个租约， 如果集群领导者因为故障而没有及时续租（10s），租约将会被释放，并触发 故障切换（Failover） 与新一轮集群选举。

即使没有出现任何故障，您依然可以主动通过 主动切换 （Switchover）变更集群的主库。 在这种情况下，主库上的写入查询将会闪断，并立即路由至新主库执行。这一操作通常可用于滚动维护/升级数据库服务器。

利弊权衡

故障恢复时间目标（RTO）与 数据恢复点目标（RPO）是高可用集群设计时需要仔细进行利弊权衡的两个参数。

Pigsty 使用的 RTO 与 RPO 默认值满足绝大多数场景下的可靠性要求，您可以根据您的硬件水平，网络质量，业务需求来合理调整它们。

故障切换时的不可用时长上限由 pg_rto 参数控制，RTO 默认值为 30s，增大它将导致更长的主库故障转移写入不可用时长，而减少它将增加误报故障转移率（例如，由短暂网络抖动导致的反复切换）。

潜在数据丢失量的上限由 pg_rpo 参数控制，默认为 1MB，减小这个值可以降低故障切换时的数据损失上限，但也会增加故障时因为从库不够健康（落后太久）而拒绝自动切换的概率。

Pigsty 默认使用可用性优先模式，这意味着当主库故障时，它将尽快进行故障转移，尚未复制到从库的数据可能会丢失（常规万兆网络下，复制延迟在通常在几KB到100KB）。

如果您需要确保故障切换时不丢失任何数据，您可以使用 crit.yml 模板来确保在故障转移期间没有数据丢失，但这会牺牲一些性能作为代价。

相关参数

pg_rto

参数名称： pg_rto， 类型： int， 层次：C

以秒为单位的恢复时间目标（RTO）。这将用于计算 Patroni 的 TTL 值，默认为 30 秒。

如果主实例在这么长时间内失踪，将触发新的领导者选举，此值并非越低越好，它涉及到利弊权衡： 减小这个值可以减少集群故障转移期间的不可用时间（无法写入）， 但会使集群对短期网络抖动更加敏感，从而增加误报触发故障转移的几率。 您需要根据网络状况和业务约束来配置这个值，在 故障几率 和 故障影响 之间做出权衡。

pg_rpo

参数名称： pg_rpo， 类型： int， 层次：C

以字节为单位的恢复点目标（RPO），默认值：1048576。

默认为 1MiB，这意味着在故障转移期间最多可以容忍 1MiB 的数据丢失。

当主节点宕机并且所有副本都滞后时，你必须做出一个艰难的选择： 是马上提升一个从库成为新的主库，付出可接受的数据丢失代价（例如，少于 1MB），并尽快将系统恢复服务。 还是等待主库重新上线（可能永远不会）以避免任何数据丢失，或放弃自动故障切换，等人工介入作出最终决策。 您需要根据业务的需求偏好配置这个值，在 可用性 和 一致性 之间进行 利弊权衡。




Last modified 2024-03-07: add ca / iac in en/docs (4720967)