整理下分布式系统问题的答案(1)

ConstXiong

共 3781字,需浏览 8分钟

 ·

2021-05-19 12:58

1、CAP 理论及其证明

分布式系统主要为了解决集中式系统的性能瓶颈,支持高并发及海量数据处理,需要做到高可扩展性、高可用、服务和存储无状态。


分布式系统中经常会出现网络故障、通信失败、数据不一致等问题,为此提出了 CAP 理论:一个分布式系统最多只能同时满足一致性(Consistency)、可用性(Availability)和分区容忍性(Partition Tolerance)这三项中的两项。


C:所有节点同时看到相同的数据
A:任何时候,读写都是成功的
P:当部分节点出现消息丢失或者分区故障时,分布式系统仍然能够继续运行


分布式系统中 P 基本是必需,所以 CAP 模型的应用的一般是 CP 或 AP 架构。

用反证法理解 CAP 最为简单与直接,假设分布式系统满足了分区容错,
client1 写入x=1成功 -> server1(x=1) <- client2读x=1

client3 写入x=1失败 -> server2(x=0) <- client4读x=0
为了提高一致性,就要回滚 server1 -> x = 0,降低了可用性;
为了提高可用性,就要降低对一致性的要求,server1 x=1,server2 x=0。

其他场景证明类似。


2、CP 和 AP 架构的取舍

CAP 理论是绝对情况,工程上一般关注相对一致的情况下,提高系统的可用性,所以就有了对一致性和可用性的取舍。


ZooKeeper 就为了解决应用系统的协调和一致性问题的框架,属于 CP 架构,其核心算法就是 Zab,来保证一致性。


AP 架构放弃强一致性,保证分区容错和可用性,Base 理论就是从 AP 扩展而来;Spring Cloud 中的 Eureka 属于 AP 架构,Eureka 的各个节点平等,几个节点挂掉不影响正常节点的工作,只要还有一个 Eureka 节点,就能保证注册服务可用,但查到的信息可能不是最新的版本,不保证数据一致性。


3、Base 理论及其与 CAP 的关系

放弃 CAP 理论中的强一致性,提出 Base 理论:
无法做到强一致性(Strong Consistency),但每个应用都可以根据自身的业务特点,采用适当的方式来使系统达到最终一致性(Eventual Consistency)。


Base 这个单词来自于,基本可用(Basically Available)、软状态(Soft State)和最终一致性(Eventually Consistent)。


Base 理论是从 CAP 发展而来、在分区和副本存在的前提下,通过系统设计方案,放弃强一致性,实现基本可用、最终一致。


4、如何理解  Paxos 算法

先看保证一致性的两种机制:

1、Write All Read one,所有节点写成功才算成功,从任意一个节点读都是最新数据;

2、Quorum 机制,在 N 个副本中,一次更新成功的如果有 W 个,那么在读取数据时从大于 N-W 个副本中读取,这样就至少读到一个更新成功的数据。如,10 个副本,更新成功 5 个,只要读大于 10-5=5,即访问 6 个节点至少能读到一个最新的值。Paxos 算法就用到了此机制。


再看 Paxos 算法,它主要解决一致性问题,在分布式领域具有非常重要的地位。


逻辑上包含三类节点角色:

  • Proposer 提案者,提出议案,议案即操作,被抽象为 value,如更新某值

  • Acceptor 批准者,完全对等独立,Proposer 提出的 value 必须获得超过半数(N/2+1)的 Acceptor 批准后才能通过

  • Learner 学习者,不参与选举,而是学习被批准的 value,至少读取 N/2+1 个 Accpetor,才能学习到一个通过的 value


选举过程是 Paxos 算法中最核心的内容,包含两个阶段:


阶段1、准备阶段
Proposer 生成全局唯一且递增的 ProposalID,向 Paxos 集群的所有机器发送 Prepare 请求,不携带 value,只携带 ProposalID


Acceptor 收到 Prepare 请求后,收到的 ProposalID 比之前已响应的所有提案的大

  • 在本地持久化 ProposalID,可记为 Max_ProposalID

  • 回复请求,并带上已经 Accept 的提案中 ProposalID 最大的 value,如果此时还没有已经 Accept 的提案,则返回 value 为空;

  • 做出承诺,不会 Accept 任何小于 Max_ProposalID 的提案。

否则,不回复或回复 Error



阶段2、选举阶段

Proposer 发送 Accept

Proposer 收集到一些 Prepare 回复,有 3 种情况:

  • 若回复数量 > 一半的 Acceptor 数量,且所有回复的 value 都为空时,则 Porposer 发出 accept 请求,并带上自己指定的 value。

  • 若回复数量 > 一半的 Acceptor 数量,且有的回复 value 不为空时,则 Porposer 发出 accept 请求,并带上回复中 ProposalID 最大的 value,作为自己的提案内容。

  • 若回复数量 <= 一半的 Acceptor 数量时,则尝试更新生成更大的 ProposalID,再转到准备阶段执行。


Acceptor 应答 Accept 

Accpetor 收到 Accpet 请求后,判断:

  • 若收到的 ProposalID >= Max_ProposalID,则回复提交成功,并持久化 ProposalID 和 value;

  • 若收到的 ProposalID < Max_ProposalID,则不回复或者回复提交失败。


Proposer 统计投票 

经过一段时间后,Proposer 会收集到一些 Accept 回复提交成功的情况,比如:

  • 当回复数量 > 一半的 Acceptor 数量时,则表示提交 value 成功,此时可以发一个广播给所有的 Proposer、Learner,通知它们已 commit 的 value;

  • 当回复数量 <= 一半的 Acceptor 数量时,则尝试更新生成更大的 ProposalID,转到准备阶段执行。

  • 当收到一条提交失败的回复时,则尝试更新生成更大的 ProposalID,也会转到准备阶段执行。


5、Zab 与 Paxos 的联系与区别

Zab(ZooKeeper Atomic Broadcast,ZooKeeper 原子广播协议) 是 ZooKeeper 保证事务一致性的协议,分为消息广播、崩溃恢复、数据同步阶段。Zab 协议是基于 Paxos 算法实现。


两者联系:

  • 都存在一个 Leader 进程的角色,负责协调多个 Follower 进程的运行

  • 都应用 Quorum 机制,Leader 进程都会等待超过半数的 Follower 做出正确的反馈后,才会将一个提案提交

  • 在 Zab 协议中,Zxid 中通过 epoch 来代表当前 Leader 周期;在 Paxos 算法中叫 Ballot Number

区别:

  • Paxos 是论文性质的理论,目的是设计一种通用的分布式一致性算法;而 Zab 协议是应用在 ZooKeeper 中对 Paxos 的实践,是一个为解决一致性特别设计的崩溃可恢复的原子消息广播算法。


剩余...

  • 分布式事务的解决方案

  • 解决分布式事务的开源组件

  • 三阶段提交比二阶段提交的改进

  • MySQL 如何实现 XA 规范

  • TCC 事务模型的实现

  • 分布式锁如何实现

  • 如何选择实现强一致性还是弱一致性

  • 如何设计分布式事务,实现最终一致性

  • RPC 如何实现

  • Dubbo 与 Spring Cloud 技术栈如何选型

  • 为什么需要网关,如何实现

  • 如何实现服务的注册与发现

  • 如何实现(全)链路追踪

  • 如何实现配置管理

  • 常见的负载均衡策略

  • 如何实现负载均衡

  • 常见的限流算法

  • 如何在分布式系统中限流

  • 如何实现熔断、降级

  • 如何实现数据库读写分离

  • 如何实现数据库分库分表、如何扩容

  • 一致性哈希的原理与应用

  • 如何生成分布式主键

  • NoSQL 数据库在系统中如何应用

  • 如何实现搜索(ES)

  • 如何实现文件存储

  • 如何实现任务调度

  • 什么场景如何使用了消息队列

  • 如何保证消息不被重复消费

  • 如何保证消息消费的时序性

  • 如何保证消息不丢失

  • 消息队列满了如何处理

  • 消息大量积压如何处理

  • 如何实现消息队列的高可用

  • 消息队列的技术选型

  • 从前端到后端,分布式系统中用到了哪些缓存

  • 如何解决缓存穿透、缓存击穿、缓存雪崩

  • 如何保证缓存与数据库的一致性

  • 如何制定缓存的失效策略

  • 如何实现缓存的高可用

  • 分布式系统如何实现监控,有哪些指标

  • 如何实现日志系统

  • 容器化和服务编排的应用

  • 如何理解 Service Mesh


浏览 44
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报