分布式系统唯一 ID 生成方案

共 4654字,需浏览 10分钟

 ·

2021-05-24 21:48

0x01:简介

系统唯一ID是我们在开发过程中遇到的一个常见问题,简单的来说,生成ID的方式有很多种,它们适应不同性能。


0x02:常见方案

一、数据库自增长序列或者字段

这是最常见的方式,利用数据库的AUTO_INCREMENT

优点

  • 简单,代码方便,性能可接受

  • 数字ID具有天然排序,对需要分页或者排序的结果很有帮组

缺点

  • 不同数据库的语法和实现不同,数据库迁移或者数据库版本支持的时候需要处理

  • 在单个数据库或读写分离或者一主多从的情况下,只有一个主库可以生成,可能会造成单点故障。

  • 在性能达不到要求的情况下,比较难扩展。

  • 分表分库的时候会比较麻烦

优化点

  • 针对主库单点,如果是有多个master库,则每个master库设置的起始数字不一样,但是他们的步长一样,可以是master的个数,比如是1、4、7、10,master2生成的是2、5、8、11,master3生成的是3、6、9、12~这样就可以有效生成集群中的唯一ID,也可以大大降低ID生成数据库操作的负载。


二、UUID

这是最常见的方式,可以利用数据库也可以利用程序生成。

优点

  • 简单,代码生成方便

  • 生成ID的性能非常好,基本不会有性能问题。

  • 全球唯一,在遇见数据迁移,系统数据合并,或者数据库变更时,很难产生冲突,较易解决。

缺点

  • 没有排序,无法保证趋势递增

  • UUID往往使用的是字符串存储,查询效率比较低

  • 存储空间比较大,一般是16位或者32位

  • 传输数据量大

  • 不可读


三、UUID 变种

为了解决UUID不可读,可以使用UUID to Int64的方法。及

/// <summary>
/// 根据GUID获取唯一数字序列
/// </summary>
public static long GuidToInt64() {
    byte[] bytes = Guid.NewGuid().ToByteArray();
    return BitConverter.ToInt64(bytes, 0);

}

为了解决UUID无序的问题,NHibernate在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。

/// <summary> 
/// Generate a new <see cref="Guid"/> using the comb algorithm. 
/// </summary> 
private Guid GenerateComb()
{
    byte[] guidArray = Guid.NewGuid().ToByteArray();
    DateTime baseDate = new DateTime(190011);
    DateTime now = DateTime.Now;
    // Get the days and milliseconds which will be used to build    
    //the byte string    
    TimeSpan days = new TimeSpan(now.Ticks - baseDate.Ticks);
    TimeSpan msecs = now.TimeOfDay;
    // Convert to a byte array        
    // Note that SQL Server is accurate to 1/300th of a    
    // millisecond so we divide by 3.333333    
    byte[] daysArray = BitConverter.GetBytes(days.Days);
    byte[] msecsArray = BitConverter.GetBytes((long)
      (msecs.TotalMilliseconds / 3.333333));
    // Reverse the bytes to match SQL Servers ordering    
    Array.Reverse(daysArray);
    Array.Reverse(msecsArray);

    // Copy the bytes into the guid    
    Array.Copy(daysArray, daysArray.Length - 2, guidArray,
      guidArray.Length - 62);
    Array.Copy(msecsArray, msecsArray.Length - 4, guidArray,
      guidArray.Length - 44);
    return new Guid(guidArray);
}

用上面的算法测试一下,得到如下的结果:作为比较,前面3个是使用COMB算法得出的结果,最后12个字符串是时间序(统一毫秒生成的3个UUID),过段时间如果再次生成,则12个字符串会比图示的要大。后面3个是直接生成的GUID。


四、Redis 生成 ID

当使用数据库来生成ID性能不能够达到要求时,可以使用Redis来生成ID,这主要依赖于Redis是单线程的,所有也可以利用生成全局唯一ID,可以使用Redis的INCR或INCRBY来实现

可以使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。可以初始化每台Redis的值分别是1,2,3,4,5,然后步长都是5。各个Redis生成的ID为:

A:1,6,11,16,21
B:2,7,12,17,22
C:3,8,13,18,23
D:4,9,14,19,24
E:5,10,15,20,25

这个,随便负载到哪个机确定好,未来很难做修改。但是3-5台服务器基本能够满足上,都可以获得不同的ID。但是步长和初始值一定需要事先需要了。使用Redis集群也可以方式单点故障的问题。

另外,比较适合使用Redis来生成每天从0开始的流水号。比如订单号 = 日期 + 当日自增长号。可以每天在Redis中生成一个Key,使用INCR进行累加。

优点

  • 不依赖数据库,灵活方便,且性能优于数据库

  • 数字ID天然排序,对分页或者需要有排序的结果良好

缺点

  • 如果系统中没有Redis,还需要引入Redis,增加了系统组件的复杂度

  • 如需要编码和配置的工作量比较大


四、利用 zookeeper 生成唯一 ID

zookeeper主要通过其znode数据版本来生成序列号,可以生成32位和64位的数据版本号,客户端可以使用这个版本号来作为唯一的序列号。

很少会使用zookeeper来生成唯一ID。主要是由于需要依赖zookeeper,并且是多步调用API,如果在竞争较大的情况下,需要考虑使用分布式锁。因此,性能在高并发的分布式环境下,也不甚理想。


五、MongoDB 的 ObjectId

MongoDB的ObjectId和snowflake算法类似。它设计成轻量型的,不同的机器都能用全局唯一的同种方法方便地生成它。MongoDB 从一开始就设计用来作为分布式数据库,处理多个节点是一个核心要求。使其在分片环境中要容易生成得多。

六、Twitter的snowflake算法

snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。其核心思想是:使用41bit作为毫秒数,10bit作为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit作为毫秒内的流水号(意味着每个节点在每毫秒可以产生 4096 个 ID),最后还有一个符号位,永远是0。具体实现的代码可以参看:

https://github.com/twitter/snowflake

喜欢,在看


浏览 31
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报