MySQL:互联网公司常用分库分表方案汇总
点击上方“JAVA”,星标公众号
本文目录
IO瓶颈 CPU瓶颈
水平分库 水平分表 垂直分库 垂直分表
非partition key的查询问题 非partition key跨库跨表分页查询问题 扩容问题
一、数据库瓶颈
1、IO瓶颈
2、CPU瓶颈
二、分库分表
1、水平分库
每个库的结构都一样; 每个库的数据都不一样,没有交集; 所有库的并集是全量数据。
2、水平分表
每个表的结构都一样; 每个表的数据都不一样,没有交集; 所有表的并集是全量数据;
3、垂直分库
每个库的结构都不一样; 每个库的数据也不一样,没有交集; 所有库的并集是全量数据;
4、垂直分表
每个表的结构都不一样; 每个表的数据也不一样,一般来说,每个表的字段至少有一列交集,一般是主键,用于关联数据; 所有表的并集是全量数据;
三、分库分表工具
sharding-sphere:jar,前身是sharding-jdbc; TDDL:jar,Taobao Distribute Data Layer; Mycat:中间件。
注:工具的利弊,请自行调研,官网和社区优先。
四、分库分表步骤
五、分库分表问题
注:写入时,基因法生成user_id,如图。关于xbit基因,例如要分8张表,23=8,故x取3,即3bit基因。根据user_id查询时可直接取模路由到对应的分库或分表。 根据user_name查询时,先通过user_name_code生成函数生成user_name_code再对其取模路由到对应的分库或分表。id生成常用snowflake算法。
注:按照order_id或buyer_id查询时路由到db_o_buyer库中,按照seller_id查询时路由到db_o_seller库中。感觉有点本末倒置!有其他好的办法吗?改变技术栈呢?
2、非partition key跨库跨表分页查询问题
注:用NoSQL法解决(ES等)。
3、扩容问题
注:扩容是成倍的。
第一步:(同步双写)修改应用配置和代码,加上双写,部署; 第二步:(同步双写)将老库中的老数据复制到新库中; 第三步:(同步双写)以老库为准校对新库中的老数据; 第四步:(同步双写)修改应用配置和代码,去掉双写,部署;
注:双写是通用方案。
六、分库分表总结
分库分表,首先得知道瓶颈在哪里,然后才能合理地拆分(分库还是分表?水平还是垂直?分几个?)。且不可为了分库分表而拆分。 选key很重要,既要考虑到拆分均匀,也要考虑到非partition key的查询。 只要能满足需求,拆分规则越简单越好。
七、分库分表示例
作者:尜尜人物
cnblogs.com/littlecharacter/p/9342129.html
更多精彩?
在公众号【程序员编程】对话框输入以下关键词 查看更多优质内容! 大数据 | Java | 1024 | 电子书 | 速查表 Python进阶 | 面试 | 手册 | 成神 | 思想 | 小程序 命令行 | 人工智能 | 软件测试 | Web前端 | Python 获取更多学习资料
视频 | 面试 | 技术 | 电子书
评论