详解数据存储的 6 种可选技术-技术圈

导读：业务问题的范围太广、太深、太复杂，一种工具无法解决所有问题，在大数据和分析领域尤其如此。

作者：所罗伯·斯里瓦斯塔瓦（Saurabh Shrivastava）、内拉贾利·斯里瓦斯塔夫（Neelanjali Srivastav）

来源：数仓宝贝库（ID：DataBaby_Family）

热数据需要在内存中存储和处理，因此适合用缓存或内存数据库（如Redis或SAP Hana）。AWS提供了ElastiCache服务，可生成托管的Redis或Memcached环境。NoSQL数据库是面向高速但小规模记录（例如，用户会话信息或物联网数据）的理想选择。NoSQL数据库对于内容管理也很有用，可以存储数据目录。

01 结构化数据存储

结构化数据存储已经存在了几十年，是人们最熟悉的数据存储技术。大多数事务型数据库（如Oracle、MySQL、SQL Server和PostgreSQL）都是行式数据库，因为要处理来自软件应用程序的频繁数据写入。

企业经常将事务型数据库同时用于报表，在这种情况下，需要频繁读取数据，但数据写入频率要低得多。随着数据读取的需求越来越强，有更多的创新进入了结构化数据存储的查询领域，比如列式文件格式的创新，它有助于提高数据读取性能，满足分析需求。

基于行的格式将数据以行的形式存储在文件中。基于行的写入方式是将数据写入磁盘的最快方式，但它不一定能最快地读取，因为你必须跳过很多不相关的数据。

基于列的格式将所有的列值一起存储在文件中。这样会带来更好的压缩效果，因为相同的数据类型现在被归为一组。通常，它还能提供更好的读取性能，因为你可以跳过不需要的列。

我们来看结构化数据存储的常见选择。例如，你需要从订单表中查询某个月的销售总数，但该表有50列。在基于行的架构中，查询时会扫描整个表的50个列，但在列式架构中，查询时只会扫描订单销售列，因而提高了数据查询性能。我们再来详细介绍关系型数据库，重点介绍事务数据和数据仓库处理数据分析的需求。

1. 关系型数据库

RDBMS比较适合在线事务处理（OLTP）应用。流行的关系型数据库有Oracle、MSSQL、MariaDB、PostgreSQL等。其中一些传统数据库已经存在了几十年。

许多应用，包括电子商务、银行业务和酒店预订，都是由关系型数据库支持的。关系型数据库非常擅长处理表之间需要复杂联合查询的事务数据。从事务数据的需求来看，关系型数据库应该坚持原子性、一致性、隔离性、持久性原则，具体如下：

原子性：事务将从头到尾完全执行，一旦出现错误，整个事务将会回滚。
一致性：一旦事务完成，所有的数据都要提交到数据库中。
隔离性：要求多个事务能在隔离的情况下同时运行，互不干扰。
持久性：在任何中断（如网络或电源故障）的情况下，事务应该能够恢复到最后已知的状态。

通常情况下，关系型数据库的数据会被转存到数据仓库中，用于报表和聚合。

2. 数据仓库

数据仓库更适合在线分析处理（OLAP）应用。数据仓库提供了对海量结构化数据的快速聚合功能。虽然这些技术（如Amazon Redshift、Netezza和Teradata）旨在快速执行复杂的聚合查询，但它们并没有针对大量并发写入进行过优化。所以，数据需要分批加载，使得仓库无法在热数据上提供实时洞察。

现代数据仓库使用列式存储来提升查询性能，例如Amazon Redshift、Snowflake和Google Big Query。得益于列式存储，这些数据仓库提供了非常快的查询速度，提高了I/O效率。除此之外，Amazon Redshift等数据仓库系统还通过在多个节点上并行查询以及大规模并行处理（MPP）来提高查询性能。

数据仓库是中央存储库，可以存储来自一个或多个数据库的累积数据。它们存储当前和历史数据，用于创建业务数据的分析报告。

虽然，数据仓库集中存储来自多个系统的数据，但它们不能被视为数据湖。数据仓库只能处理结构化的关系型数据，而数据湖则可以同时处理结构化的关系型数据和非结构化的数据，如JSON、日志和CSV数据。

Amazon Redshift等数据仓库解决方案可以处理PB级的数据，并提供解耦的计算和存储功能，以节省成本。除了列式存储外，Redshift还使用数据编码、数据分布和区域映射来提高查询性能。比较传统的基于行的数据仓库解决方案包括Netezza、Teradata和Greenplum。

02 NoSQL数据库

NoSQL数据库（如Dynamo DB、Cassandra和Mongo DB）可以解决在关系型数据库中经常遇到的伸缩和性能挑战。顾名思义，NoSQL表示非关系型数据库。NoSQL数据库储存的数据没有明确结构机制连接不同表中的数据（没有连接、外键，也不具备范式）。

NoSQL运用了多种数据模型，包括列式、键值、搜索、文档和图模型。NoSQL数据库提供可伸缩的性能、具有高可用性和韧性。

NoSQL通常没有严格的数据库模式，每条记录都可以有任意数量的列（属性），这意味着某一行可以有4列，而同一个表中的另一行可以有10列。分区键用于检索包含相关属性的值或文档。NoSQL数据库是高度分布式的，可以复制。NoSQL数据库非常耐用，高可用的同时不会出现性能问题。

SQL数据库已经存在了几十年，大多数人可能已经非常熟悉关系型数据库。我们来看SQL数据库和NoSQL数据库之间的一些重大区别（见表1）。

▼表1 SQL数据库和NoSQL数据库的区别

根据数据特点，市面上有各种类别的NoSQL数据存储来解决特定的问题。我们来看NoSQL数据库的类型。

03 NoSQL数据库类型

NoSQL数据库的主要类型如下：

列式数据库：Apache Cassandra和Apache HBase是流行的列式数据库。列式数据存储有助于在查询数据时扫描某一列，而不是扫描整行。如果物品表有10列100万行，而你想查询库存中某一物品的数量，那么列式数据库只会将查询应用于物品数量列，不需要扫描整个表。
文档数据库：最流行的文档数据库有MongoDB、Couchbase、MarkLogic、Dynamo DB和Cassandra。可以使用文档数据库来存储JSON和XML格式的半结构化数据。
图数据库：流行的图数据库包括Amazon Neptune、JanusGraph、TinkerPop、Neo4j、OrientDB、GraphDB和Spark上的GraphX。图数据库存储顶点和顶点之间的链接（称为边）。图可以建立在关系型和非关系型数据库上。
内存式键值存储：最流行的内存式键值存储是Redis和Memcached。它们将数据存储在内存中，用于数据读取频率高的场景。应用程序的查询首先会转到内存数据库，如果数据在缓存中可用，则不会冲击主数据库。内存数据库很适合存储用户会话信息，这些数据会导致复杂的查询和频繁的请求数据，如用户资料。

NoSQL有很多用例，但要建立数据搜索服务，需要对所有数据建立索引。

04 搜索数据存储

Elasticsearch是大数据场景（如点击流和日志分析）最受欢迎的搜索引擎之一。搜索引擎能很好地支持对具有任意数量的属性（包括字符串令牌）的温数据进行临时查询。Elasticsearch非常流行。一般的二进制或对象存储适用于非结构化、不可索引和其他没有专业工具能理解其格式的数据。

Amazon Elasticsearch Service管理Elasticsearch集群，并提供API访问。它还提供了Kibana作为可视化工具，对Elasticsearch集群中的存储的索引数据进行搜索。

AWS管理集群的容量、伸缩和补丁，省去了运维开销。日志搜索和分析是常见的大数据应用场景，Elasticsearch可以帮助你分析来自网站、服务器、物联网传感器的日志数据。Elasticsearch被大量的行业应用使用，如银行、游戏、营销、应用监控、广告技术、欺诈检测、推荐和物联网等。

05 非结构化数据存储

当你有非结构化数据存储的需求时，Hadoop似乎是一个完美的选择，因为它是可扩展、可伸缩的，而且非常灵活。它可以运行在消费级设备上，拥有庞大的工具生态，而且运行起来似乎很划算。

Hadoop采用主节点和子节点模式，数据分布在多个子节点，由主节点协调作业，对数据进行查询运算。Hadoop系统依托于大规模并行处理（MPP），这使得它可以快速地对各种类型的数据进行查询，无论是结构化数据还是非结构化数据。

在创建Hadoop集群时，从服务器上创建的每个子节点都会附带一个称为本地Hadoop分布式文件系统（HDFS）的磁盘存储块。你可以使用常见的处理框架（如Hive、Ping和Spark）对存储数据进行查询。但是，本地磁盘上的数据只在相关实例的生命期内持久化。

如果使用Hadoop的存储层（即HDFS）来存储数据，那么存储与计算将耦合在一起。增加存储空间意味着必须增加更多的机器，这也会提高计算能力。为了获得最大的灵活性和最佳成本效益，需要将计算和存储分开，并将两者独立伸缩。

总的来说，对象存储更适合数据湖，以经济高效的方式存储各种数据。基于云计算的数据湖在对象存储的支持下，可以灵活地将计算和存储解耦。

06 数据湖

数据湖是结构化和非结构化数据的集中存储库。数据湖正在成为在集中存储中存储和分析大量数据的一种流行方式。它按原样存储数据，使用开源文件格式来实现直接分析。

由于数据可以按当前格式原样存储，因此不需要将数据转换为预定义的模式，从而提高了数据摄取的速度。如图1所示，数据湖是企业中所有数据的单一真实来源。

▲图1 数据湖的对象存储

数据湖的好处如下：

从各种来源摄取数据：数据湖可以让你在一个集中的位置存储和分析来自各种来源（如关系型、非关系型数据库以及流）的数据，以产生单一的真实来源。它解答了一些问题，例如，为什么数据分布在多个地方？单一真实来源在哪里？
采集并高效存储数据：数据湖可以摄取任何类型的数据，包括半结构化和非结构化数据，不需要任何模式。这就回答了如何从各种来源、各种格式的数据中快速摄取数据，并高效地进行大规模存储的问题。
随着产生的数据量不断扩展：数据湖允许你将存储层和计算层分开，对每个组件分别伸缩。这就回答了如何随着产生的数据量进行伸缩的问题。
将分析方法应用于不同来源的数据：通过数据湖，你可以在读取时确定数据模式，并对从不同资源收集的数据创建集中的数据目录。这使你能够随时、快速地对数据进行分析。这回答了是否能将多种分析和处理框架应用于相同的数据的问题。

你需要为数据湖提供一个能无限伸缩的数据存储解决方案。将处理和存储解耦会带来巨大的好处，包括能够使用各种工具处理和分析相同的数据。虽然这可能需要一个额外的步骤将数据加载到对应工具中，但使用Amazon S3作为中央数据存储比传统存储方案有更多的好处。

数据湖还有其他好处。它能让你的架构永不过时。假设12个月后，可能会有你想要使用的新技术。因为数据已经存在于数据湖，你可以以最小的开销将这种新技术插入工作流程中。通过在大数据处理流水线中构建模块化系统，将AWS S3等通用对象存储作为主干，当特定模块不再适用或有更好的工具时，可以自如地替换。

关于作者：所罗伯·斯里瓦斯塔瓦（Saurabh Shrivastava）是一位技术领导者、作家、发明家和公开演说家，在IT行业拥有超过16年的工作经验。他目前在Amazon Web Services（AWS）担任解决方案架构师团队负责人，帮助全球咨询合作伙伴和企业客户展开云计算之旅。他还牵头了全球技术伙伴的合作，并且拥有云平台自动化领域的专利。

内拉贾利·斯里瓦斯塔夫（Neelanjali Srivastav）是一位技术领导者、敏捷教练和云计算从业者，在软件行业拥有超过14年的经验。她拥有昌迪加尔旁遮普大学生物信息学和信息技术专业的学士和硕士学位。

本文摘编自《解决方案架构师修炼之道》，经出版方授权发布。（ISBN：9787111694441）转载请保留文章出处。