更高效的利用Jupyter+pandas进行数据分析，6种常用数据格式效率对比！

在使用Python进行数据分析时，Jupyter Notebook是一个非常强力的工具，在数据集不是很大的情况下，我们可以使用pandas轻松对txt或csv等纯文本格式数据进行读写。

然而当数据集的维度或者体积很大时，将数据保存并加载回内存的过程就会变慢，并且每次启动Jupyter Notebook时都需要等待一段时间直到数据重新加载， 这样csv格式或任何其他纯文本格式数据都失去了吸引力。

本文将对pandas支持的多种格式数据在处理数据的不同方面进行比较，包含I/O速度、内存消耗、磁盘占用空间等指标，试图找出如何为我们的数据找到一个合适的格式的办法！

现在对本文进行对比的几种数据格式进行说明。

• CSV：最常用的数据格式
• Pickle：用于序列化和反序列化Python对象结构
• MessagePack：类似于json，但是更小更块
• HDF5：一种常见的跨平台数据储存文件
• Feather：一个快速、轻量级的存储框架
• Parquet：Apache Hadoop的列式存储格式

为了找到格式来存储数据，本文选择以下指标进行对比。

• size_mb：带有序列化数据帧的文件的大小
• save_time：将数据帧保存到磁盘所需的时间
• load_time：将先前转储的数据帧加载到内存所需的时间
• save_ram_delta_mb：在数据帧保存过程中最大的内存消耗增长
• load_ram_delta_mb：数据帧加载过程中最大的内存消耗增长

注意，当我们使用有效压缩的二进制数据格式(例如Parquet)时，最后两个指标变得非常重要。它们可以帮助我们估算加载串行化数据所需的RAM数量，以及数据大小本身。我们将在下一部分中更详细地讨论这个问题。

现在开始对前文介绍的5种数据格式进行比较，为了更好地控制序列化的数据结构和属性我们将使用自己生成的数据集。

下面是生成测试数据的代码，我们随机生成具有数字和分类特征的数据集。数值特征取自标准正态分布。分类特征以基数为C的uuid4随机字符串生成，其中2 <= C <= max_cat_size。

def generate_dataset(n_rows, num_count, cat_count, max_nan=0.1, max_cat_size=100):

    dataset, types = {}, {}
    
    def generate_categories():
        from uuid import uuid4
        category_size = np.random.randint(2, max_cat_size)
        return [str(uuid4()) for _ in range(category_size)]
    
    for col in range(num_count):
        name = f'n{col}'
        values = np.random.normal(0, 1, n_rows)
        nan_cnt = np.random.randint(1, int(max_nan*n_rows))
        index = np.random.choice(n_rows, nan_cnt, replace=False)
        values[index] = np.nan
        dataset[name] = values
        types[name] = 'float32'
        
    for col in range(cat_count):
        name = f'c{col}'
        cats = generate_categories()
        values = np.array(np.random.choice(cats, n_rows, replace=True), dtype=object)
        nan_cnt = np.random.randint(1, int(max_nan*n_rows))
        index = np.random.choice(n_rows, nan_cnt, replace=False)
        values[index] = np.nan
        dataset[name] = values
        types[name] = 'object'
    
    return pd.DataFrame(dataset), types

现在我们以CSV文件保存和加载的性能作为基准。将五个随机生成的具有百万个观测值的数据集转储到CSV中，然后读回内存以获取平均指标。并且针对具有相同行数的20个随机生成的数据集测试了每种二进制格式。

同时使用两种方法进行对比：

• 1.将生成的分类变量保留为字符串
• 2.在执行任何I/O之前将其转换为pandas.Categorical数据类型

1.以字符串作为分类特征

下图显示了每种数据格式的平均I/O时间。这里有趣的发现是hdf的加载速度比csv更低，而其他二进制格式的性能明显更好，而feather和parquet则表现的非常好

保存数据并从磁盘读取数据时的内存消耗如何？下一张图片向我们展示了hdf的性能再次不那么好。但可以肯定的是，csv不需要太多额外的内存来保存/加载纯文本字符串，而feather和parquet则非常接近

最后，让我们看一下文件大小的对比。这次parquet显示出非常好的结果，考虑到这种格式是为有效存储大量数据而开发的，也是理所当然

2.对特征进行转换

在上一节中，我们没有尝试有效地存储分类特征，而是使用纯字符串，接下来我们使用专用的pandas.Categorical类型再次进行比较。

从上图可以看到，与纯文本csv相比，所有二进制格式都可以显示其真强大功能，效率远超过csv，因此我们将其删除以更清楚地看到各种二进制格式之间的差异。

可以看到feather和pickle拥有最快的I/O速度，接下来该比较数据加载过程中的内存消耗了。下面的条形图显示了我们之前提到的有关parquet格式的情况

为什么parquet内存消耗这么高？因为只要在磁盘上占用一点空间，就需要额外的资源才能将数据解压缩回数据帧。即使文件在持久性存储磁盘上需要适度的容量，也可能无法将其加载到内存中。

最后我们看下不同格式的文件大小比较。所有格式都显示出良好的效果，除了hdf仍然需要比其他格式更多的空间。

正如我们的上面的测试结果所示，feather格式似乎是在多个Jupyter之间存储数据的理想选择。它显示出很高的I/O速度，不占用磁盘上过多的内存，并且在装回RAM时不需要任何拆包。

当然这种比较并不意味着我们应该在每种情况下都使用这种格式。例如，不希望将feather格式用作长期文件存储。此外，当其他格式发挥最佳效果时，它并未考虑所有可能的情况。所以我们也需要根据具体情况进行选择！