Tuplex基于 Python 的并行大数据处理框架-技术圈

Tuplex基于 Python 的并行大数据处理框架

联合创作 · 2023-09-18

Tuplex 是一个并行的大数据处理框架，它以编译代码的速度运行用 Python 编写的数据科学管道。Tuplex 具有与Apache Spark或Dask类似的 Python API ，但与调用 Python 解释器不同，Tuplex 为给定的管道和输入数据集生成优化的 LLVM 字节码。在底层，Tuplex 基于数据驱动编译和双模式处理，这两项关键技术使 Tuplex 能够提供与手工优化的 C++ 编写的流水线相媲美的速度。

安装

要安装 Tuplex，您可以使用适用于 Linux 的 PyPi 包，或适用于 MacOS 的 Docker 容器，这将启动预装 Tuplex 的 jupyter notebook。

Docker

docker run -p 8888:8888 tuplex/tuplex

PyPI

pip install tuplex

构建

Tuplex 适用于 MacOS 和 Linux。当前版本已在 MacOS 10.13-10.15 和 Ubuntu 18.04 和 20.04 LTS 下测试。要安装 Tuplex，只需先安装依赖项，然后构建包。

MacOS 从源代码构建

要构建 Tuplex，您首先需要其他几个可以通过 brew 轻松安装的软件包。

brew install llvm@9 boost boost-python3 aws-sdk-cpp pcre2 antlr4-cpp-runtime googletest gflags yaml-cpp celero
python3 -m pip cloudpickle numpy
python3 setup.py install

从源代码构建 Ubuntu

为了便于安装 Ubuntu 的依赖项，我们提供了两个脚本（scripts/ubuntu1804/install_reqs.sh适用于 Ubuntu 18.04 或scripts/ubuntu2004/install_reqs.shUbuntu 20.04）。要创建 Tuplex 的最新版本，只需运行

./scripts/ubuntu1804/install_reqs.sh
python3 -m pip cloudpickle numpy
python3 setup.py install

编辑