搜索

流数据处理利器

GoCN

共 753字，需浏览 2分钟

 ·

2020-10-14 08:20

流处理 (Stream processing) 是一种计算机编程范式，其允许给定一个数据序列 (流处理数据源)，一系列数据操作 (函数) 被应用到流中的每个元素。同时流处理工具可以显著提高程序员的开发效率，允许他们编写有效、干净和简洁的代码。

流数据处理在我们的日常工作中非常常见，举个例子，我们在业务开发中往往会记录许多业务日志，这些日志一般是先发送到 Kafka，然后再由 Job 消费 Kafaka 写到 elasticsearch，在进行日志流处理的过程中，往往还会对日志做一些处理，比如过滤无效的日志，做一些计算以及重新组合日志等等，示意图如下:


流处理工具 fx

go-zero是一个功能完备的微服务框架，框架中内置了很多非常实用的工具，其中就包含流数据处理工具fx，下面我们通过一个简单的例子来认识下该工具：

package main

import (
    "fmt"
    "os"
    "os/signal"
    "syscall"
    "time"

    "github.com/tal-tech/go-zero/core/fx"
)

func main() {
    ch := make(chan int)

    go inputStream(ch)
    go outputStream(ch)

    c := make(chan os.Signal, 1)
    signal.Notify(c, syscall.SIGTERM, syscall.SIGINT)
    <-c
}

func inputStream(ch chan int) {
    count := 0
    for {
        ch <- count
        time.Sleep(time.Millisecond * 500)
        count++
    }
}

func outputStream(ch chan int) {
    fx.From(func(source chan<- interface{}) {
        for c := range ch {
            source <- c
        }
    }).Walk(func(item interface{}, pipe chan<- interface{}) {
        count := item.(int)
        pipe <- count
    }).Filter(func(item interface{}) bool {
        itemInt := item.(int)
        if itemInt%2 == 0 {
            return true
        }
        return false
    }).ForEach(func(item interface{}) {
        fmt.Println(item)
    })
}

inputStream 函数模拟了流数据的产生，outputStream 函数模拟了流数据的处理过程，其中 From 函数为流的输入，Walk 函数并发的作用在每一个 item 上，Filter 函数对 item 进行过滤为 true 保留为 false 不保留，ForEach 函数遍历输出每一个 item 元素。

流数据处理中间操作

一个流的数据处理可能存在许多的中间操作，每个中间操作都可以作用在流上。就像流水线上的工人一样，每个工人操作完零件后都会返回处理完成的新零件，同理流处理中间操作完成后也会返回一个新的流。



fx 的流处理中间操作:

操作函数功能输入
Distinct去除重复的 itemKeyFunc，返回需要去重的 key
Filter过滤不满足条件的 itemFilterFunc，Option 控制并发量
Group对 item 进行分组KeyFunc，以 key 进行分组
Head取出前 n 个 item，返回新 streamint64 保留数量
Map对象转换MapFunc，Option 控制并发量
Merge合并 item 到 slice 并生成新 stream
Reverse反转 item
Sort对 item 进行排序LessFunc 实现排序算法
Tail与 Head 功能类似，取出后 n 个 item 组成新 streamint64 保留数量
Walk作用在每个 item 上WalkFunc，Option 控制并发量

下图展示了每个步骤和每个步骤的结果:



用法与原理分析

From

通过 From 函数构建流并返回 Stream，流数据通过 channel 进行存储：

// 例子
s := []int{1, 2, 3, 4, 5, 6, 7, 8, 9, 0}
fx.From(func(source chan<- interface{}) {
  for _, v := range s {
    source <- v
  }
})

// 源码
func From(generate GenerateFunc) Stream {
    source := make(chan interface{})

    go func() {
        defer close(source)
    // 构造流数据写入channel
        generate(source)
    }()

    return Range(source)
}

Filter

Filter 函数提供过滤 item 的功能，FilterFunc 定义过滤逻辑 true 保留 item，false 则不保留:

// 例子 保留偶数
s := []int{1, 2, 3, 4, 5, 6, 7, 8, 9, 0}
fx.From(func(source chan<- interface{}) {
  for _, v := range s {
    source <- v
  }
}).Filter(func(item interface{}) bool {
  if item.(int)%2 == 0 {
    return true
  }
  return false
})

// 源码
func (p Stream) Filter(fn FilterFunc, opts ...Option) Stream {
    return p.Walk(func(item interface{}, pipe chan<- interface{}) {
    // 执行过滤函数true保留，false丢弃
        if fn(item) {
            pipe <- item
        }
    }, opts...)
}

Group

Group 对流数据进行分组，需定义分组的 key，数据分组后以 slice 存入 channel:


// 例子 按照首字符"g"或者"p"分组，没有则分到另一组
ss := []string{"golang", "google", "php", "python", "java", "c++"}
fx.From(func(source chan<- interface{}) {
    for _, s := range ss {
        source <- s
    }
}).Group(func(item interface{}) interface{} {
    if strings.HasPrefix(item.(string), "g") {
        return "g"
    } else if strings.HasPrefix(item.(string), "p") {
        return "p"
    }
    return ""
}).ForEach(func(item interface{}) {
    fmt.Println(item)
})

// 源码
func (p Stream) Group(fn KeyFunc) Stream {
    // 定义分组存储map
    groups := make(map[interface{}][]interface{})
    for item := range p.source {
        // 用户自定义分组key
        key := fn(item)
        // key相同分到一组
        groups[key] = append(groups[key], item)
    }

    source := make(chan interface{})
    go func() {
        for _, group := range groups {
            // 相同key的一组数据写入到channel
            source <- group
        }
        close(source)
    }()

    return Range(source)
}

Reverse

reverse 可以对流中元素进行反转处理:



// 例子
fx.Just(1, 2, 3, 4, 5).Reverse().ForEach(func(item interface{}) {
  fmt.Println(item)
})

// 源码
func (p Stream) Reverse() Stream {
    var items []interface{}
  // 获取流中数据
    for item := range p.source {
        items = append(items, item)
    }
    // 反转算法
    for i := len(items)/2 - 1; i >= 0; i-- {
        opp := len(items) - 1 - i
        items[i], items[opp] = items[opp], items[i]
    }

  // 写入流
    return Just(items...)
}

Distinct

distinct 对流中元素进行去重，去重在业务开发中比较常用，经常需要对用户 id 等做去重操作:

// 例子
fx.Just(1, 2, 2, 2, 3, 3, 4, 5, 6).Distinct(func(item interface{}) interface{} {
  return item
}).ForEach(func(item interface{}) {
  fmt.Println(item)
})
// 结果为 1，2，3，4，5，6

// 源码
func (p Stream) Distinct(fn KeyFunc) Stream {
    source := make(chan interface{})

    threading.GoSafe(func() {
        defer close(source)
        // 通过key进行去重，相同key只保留一个
        keys := make(map[interface{}]lang.PlaceholderType)
        for item := range p.source {
            key := fn(item)
      // key存在则不保留
            if _, ok := keys[key]; !ok {
                source <- item
                keys[key] = lang.Placeholder
            }
        }
    })

    return Range(source)
}

Walk

Walk 函数并发的作用在流中每一个 item 上，可以通过 WithWorkers 设置并发数，默认并发数为 16，最小并发数为 1，如设置 unlimitedWorkers 为 true 则并发数无限制，但并发写入流中的数据由 defaultWorkers 限制，WalkFunc 中用户可以自定义后续写入流中的元素，可以不写入也可以写入多个元素:

// 例子
fx.Just("aaa", "bbb", "ccc").Walk(func(item interface{}, pipe chan<- interface{}) {
  newItem := strings.ToUpper(item.(string))
  pipe <- newItem
}).ForEach(func(item interface{}) {
  fmt.Println(item)
})

// 源码
func (p Stream) walkLimited(fn WalkFunc, option *rxOptions) Stream {
    pipe := make(chan interface{}, option.workers)

    go func() {
        var wg sync.WaitGroup
        pool := make(chan lang.PlaceholderType, option.workers)

        for {
      // 控制并发数量
            pool <- lang.Placeholder
            item, ok := <-p.source
            if !ok {
                <-pool
                break
            }

            wg.Add(1)
            go func() {
                defer func() {
                    wg.Done()
                    <-pool
                }()
                // 作用在每个元素上
                fn(item, pipe)
            }()
        }

    // 等待处理完成
        wg.Wait()
        close(pipe)
    }()

    return Range(pipe)
}

并发处理

fx 工具除了进行流数据处理以外还提供了函数并发功能，在微服务中实现某个功能往往需要依赖多个服务，并发的处理依赖可以有效的降低依赖耗时，提升服务的性能。



fx.Parallel(func() {
  userRPC() // 依赖1
}, func() {
  accountRPC() // 依赖2
}, func() {
  orderRPC() // 依赖3
})

注意 fx.Parallel 进行依赖并行处理的时候不会有 error 返回，如需有 error 返回或者有一个依赖报错需要立马结束依赖请求请使用MapReduce工具进行处理。

总结

本篇文章介绍了流处理的基本概念和 go-zero 中的流处理工具 fx，在实际的生产中流处理场景应用也非常多，希望本篇文章能给大家带来一定的启发，更好的应对工作中的流处理场景。

项目地址

https://github.com/tal-tech/go-zero

组件地址

https://github.com/tal-tech/go-zero/tree/master/core/fx

Example

https://github.com/tal-tech/go-zero/tree/master/example/fx

微信交流群

浏览 10
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
Python大数据处理利器，PySpark的入门实战
蚂蚁学Python
0
Data Accelerator简化流数据处理的数据管道
Data Accelerator 的一些方法可以更容易地在 Apache Spark 上构建流式传输
Data Accelerator简化流数据处理的数据管道
DataAccelerator的一些方法可以更容易地在ApacheSpark上构建流式传输管道：即插即用：轻松设置输入源和输出接收器，以便在几分钟内建立管道。DataAccelerator支持从Eve
数据处理过程
数据科学与人工智能
0
AndroidProjectToolsAndroid 利器
Android利器，Android开发常用功能大集合以及知识点的详解代码。此项目是小冰工作中总结常用
AndroidProjectToolsAndroid 利器
Android利器，Android开发常用功能大集合以及知识点的详解代码。此项目是小冰工作中总结常用的功能大集合，防止以后用到的话重复造轮子，而且还有常用控件以及难点的详解，注释非常啰嗦，纯粹是为了积
Open3D3D 数据处理库
Open3D是一个支持快速开发3D数据处理应用的开源库，使用C++和python实现前端和算法。后端经过高度优化，并设置为并行化。主要功能3D数据结构3D数据处理算法场景重建表面对齐3D可视化基于物理
ExcelSpice数据处理工具
用ExcelSpice处理数据ExcelSpice的目标是让数据检索、统计分析、标记、收藏、再利用工
ScribeFacebook大量数据处理
Scribe旨在帮助Facebook处理服务器上的大量数据，正像Scribe网页所述“如经常访问Fa
ExcelSpice数据处理工具
用ExcelSpice处理数据ExcelSpice的目标是让数据检索、统计分析、标记、收藏、再利用工作变得“极其简单”，它也可以作为VBA项目的第三方库，能够大幅简化代码，节省开发时间。它用VBA编写
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报