Go Glow分布式计算系统

联合创作 · 2023-10-01 06:51

Glow 是使用 Go 编写的易用分布式计算系统,是 Hadoop Map ReduceSpark,Flint,Samza 等等的替代品。

Glow 的目标是提供一个库,可以在并行线程或者分布式集群机器中进行更简单计算。

安装:

go get github.com/chrislusf/glow
go get github.com/chrislusf/glow/flow

简单示例:

package main
import (
    "flag"
    "strings"
    "github.com/chrislusf/glow/flow"
)
func main() {
    flag.Parse()
    flow.New().TextFile(
        "/etc/passwd", 3,
    ).Filter(func(line string) bool {
        return !strings.HasPrefix(line, "#")
    }).Map(func(line string, ch chan string) {
        for _, token := range strings.Split(line, ":") {
            ch <- token
        }
    }).Map(func(key string) int {
        return 1
    }).Reduce(func(x int, y int) int {
        return x + y
    }).Map(func(x int) {
        println("count:", x)
    }).Run()
}

浏览 10
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报