在容器里设置GOMAXPROCS的正确姿势
共 1574字,需浏览 4分钟
·
2021-06-03 00:15
GOMAXPROCS 是 Go 提供的非常重要的一个环境变量。通过设定 GOMAXPROCS,用户可以调整调度器中 Processor(简称P)的数量。由于每个系统线程必须要绑定 P ,P 才能把 G 交给 M 执行。如下图所示
所以 P 的数量会很大程度上影响 Go Runtime 的并发表现。GOMAXPROCS 在 Go 1.5 版本后的默认值是机器的 CPU 核数 (runtime.NumCPU)。通过下面的代码片段可以获取当前机器的核心数和给 GOMAXPROCS 设置的值。
package main
import (
"fmt"
"runtime"
)
func getGOMAXPROCS() int {
_ := runtime.NumCPU() // 获取机器的CPU核心数
return runtime.GOMAXPROCS(0) // 参数为零时用于获取给GOMAXPROCS设置的值
}
func main() {
fmt.Printf("GOMAXPROCS: %d\n", getGOMAXPROCS())
}
而以 Docker 为代表的容器虚拟化技术,会通过 cgroup 等技术对 CPU 资源进行隔离。以 Kubernetes 为代表的基于容器虚拟化实现的资源管理系统,也支持这样的特性,比如下面这个 PodTemplate 的容器的定义里 limits.cpu = 1000m 就代表给这个容器分配1个核心的使用时间。
这类技术对 CPU 的隔离限制,导致 runtime.NumCPU()
无法正确获取到容器被分配的 CPU 资源数。runtime.NumCPU()
获取的是宿主机的核心数。
设置 GOMAXPROCS 高于真正可使用的核心数后会导致Go调度器不停地进行OS线程切换,从而给调度器增加很多不必要的工作。
目前 Go 官方并无好的方式来规避在容器里获取不到真正可使用的核心数这一问题,而 Uber 提出了一种 Workaround 方法,利用 uber-go/automaxprocs 这一个包,可以在运行时根据 cgroup 为容器分配的CPU资源限制数来修改 GOMAXPROCS。
import _ "go.uber.org/automaxprocs"
func main() {
// Your application logic here.
}
参考资料:
https://gaocegege.com/Blog/maxprocs-cpu
https://stackoverflow.com/questions/36492356/parallel-programming-in-go-using-gomaxprocs/36492517#36492517
推荐阅读