【进阶篇】Python+Go——带大家一起另寻途径提高计算性能

共 3950字,需浏览 8分钟

 ·

2022-02-14 08:09

点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

一腔热血勤珍重,洒去犹能化碧涛。

/1 前言/

    在上一篇文章中,【基础篇】Python+Go——带大家一起另寻途径提高计算性能,我们成功的通过Python调用Go代码,并且把计算密集的交给了Go来进行计算,虽然计算的很快,但是在获取返回值时,似乎有点让人诧异,并不是我们想象的那样子。


/2 造成返回值错误的原因是什么?/

        在上一篇文章中,我们似乎都忘了一张图。


    .go文件是Go的,不多说,.so是Python调用Go的文件,那.h文件是什么???似乎很没有存在感,我们的问题出,也就出在这个.h文件中,我们打开看一下


    我们往下翻翻,会找到extern开头的声明,这个意思是将Go代码转为C代码一一对应的参数,可见,转为C的是GoInt类型,这个类型具体什么意思呢???再找找看。

    在上面其实大概可以发现,GoInt其实就是GoInt64,GoInt64的类型是long long类型,这是玩意???

    其实我们在Python中调用.so文件使用的是ctypes模块,这个是有一个对应表的。


/3 Python,ctypes , c 类型对应表/

官网地址:

https://docs.python.org/3.5/library/ctypes.html


ctypes typeC typePython type
c_bool_Boolbool (1)
c_charchar1-character  bytes object
c_wcharwchar_t1-character  string
c_bytecharint
c_ubyteunsigned charint
c_shortshortint
c_ushortunsigned shortint
c_intintint
c_uintunsigned intint
c_longlongint
c_ulongunsigned longint
c_longlong__int64 or long longint
c_ulonglongunsigned  __int64 or unsigned long longint
c_size_tsize_tint
c_ssize_tssize_t or Py_ssize_tint
c_floatfloatfloat
c_doubledoublefloat
c_longdoublelong doublefloat
c_char_pchar * (NUL  terminated)bytes object  or None
c_wchar_pwchar_t * (NUL  terminated)string or None
c_void_pvoid *int or None


    根据上述表格我们可以发现,在C中的long long类型对应的ctype类型是c_longlong。


    所以我们需要在Python将.so中的返回值改一下,不能使用系统默认的了。代码如下:

from ctypes import *import time
class StructPointer(Structure): # 根据查表,C中的long long,对应的ctypes 是 c_longlong # _fields_必须是[](列表)类型,里面写对应的类型,固定格式 _fields_ = [("p", c_longlong,),]
if __name__ == '__main__': beginTime = time.time() s = CDLL("s1.so") # 加载s1.so文件 s.run.restype = StructPointer # 声明.so的run函数返回值类型,固定格式 result = s.run(100000000) # 调用Go生成的.so文件里面的run函数
print("result:", result.p)# 此处需要调用.p来获取值,和 _fields_对应 endTime = time.time() print("耗时:", endTime - beginTime)


    再次执行:

    

    可以看到,这次Python执行的结果和Go执行结果就一个样了。继续,换个数字试试看。

    基本可以确定,这次是没问题了。


/4 如果返回的是字符串呢?/

Go代码

package main
import ( "C" //C必须导入 "fmt")
//export runfunc run(n int) int{ /* 必须要export 函数名 //是注释的意思,相当于Python中的 # 我也是第一次见注释还有作用 */ sum := 0 for i := 0; i < n; i++ { sum += i } fmt.Println("我是Go代码,我跑完了,我的结果是:",sum) return sum}
//export speakfunc speak(n int) string{
return "OMG 996好累呀,难得休息一天,好好休息"}func main() { //main函数中什么都不要写,和包名main要对应}


    下面一起来理解.h文件。编译之后打开.h文件如下图所示:


    可以看到,在extern的函数成了两个,但是他的返回值是GoString,继续找。


    可以发现,其实GoString就是_GoString_,继续找。

    

    这次是一个结构体,里面其实是两个值,不在是单独的long long了,那Python中的继承类也要改一下了。


下面基本同上。

完整代码如下:

from ctypes import *import time
class StructPointer(Structure): # 根据查表,C中的long long,对应的ctypes 是 c_longlong # _fields_必须是[](列表)类型,里面写对应的类型,固定格式 _fields_ = [("p", c_longlong,),]
class StrPointer(Structure): # typedef struct { const char *p; ptrdiff_t n; } _GoString_; # ptrdiff_t == long long _fields_ = [("p", c_char_p), ("n", c_longlong)]
if __name__ == '__main__': beginTime = time.time() s = CDLL("s1.so") # 加载s1.so文件
s.run.restype = StructPointer # 声明.so的run函数返回值类型,固定格式 result = s.run(100000798) # 调用Go生成的.so文件里面的run函数 print("result:", result.p)# 此处需要调用.p来获取值,和 _fields_对应
s.speak.restype = StrPointer speakStr = s.speak() # 返回的是字节类型,需要转字符串,返回的内容在.p中,.n是切的长度,后面会跟一些介绍,不需要 speakStr = str(speakStr.p[:speakStr.n], encoding="utf-8") print("speak:",speakStr)
endTime = time.time() print("耗时:", endTime - beginTime)


结果:

    可以看到,调用Go代码成功的拿到了正确的字符串返回值,如果没有 .restype = StrPointer拿到的会是什么呢?拿到会和原来的一样,一堆数字,这里就不举栗子了。


/5 小结/

    至此,基本上在Python调用Go代码上的大坑都解决了,最复杂的是返回字符串类型,查了很多相关资料才解决。

    关于返回其他类型的Python的class怎么写,我相信已经难为不到你们了,最复杂的都解决了,最简单的还不会吗?(除字符串类型以外其他_fields_都是一个字段的)

    我相信各位小伙伴学习能力还是很强的,人生苦短,Python当歌,加油,奥利给!

    感谢你们的支持和鼓励,期待我们越来越好,周末愉快~

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

浏览 31
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报