100天搞定机器学习 番外：使用FastAPI构建机器学习API

100天搞定机器学习：模型训练好了，然后呢？

FastAPI

FastAPI 是一个高性能 Web 框架，用于构建 API。

FastAPI 建立在 Starlette 和 Pydantic 之上。

• Starlette：轻量级的 ASGI 框架和工具包，用来构建高性能的 asyncio 服务
• Pydantic：Python中用于数据接口schema定义与检查的库。通过它，可以更为规范地定义和使用数据接口。

想要深入学习这两个库，可以移步对应官方文档：

https://pydantic-docs.helpmanual.io/
https://www.starlette.io/

实际应用中，FastAPI 需要与Uvicorn一起使用，Uvicorn主要用于加载和提供应用程序的服务器。

FastAPI和Uvicorn的使用方法

使用之前先安装

pip install fastapi
pip install uvicorn

看一个小例子，感受一下FastAPI 多方便，多简单：

from typing import Optional
from fastapi import FastAPI
import uvicorn
#创建FastAPI实例
app = FastAPI()

#创建访问路径
@app.get("/")
def read_root():#定义根目录方法
    return {"message": "Hello World"}#返回响应信息

#定义方法，处理请求
@app.get("/items/{item_id}")
async def read_item(item_id: int):
    return {"item_id": item_id}

#运行
if __name__ == '__main__':
    uvicorn.run(app, host="127.0.0.1", port=8000)

uvicron服务器运行之后可以尝试访问

http://127.0.0.1:8000/items/666，返回：

也可进在文档中调试

打开交互文档(Swagger UI)：http://127.0.0.1:8000/docs
也可以访问API文档(ReDoc)：http://127.0.0.1:8080/redoc

FastAPI部署机器学习模型

第一步：准备模型

import numpy as np
import os
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
import joblib
from sklearn import datasets


def main():
    clf = LogisticRegression()
    p = Pipeline([('clf', clf)])
    print('Training model...')
    p.fit(X, y)
    print('Model trained!')

    filename_p = 'IrisClassifier.pkl'
    print('Saving model in %s' % filename_p)
    joblib.dump(p, filename_p)
    print('Model saved!')


if __name__ == "__main__":
    print('Loading iris data set...')
    iris = datasets.load_iris()
    X, y = iris.data, iris.target
    print('Dataset loaded!')
    main()

第二步：创建FastAPI实例

import uvicorn
from fastapi import FastAPI 
import joblib
from os.path import dirname, join, realpath
from typing import List

app = FastAPI(
    title="Iris Prediction Model API",
    description="A simple API that use LogisticRegression model to predict the Iris species",
    version="0.1",
)


# load  model

with open(
    join(dirname(realpath(__file__)), "models/IrisClassifier.pkl"), "rb"
) as f:
    model = joblib.load(f)

def data_clean(str):
    arr = str.split(',')
    arr = list(map(float,arr))
    return arr
    
# Create Prediction Endpoint
@app.get("/predict-result")
def predict_iris(request):
    # perform prediction
    request = data_clean(request)
    prediction = model.predict([request])
    output = int(prediction[0])
    probas = model.predict_proba([request])
    output_probability = "{:.2f}".format(float(probas[:, output]))
    
    # output dictionary
    species = {0: "Setosa", 1: "Versicolour", 2:"Virginica"}
    
    # show results
    result = {"prediction": species[output], "Probability": output_probability}
    return result

if __name__ == '__main__':
    uvicorn.run(app, host="127.0.0.1", port=8001)

第三步：传入参数

我们用模型预测属性为以下值时Iris应该属于哪一类，并输出预测概率。
sepal_length=7.233
sepal_width=4.652
petal_length=7.39
petal_width=0.324

打开网址，传入参数 

http://127.0.0.1:8001/predict-result?request=7.233%2C4.652%2C7.39%2C0.324

bingo！