摊牌了,我是热心网友!

共 3757字,需浏览 8分钟

 ·

2021-11-27 14:20

大家好,我是热心网友 —— 小林。

有位读者问了,我这么一个问题:

不管是 RPC 或者 HTTP,只要传输的内容是「对象」,要想在接收方还原出一摸一样的「对象」,那就需要序列化和反序列化。

那什么是序列化和反序列化呢?

RPC 能帮助我们的应用透明地完成远程调用,即调用其他服务器的函数就像调用本地方法一样。发起调用请求的那一方叫做调用方,被调用的一方叫做服务提供方。

调用方和服务提供方一般是不同的服务器,所以就需要通过网络来传输数据,并且 RPC 常用于业务系统之间的数据交互,需要保证其可靠性,所以 RPC 一般默认采用 TCP 协议来传输。同时, HTTP 协议也是建立在 TCP 之上的。

网络传输的数据必须是二进制数据,但调用方请求的出入参数都是对象,而对象是肯定没法直接在网络中传输的,需要提前把「对象转成二进制数据」进行网络传输,这个转换过程就做序列化。相反,服务提供方收到网络数据后,需要将「二进制数据转成对象」,这个转换过程就叫做反序列化。

总结来说,序列化就是将对象转换成二进制数据的过程,以方便传输或存储。而反序列就是将二进制转换为对象的过程。

为什么 RPC 经常提到序列化呢?

因为网络传输的数据必须是二进制数据,所以在 RPC 调用中,对入参对象与返回值对象进行序列化与反序列化是一个必须的过程。

HTTP 什么时候需要序列化呢?

举个例子。

当客户端和服务端交互的数据是 JSON,这时候发送方需要将 JSON 对象转换成二进制数据发送到网络,接收方需要将接收到的二进制数据转换成 JSON 对象。

说了,这么多概念,接下来跟大家说说有哪些常用的序列化方式?

JDK 原生序列化

Java 语言中 JDK 就自带有序列化的方式,举个 JDK 序列化的例子。

注意,这个例子是将 Student 对象保存到文件,保存到文件的数据是二进制数据,所以并不是说序列化只用在网络传输场景里,只要是保存数据的场景只能是二进制数据时,就需要用序列化。

import java.io.*;

public class Student implements Serializable {
    //学号
    private int no;
    //姓名
    private String name;

    public int getNo() {
        return no;
    }

    public void setNo(int no) {
        this.no = no;
    }

    public String getName() {
        return name;
    }

    public void setName(String name) {
        this.name = name;
    }

    @Override
    public String toString() {
        return "Student{" +
                "no=" + no +
                ", name='" + name + '\'' +
                '}';
    }

    public static void main(String[] args) throws IOException, ClassNotFoundException {
       
        String basePath = "/root";
        FileOutputStream fos = new FileOutputStream(basePath + "student.dat");
        
        //初始化一个学生对象
        Student student = new Student();
        student.setNo(1);
        student.setName("xiaolin");
        
        //将学生对象序列化到文件里
        ObjectOutputStream oos = new ObjectOutputStream(fos);
        oos.writeObject(student);
        oos.flush();
        oos.close();

        //读取文件中的二进制数据,并将数据反序列化为学生对象
        FileInputStream fis = new FileInputStream(basePath + "student.dat");
        ObjectInputStream ois = new ObjectInputStream(fis);
        Student deStudent = (Student) ois.readObject();
        ois.close();

        System.out.println(deStudent);
    }
}

从上面的代码,我们可以知道:

  • JDK 自带的序列化具体的实现是由 ObjectOutputStream 完成的;

  • 而反序列化的具体实现是由 ObjectInputStream 完成的。

既然序列化是将对象转换为二进制数据,那序列化的过程的二进制数据肯定是有某种固定的格式。

比如 JDK 自带的序列化的过程如下图:

序列化过程就是在读取对象数据的时候,不断加入一些特殊分隔符,这些特殊分隔符用于在反序列化过程中截断用。

  • 头部数据用来声明序列化协议、序列化版本,用于高低版本向后兼容;

  • 对象数据主要包括类名、签名、属性名、属性类型及属性值,当然还有开头结尾等数据,除了属性值属于真正的对象值,其他都是为了反序列化用的元数据

  • 存在对象引用、继承的情况下,就是递归遍历“写对象”逻辑

所以,从这个例子我们可以知道,任何一种序列化的方式,其核心思想就要设计一套将对象转换成某种特定格式的二进制数据,接着反序列化的时候,就能根据规则从二进制数据解析出对象。

这么看,序列化其实就是一种协议,序列化方和反序列化方都要遵循相同的规则,否则就无法得到正常的数据。

不过,JDK 原生序列化缺陷就是不能跨语言,只能在 Java 生态里使用。

JSON

JSON 数据的格式相信大家都很熟悉了吧,在 Web 应用里特别常见,通常后端和前端的耦合就是 JSON 数据。

JSON 是典型的 Key-Value 方式,没有数据类型。很多语言都实现了 JSON 序列化的第三库,所以 JSON 序列化的方式可以跨语言。

比如,Java 语言中常用的 JSON 第三方类库有:

  • Gson: 谷歌开发的 JSON 库,功能十分全面。

  • FastJson: 阿里巴巴开发的 JSON 库,性能十分优秀。

  • Jackson: 社区十分活跃且更新速度很快。

我这里说个 C++ 的 JSON 第三方库:JSON for Modern C++。

使用起来很方便,仅需要包含一个头文件“json.hpp”,没有外部依赖,也不需要额外的安装、编译、链接工作,适合快速上手开发。

因为 JSON 是 Key-Value 形式,所以 JSON for Modern C++ 的操作和标准容器 map 一样,用关联数组的“[]”来添加任意数据。

这里贴几个例子:

// 给 JSON for Modern C++ 的 json 类取个别名
using json_t = nlohmann::json;  
// JSON对象
json_t j;                                   

// "age":18
j["age"] = 18;
// "name":"xiaolin"
j["name"] = "xiaolin";    
// "gear":{"suits":"2099"}
j["gear"]["suits"] = "2099"
// "jobs":["superhero"]  
j["jobs"] = {"superhero"};                  

vector<int> v = {1,2,3};  
// "numbers":[1,2,3]
j["numbers"] = v;                          

map<stringint> m =                       
    {{"one"1}, {"two"2}};    
// "kv":{"one":1,"two":2}
j["kv"] = m;                               

添加完 JSON 数据后,就可以调用成员函数 dump() 进行初始化,得到 JSON 文本形式,也就是 JSON 字符串:

cout << j.dump() << endl;

反序列化也很简单,只要调用静态成员函数 parse() 就行,直接得到 JSON 对象:

// JSON文本,原始字符串
string jsonStr = R"({               
    "name": "xiaolin",
    "age" : 18
})"
;

// 从字符串反序列化
json_t j = json_t::parse(jsonStr);    

// 验证序列化是否正确
assert(j["age"] == 18);        
assert(j["name"] == "xiaolin");

对于通常的应用来说,掌握了基本的序列化和反序列化就够用了,如果想要了解 JSON for Modern C++ 其他特性,可以去看它的 Github。

JSON 进行序列化存在的问题,因为 JSON 进行序列化的额外空间开销比较大,对于大数据量服务这意味着需要巨大的内存和磁盘开销,所以如果在传输数据量比较小的场景,就可以采用 JSON 序列化的方式。

ProtoBuffer

ProtoBuf 是由 Google 出品的,是一种轻便、高效的结构化数据存储格式,可以用于结构化数据序列化,支持 Java、Python、C++、Go 等语言。

Protobuf 使用的时候必须写一个 IDL(Interface description language)文件,在里面定义好数据结构,只有预先定义了的数据结构,才能被序列化和反序列化。

下面是一个简单的 IDl 文件格式:

syntax = "proto2";  // 使用第2版
package sample; // 定义名字空间

message Person { // 定义消息
required string name = 1; // required表示必须字段
required int32 id = 2;
optional string email = 3; // optional字段可以没有
}

写完 IDL 文件后,然后使用不同语言的 IDL 编译器,生成序列化工具类。

Protobuf 在 Github 有文档介绍了不同语言是怎么使用编译器生成序列化工具类了,我在这里就不介绍了。

这里贴 C++ 和 Java 语言使用 Protobuf 相关接口进行序列化和反序列化的例子。

C++ 进行序列化和反序列化的例子:

// 类型别名
using person_t = sample::Person;        

// 声明一个Protobuf对象
person_t p;                             

// 设置每个字段的值 
p.set_id(1);                           
p.set_name("xiaolin");
p.set_email("xiaolincoding@163.com");

// 序列化到字符串 
string enc;
p.SerializeToString(&enc);

// 反序列化
person_t p2; 
p2.ParseFromString(enc);

Java 进行序列化和反序列化的例子:

/**
 *
 * // IDl 文件格式
 * synax = "proto3";
 * option java_package = "com.test";
 * option java_outer_classname = "StudentProtobuf";
 *
 * message StudentMsg {
 * //序号
 * int32 no = 1;
 * //姓名
 * string name = 2;
 * }
 * 
 */

 
StudentProtobuf.StudentMsg.Builder builder = StudentProtobuf.StudentMsg.newBuilder();
builder.setNo(1);
builder.setName("xiaolin");

//把student对象转化为byte数组
StudentProtobuf.StudentMsg msg = builder.build();
byte[] data = msg.toByteArray();

//把刚才序列化出来的byte数组转化为student对象
StudentProtobuf.StudentMsg deStudent = StudentProtobuf.StudentMsg.parseFrom(data);

System.out.println(deStudent);

现在很多大厂都在使用 Protobuf,而且 gRPC 就是基于 Protobuf 来做的序列化。

参考资料:《C++ 实战笔记》、《RPC 实战与核心原理》


总结

将对象保存到文件,或者通过网络传输给对方,都是需要将对象转换二进制数据才能完成,那么对象转二进制数据的过程就是序列化,相反的,二进制数据转对象的过程就是反序列化的过程。

我也给你介绍了几种常见的序列化方式:

  • JDK 自带的序列化方式无法跨语言使用;

  • JSON 序列化大多数语言都支持,JSON 优势是使用起来简单,容易阅读,应用广泛,缺点就是不适合大数据量的场景;

  • ProtoBuf 使用需要定义 IDL 文件,序列化后体积相比 JSON 小很多,现在很多大公司都在用,gRPC 框架使用 protobuf 序列化。


推荐阅读
不鸽了,小林的「图解网络 3.0 」发布!
小林的图解系统,大曝光!
这一年半,过的不容易!
浏览 24
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报