浅谈音视频自动化测试-技术圈

好久不见～今天想来聊聊音视频/多媒体/播放器自动化测试的思路。总体来说，可以从以下几个角度来思考。

1.测项设计

1.1.功能测试

•对各类传输协议、封装格式、编码格式的支持，在编码格式测试方面，又涉及到各类编码参数的组合，测项数量会疯狂膨胀起来•各类基础播放控制，包括播放、暂停、倍速、seek等•和自身产品强相关的feature测试，如无缝切换、音频输出通路、DRM等

1.2.性能测试

•启播（首屏）时间，更细粒度的考量因素可能有启播各个环节细分的耗时•seek耗时•丢帧（卡顿）率，更细粒度的考量因素可能有连续丢帧数、每秒丢帧数等•缓冲（rebuffer）率，更细粒度的考量因素可能有每次bufferd的时长•AV同步情况•错误率

1.3.压力测试

•长时间播放•弱网环境播放•低性能设备环境播放•高频播放操作控制，如频繁启播、频繁seek、频繁切换码流等

在这一环节，还要考虑好测项的组织和展示形式。常规的选择一般是json或xml，如下面这个例子

{
        cases:[
    {
      "name": "DASH-LIVE-001",
      "brief": "Live - number template",
      "data":
       {
         "exe-type": "TYPE_CUSTOM",
         "urls":["http://vm2.dashif.org/livesim-dev/periods_1/testpic_2s/Manifest.mpd"]
       }
    },
    {
      "name": "DASH-LIVE-002",
      "brief": "Live - time template",
      "data":
       {
         "exe-type": "TYPE_CUSTOM",
         "urls":["http://vm2.dashif.org/livesim-dev/segtimeline_1/testpic_6s/Manifest.mpd"]
       }
    },
  ]
}`

2.测试方法

无论是用黑盒测试还是白盒测试，其实就两个关键问题：如何发起测试以及如何验证测试结果。

2.1. 黑盒测试

发起测试的方式有以下几种：

•直接给播放器发送播放指令以android平台为例，可以通过测试工具给播放器应用发送Intent来调起不同的测项，但这限制了只能在本机上发起测试。如果考虑远程测试的话，可以利用http请求发送测项内容（上一节提到的json就用上了），测试工具接收http请求后解析测项内容，再转换为Intent或其他指令形式调起播放器。•模拟用户操作可以通过模拟触摸屏操作、遥控器按键操作等各种方式来实现。还是以android平台为例，uiAutomator就是一个现成的工具。

验证测试结果的方法则有以下几种：

•利用日志分析。利用提前加好的关键日志，可以方便的验证结果。•利用图像、声音传感器进行分析可以抓取屏幕图像数据、扬声器输出的音频数据，然后对这些输出数据结果进行分析。一个简单的例子是用外部camera拍摄屏幕并分析屏幕画面的帧差，如果发现画面长时间没有变化，则很有可能是发生了卡顿。更复杂的比如分析AVSync用的SyncOne设备、Netflix的EyePatch设备，都是著名的案例，当然开发难度也更高。 null

2.2.白盒测试

播放器的白盒测试就用插桩测试方法即可。还是以android平台为例，CTS media中的测试代码就是很好的参考，举一例如下

 public void testPlayMidi() throws Exception {
        final int resid = R.raw.midi8sec;
        final int midiDuration = 8000;
        final int tolerance = 70;
        final int seekDuration = 1000;

        MediaPlayer mp = MediaPlayer.create(mContext, resid);
        try {
            mp.setAudioStreamType(AudioManager.STREAM_MUSIC);
            mp.setWakeMode(mContext, PowerManager.PARTIAL_WAKE_LOCK);

            mp.start();

            assertFalse(mp.isLooping());
            mp.setLooping(true);
            assertTrue(mp.isLooping());

            assertEquals(midiDuration, mp.getDuration(), tolerance);
            int pos = mp.getCurrentPosition();
            assertTrue(pos >= 0);
            assertTrue(pos < midiDuration - seekDuration);

            mp.seekTo(pos + seekDuration);
            assertEquals(pos + seekDuration, mp.getCurrentPosition(), tolerance);

            // test stop and restart
            mp.stop();
            mp.reset();
            AssetFileDescriptor afd = mResources.openRawResourceFd(resid);
            mp.setDataSource(afd.getFileDescriptor(), afd.getStartOffset(), afd.getLength());
            afd.close();
            mp.prepare();
            mp.start();

            Thread.sleep(SLEEP_TIME);
        } finally {
            mp.release();
        }
    }

插桩测试代码编写完成之后，同样可以选择直接在本机用指令方式调起或者远程通过http请求调起。各种插桩测试方案一般都会提供测试结果的格式化工具，所以测试结果的验证与展示不是什么大问题。

设计可扩展的测项

在前面我们提到可以用json形式来记录测项，其实还可以在此基础上进行发散，让测项可以随时定制、随时扩展。

如果我们预定义一些播放器指令字段，如“play”，“pause”, "loop", "change_track"等，然后将这些指令组合起来，就可以实现测项的脚本化编写。播放器只要解析这样一个简单的json脚本，按照其中定义的指令顺序执行，即可达到运行测项的目标。这种简单的脚本对测试人员的技术要求也很低。

举一个示例如下，在这个例子中，将会执行启播，然后等待10秒后，停止播放。用类似的思路，可以快速扩展已有测项。

{
    "source":"/sdcard/test.mp4"

    "commands": [

        {

            "command":"play",

            "value":0

        },

        {

            "command":"sleep",

            "value":10000

        },

        {

            "command":"stop",

            "value":0

        }

    ]

}