浅谈音视频自动化测试
共 3531字,需浏览 8分钟
·
2021-09-05 15:38
好久不见~今天想来聊聊音视频/多媒体/播放器自动化测试的思路。总体来说,可以从以下几个角度来思考。
1.测项设计
1.1.功能测试
•对各类传输协议、封装格式、编码格式的支持,在编码格式测试方面,又涉及到各类编码参数的组合,测项数量会疯狂膨胀起来•各类基础播放控制,包括播放、暂停、倍速、seek等•和自身产品强相关的feature测试,如无缝切换、音频输出通路、DRM等
1.2.性能测试
•启播(首屏)时间,更细粒度的考量因素可能有启播各个环节细分的耗时•seek耗时•丢帧(卡顿)率,更细粒度的考量因素可能有连续丢帧数、每秒丢帧数等•缓冲(rebuffer)率,更细粒度的考量因素可能有每次bufferd的时长•AV同步情况•错误率
1.3.压力测试
•长时间播放•弱网环境播放•低性能设备环境播放•高频播放操作控制,如频繁启播、频繁seek、频繁切换码流等
在这一环节,还要考虑好测项的组织和展示形式。常规的选择一般是json或xml,如下面这个例子
{
cases:[
{
"name": "DASH-LIVE-001",
"brief": "Live - number template",
"data":
{
"exe-type": "TYPE_CUSTOM",
"urls":["http://vm2.dashif.org/livesim-dev/periods_1/testpic_2s/Manifest.mpd"]
}
},
{
"name": "DASH-LIVE-002",
"brief": "Live - time template",
"data":
{
"exe-type": "TYPE_CUSTOM",
"urls":["http://vm2.dashif.org/livesim-dev/segtimeline_1/testpic_6s/Manifest.mpd"]
}
},
]
}`
2.测试方法
无论是用黑盒测试还是白盒测试,其实就两个关键问题:如何发起测试以及如何验证测试结果。
2.1. 黑盒测试
发起测试的方式有以下几种:
•直接给播放器发送播放指令 以android平台为例,可以通过测试工具给播放器应用发送Intent来调起不同的测项,但这限制了只能在本机上发起测试。如果考虑远程测试的话,可以利用http请求发送测项内容(上一节提到的json就用上了),测试工具接收http请求后解析测项内容,再转换为Intent或其他指令形式调起播放器。•模拟用户操作 可以通过模拟触摸屏操作、遥控器按键操作等各种方式来实现。还是以android平台为例,uiAutomator就是一个现成的工具。
验证测试结果的方法则有以下几种:
•利用日志分析。利用提前加好的关键日志,可以方便的验证结果。•利用图像、声音传感器进行分析 可以抓取屏幕图像数据、扬声器输出的音频数据,然后对这些输出数据结果进行分析。一个简单的例子是用外部camera拍摄屏幕并分析屏幕画面的帧差,如果发现画面长时间没有变化,则很有可能是发生了卡顿。更复杂的比如分析AVSync用的SyncOne设备、Netflix的EyePatch设备,都是著名的案例,当然开发难度也更高。
2.2.白盒测试
播放器的白盒测试就用插桩测试方法即可。还是以android平台为例,CTS media中的测试代码就是很好的参考,举一例如下
public void testPlayMidi() throws Exception {
final int resid = R.raw.midi8sec;
final int midiDuration = 8000;
final int tolerance = 70;
final int seekDuration = 1000;
MediaPlayer mp = MediaPlayer.create(mContext, resid);
try {
mp.setAudioStreamType(AudioManager.STREAM_MUSIC);
mp.setWakeMode(mContext, PowerManager.PARTIAL_WAKE_LOCK);
mp.start();
assertFalse(mp.isLooping());
mp.setLooping(true);
assertTrue(mp.isLooping());
assertEquals(midiDuration, mp.getDuration(), tolerance);
int pos = mp.getCurrentPosition();
assertTrue(pos >= 0);
assertTrue(pos < midiDuration - seekDuration);
mp.seekTo(pos + seekDuration);
assertEquals(pos + seekDuration, mp.getCurrentPosition(), tolerance);
// test stop and restart
mp.stop();
mp.reset();
AssetFileDescriptor afd = mResources.openRawResourceFd(resid);
mp.setDataSource(afd.getFileDescriptor(), afd.getStartOffset(), afd.getLength());
afd.close();
mp.prepare();
mp.start();
Thread.sleep(SLEEP_TIME);
} finally {
mp.release();
}
}
插桩测试代码编写完成之后,同样可以选择直接在本机用指令方式调起或者远程通过http请求调起。各种插桩测试方案一般都会提供测试结果的格式化工具,所以测试结果的验证与展示不是什么大问题。
设计可扩展的测项
在前面我们提到可以用json形式来记录测项,其实还可以在此基础上进行发散,让测项可以随时定制、随时扩展。
如果我们预定义一些播放器指令字段,如“play”,“pause”, "loop", "change_track"等,然后将这些指令组合起来,就可以实现测项的脚本化编写。播放器只要解析这样一个简单的json脚本,按照其中定义的指令顺序执行,即可达到运行测项的目标。这种简单的脚本对测试人员的技术要求也很低。
举一个示例如下,在这个例子中,将会执行启播,然后等待10秒后,停止播放。用类似的思路,可以快速扩展已有测项。
{
"source":"/sdcard/test.mp4"
"commands": [
{
"command":"play",
"value":0
},
{
"command":"sleep",
"value":10000
},
{
"command":"stop",
"value":0
}
]
}