世界杯直播你看了吗?央视网,央视影音的清晰度及流畅度是不是给你留下比较深刻的印象?我们先看下网友们的反馈:
央视作为本次世界杯的版权方和内容分发方,对于本次世界杯直播支撑服务有着极高的技术要求。而央视网最终选择了腾讯云-视频云极速高清产品,来为其全国用户提供流畅稳定的高清直播服务。 极速高清服务在央视网正式上线运营后表现确实不错,在世界杯开赛初期与其他平台的用户体验形成鲜明对比,一改过往用户对央视大型赛事直播的看法。
本文从极速高清的工作原理,通过深度学习对世界杯场景的优化,针对央视需求与其他技术PK最后胜出,最后部署上线运营为时间线,记录并总结腾讯云极速高清是如何完成对本次央视网世界杯直播的支撑。
一、腾讯云极速高清到底是个什么鬼?
普通转码主要存在的质量问题有:转码失真、低分辨率模糊、镜头抖动、噪声大、低码率锯齿块等。
极速高清服务为腾讯-视频云新推出的智能动态编码技术,主要原理为通过深度学习,对直播视频流进行智能处理,从而以更低的带宽成本给用户提供更高清的视频直播流。其主要通过以下几个模块协作完成。
1、视频场景智能分类:我们首先通过深度学习的方法,形成包含游戏,体育,秀场,户外,动漫,美食,影视剧等在内的十几个主流大类及几十个小类场景模型库。极速高清服务开始期间,对实时直播流进行检测分析,并匹配对应场景模型。匹配率方面,较明显的场景如游戏,足球,篮球,动漫等,CNN网络模型匹配准确率达98%以上;电视剧,户外运动,美食,旅游等画面特征分散,帧间运动变化较大的场景,CNN+RNN+LSTM做时域及空间域的分析,准确率在85%以上。
2、编码参数匹配:根据第一步场景分类实时识别结果,结合视频源码率、帧率、分辨率、纹理和运动变化幅度等情况,以及综合机器负载和画质效果等维度,选择最优编码参数。
3、前置处理:根据不同场景分类、客户对视频画质的不同要求,以及结合视频源画面纹理和实时运动检测结果进行锐化、软模糊、反交错、去块、降噪、色阶补偿、降帧等前置处理。
4、编码动态优化:腾讯云-极速高清服务针对不同视频类别,同一个视频内不同视频段,应用完全不一样的编码参数,其中包括但不限于:IBP帧类型、量化参数QP、分辨率等;且支持编码参数按帧实时更新生效。
5、码率智能控制:由于不管是标准H.264/JVT-G012 码率控制算法还是x264的码率控制算法在运动变化切换比较明显的场景下,预编一次得到率失真理论凸曲线都是尽可能接近最优失真曲线,对于运动场景实时检测切换比较明显的场景帧我们在x264码率控制的基础上会综合帧时序信息做一些补偿因子和画质控制,使得主观观看得分VMAF值会有3-5分以上的提高。
如上图极速高清在VMAF得分相同情况下码率控制更低更精准。
6.detail reduce:针对h264视频编码格式,我们设计了一种在视频残差的频域上消除噪声的算法。该算法结合了当前编码宏块的残差大小,宏块的QP值,历史的频域值等,并根据不同场景选择匹配的video denoise模板,自适应地进行宏块级的视频处理,能够以极低的CPU消耗对噪声宏块进行优化,同时保留清晰宏块的完整性。
7.ROI处理:SIFT+差分图像+运动目标图像检测或用户指定(如台标、水印)关注ROI区域,对该区域的宏块编码进行强化(放大/缩小量化步长)、锐化、色阶补偿等处理,如央视网世界杯就要求对台标和字幕区域画质和亮度增强。
腾讯云-视频云主要通过以上模块协作处理在云端开启腾讯云极速高清服务。
二、500场模拟,百场实践-针对世界杯比赛场景深度学习
今年春节后,腾讯云极速高清服务开始陆续接入一些头部游戏直播平台,且得到客户认可。但针对体育赛事(特别是足球赛事)的客户我们一直没有接触到。世界杯前我们针对足球赛事场景做一次系统化的机器学习以及视觉效果优化评估,以便为即将到来的世界杯做最好的准备。
1、机器学习和视觉调整:网络爬虫足球比赛视频超过500场。针对每场比赛视频在:高速运动场景,足球跟随模型训练,长远镜头优化,精彩回放ROI区域增强,观众表情捕捉等细节做一些视觉效果分析以及优化效果评估,以便打造世界杯最优动态编码模型。