近年来,视频直播、短视频、在线教育、在线医疗、人工智能、以及VR等视频领域的相关行业都非常热门,成为大众瞩目的焦点。而5G网络的相继普及,移动网速飞速提升,又将引起下一轮视频应用的革命。
可以看到,在不久的将来,音视频技术渗透于各行各业,无处不在。从IoT网络到个人用户的移动设备,音视频技术以不同的形态广泛存在各个终端和应用平台。因此,实现跨平台的应用开发就显得非常重要,一套代码多平台适用,跨平台开发降低了工程师的工作量,让产品快速迭代。本文将介绍如何通过Electron构建桌面跨平台音视频应用。
一、桌面音视频应用开发难度大,跨平台开发变得流行
过去开发一个桌面的视频应用,通常首选开发语言是C++。桌面UI框架一般选择QT、MFC自绘、Duilib、SoUI或者付费的UI库等,但是无论哪种框架,都有很大的局限性。要么是不跨平台,要么是使用的门槛高,要么是本身表现不好,要么就是不太稳定导致开发过程中还需要踩很多坑。可以说C++做桌面应用开发时,UI框架的选择是比较困难的。
随着前端技术发展的不断革新,各种前端框架的不断涌出,桌面应用越来越多的向web靠近,利用前端的技术来实现桌面应用的UI跨平台变得越来越流行。
Electron技术的出现,让开发者可以使用JavaScript,HTML和CSS构建跨平台的桌面应用,基于Electron构建的应用兼容Mac、Windows和Linux等多系统,摆脱了不同浏览器之间的差异和版本限制。VSCode就是一款向世人展示Electron技术能力的优秀桌面应用程序。
二、通过WebRTC构建桌面应用的局限
Electron采用的是Chrome内核来做前端渲染,基于Chrome谈音视频,如果要用开源的音视频方案,现在最流行的就是WebRTC了。
基于WebRTC技术,可以实现简单的视频一对一通话场景。Google的推荐解决方案支持视频p2p通话以及服务器转发,开发者基本只需研发信令方面的内容,在服务器端几乎可以不做任何开发,可以说是一个比较完善成熟的解决方案。
然而目前的实时音视频应用,绝不仅限于简单的视频一对一通话。像视频预处理加个美颜、声音做个变声或者直播时放个背景音乐等等看似很普通很合理的需求,如果直接使用WebRTC方案,从目前看都几乎很难实现。音视频领域有种流行说法:从demo到产品,中间还差1万个WebRTC。虽说略为夸张,但却反映了使用WebRTC的过程中,还有非常多音视频专业问题需要解决。
仅仅只通过WebRTC来实现一款优秀的实时音视频产品,想法过于简单。音视频领域涉及到非常多的专业内容,即便是做个简单demo也不是几行代码就可以完成的,在实际产品开发中,通过信令交换sdp、candidate以及处理时序等各环节,都需要开发者小心翼翼去实现,才能够完成视频的联通。
三、即构推出Electron平台SDK,实现高性能优化
音视频产品跨平台开发的重要性在逐步凸显,即构科技作为专业的实时语音视频云服务商,推出基于Electron平台的SDK,让开发者通过调用即构SDK即可实现跨平台应用的快速构建。ZEGOElectronSDK基于ElectronC++的拓展插件调用即构原生sdk实现,并对js与原生sdk交互进行优化实现高性能。
ZEGOElectronSDK主要的优化内容有:
1、减少js代码处理视频数据的机会。即构使用js和c++共享内存方式进行处理,处理视频帧数据全部在c++层代码,js层只负责把这块内存数据输送到显卡内存,通过webgl来渲染。
2、优化视频渲染性能。即构利用V-Sync技术进行渲染,有效解决多路视频情况下的渲染性能问题。
通过ZegoElectronSDK,不但获得强大的原生平台音视频能力,而且还能极大的降低开发门槛,大幅度提高开发效率。
四、4步搭建桌面跨平台音视频应用
基于ZegoElectronSDK,通过简单的4个函数,就能实现视频的发送和接收。
第一,初始化SDK。通过ZEGO