从《头号玩家》说起,聊聊当前的 VR 技术到底差在哪?

《头号玩家》口碑炸裂,给似乎已进入低谷期的 VR 产业带来了新一轮的热度。VR 技术因其充分的沉浸性、高真实性和高交互性等特点,在 2016 年曾受到广泛关注,并被寄予厚望。但由于一些老生常谈的问题,如成本过高、内容质量低、技术瓶颈制约、体验较差等,导致热度在这两年未能成功延续。纵观当今市场,VR 的身影虽然已有出现在影视、游戏、医疗、教育、直播等多个行业应用中,但均未有特别亮眼的表现。如何攻克现有的技术难点,成为整个 VR 产业最迫切需要解决的问题。

输入图片说明

拿目前相对成熟一点的 VR 视频来说,全景摄像机等设备的出现,降低了 VR 视频内容制作的门槛,能简单粗暴的录制和生成三自由度或六自由度的全景图像。但由于视频清晰度不够理想,画面粗糙,播放卡顿等因素,导致用户观感较差,容易产生眩晕感。其衍生而来的 VR 直播同样存在类似的问题。VR 直播可为观看者营造较好的临场沉浸感,但它的技术难点在于视频清晰度不理想,高码率传输成本高和对转码实时性与终端解码性能要求非常高。

输入图片说明

如上图所示,从全景采集到网络分发,再到对用户端方面的多终端适配播放,实现 VR 直播的各个环节都需要较高的技术支持。抛开采集和拼接这两个极度依赖软硬件的环节不说,VR 视频最终需要通过互联网分发给用户,如何提供清晰、流畅的 VR 体验,映射和传输方法起到了关键性作用,如何在有限的带宽上传输高质量 VR 视频也是目前最大的挑战。而映射过程与传输又紧密相关:为便于存储和压缩编码,摄录的全景球面视频内容需被几何映射到平面,映射过程影响了 VR 视频编码前的像素量,在一定程度上也决定了视频内容所包含的信息量。

目前的传输方法主要分为两类:全景传输和视点自适应传输。

全景传输

全景传输是指将全景视频以同等质量、完整的发送给用户,优点是保留信息量大,完整保留了原始球面视频的所有内容,而且可以直接使用现有的编码器和传输方式。但由于播放设备和视角的限制,用户在某一时刻只关心视角范围内的部分内容,导致造成较高的资源浪费,对带宽消耗大。

全景传输对应的映射方法是均匀映射,包括矩形映射(ERP)、立方体映射(CMP)、八面体映射、二十面体映射、柱状映射等等。理论上,使用面数越多的正多面体,可以使得映射后的数据量越小。但同时这些正多面体都需要通过“再拼接”形成矩形平面,会导致拼接过程中内容上的不连续,影响编码效率。

输入图片说明

视点自适应传输 视点自适应传输,指的是根据用户视点动态传输视角范围内的视频,从而避免资源浪费。在相同带宽条件下,它可分配更多带宽给视角区域,从而提高用户视窗内视频的质量,增强观看体验。然而,若用户当前视点与视频预估的视点不符,看到的画面就会出现黑屏或质量很差等问题。

视点自适应传输对应的是非均匀映射和分块传输。非均匀映射在对球面内容采样时,会对球面上的像素点有不同的权重,从而保证关键视频内容得到保留。目前 Facebook 和高通等公司已提出多种非均匀映射传输方式 ,包括多分辨率立方体、金字塔映射、偏移立方体、阶段金字塔等,均是在保持视点区域质量的前提下,降低整体分辨率。不同的映射方式都还存在不同的问题,比如变形、失真、边界等等。

输入图片说明

分块传输是另一种视点自适应传输方式,它灵活地将全景视频按照空间划分为若干个子视频块,客户端可根据网络状况和用户头部运动有针对性的向服务器端请求视频片段。对比非均匀映射,分块传输进一步减少了传输数据量,因为它只传一部分内容。分块传输也包括许多种切分方式,像是六面几何式、18 格矩形分割方 式、12 格矩形分割方式等。在视频传输过程中,切分粒度越小,视频块的组合就越贴近用户视角,浪费的视频内容也就越少。但由于在切分后像素之间的相关性被破坏,使得切分后编码数据量之和会略大于切分前的数据量,所以如何决定分块大小也是一个值得斟酌的问题。

输入图片说明

当然,上面更多的是理论层的东西。如何根据现实业务,在映射和传输过程中尽可能的保证视频质量和降低资源占用,有待实际摸索和尝试。即将于 4 月 21 日举办的武汉源创会上,开源中国邀请到了优酷视频 VR 技术 leader 张天若,从优酷现有的 VR 业务出发,对应用的多机位采集、视频编解码、视频分发与多终端适配播放等核心技术与原理进行深入解读及答疑解惑,感兴趣的切勿错过。

传送门:https://www.oschina.net/event/2276486

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/30158.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

unity 通过使用 photon networking Pun 实现 HTC Vive VR的多人联网。进阶版 《三》

啊哈,开始还是些闲话来引出思绪哈。之前以为没有人看我写的就停更了。今天偶然想起进来一看,发现回复私信希望可以继续讲的,很开心。瞬间就有了动力,哈哈。从我自己身上就看到了反馈的重要性,为何微博,微信…

unity 通过使用 photon networking Pun 实现 HTC Vive VR的多人联网

正文: 基于photon networking 来实现 VR 的多人联网。我之前文章将的是如何使用unity 自带的网络组件来实现VR多人联网。但是unet 他的问题是只能实现局域网联网。广域网的话貌似也可以,但是应该还是需要一个服务器人员。而且unet 比较蛋疼的一点是&…

Unity CEO:玩家不在乎AR还是VR,他们只想要优质内容

近期,Unity CEO John Riccitiello在接受英国金融时报采访时,透露了自己对于游戏的前生今世,以及AR/VR和未来的看法。他认为,打造一个新平台需要大量优质内容,创意对于新平台很重要,不管AR和VR技术有什么区别…

【话题讨论】-浅谈VR与AR

一、引言 随着ICT基础技术的发展,我们现在社会中的基础ict设施已经逐步完善,从而我们的社会也开始出现科幻片中才会有的场景,比如:我们可以构件一个虚拟3D沙盘。 还有我们熟悉的各类智能眼镜,已经进入到千家万户&…

助力 VR/AR 等复杂图像场景极致高清,火山引擎夺得 NTIRE 大赛双料冠军

动手点关注 干货不迷路 近日,CVPR Workshop 下属的 NTIRE2023大赛公布比赛结果,在双目超分双三次插值保真赛道和 360 全景图像超分赛道上,火山引擎多媒体实验室凭借自主研发的算法获得了双料冠军,技术能力达到行业领先水平。 NTIR…

GPT-4进行数据分析的成本不到人类分析师的1%;北京将新增算力建设项目;迈富时赴港上市丨每日大事件...

‍ ‍数据智能产业创新服务媒体 ——聚焦数智 改变商业 企业动态 网易云音乐前CEO朱一闻进入AI教育领域创业 近日,据报道,网易云音乐前CEO朱一闻已在AI教育领域创业。朱一闻已在杭州完成团队搭建,核心成员包括网易云音乐早期创始员工、海康威…

施一公:我直到博士毕业,对研究也没兴趣,很迷茫,不知道将来干什么

来源 | 学术志 作者 | 施一公 我从来没有机会来北大做学术讲座,或是跟同学们在一块聊聊天,因此我非常珍惜这个机会。借这个机会我想把我的经历分享一下,推心置腹,毫无保留地分享。我之所以愿意把我的一些经历讲出来,是…

CSDN接入AIGC辅助创作,对此你怎么看?

catalogue 🌟 写在前面🌟 GitChat🌟 百万粉丝计划🌟 CSDN接入AIGC?🌟 写在最后 🌟 写在前面 哈喽,大家好,我是几何心凉,这是一份全新的专栏,得到…

解决国外链接下载软件速度慢的方法

无论是下载vagrant,还是vscode,还是centos7,只要你进了官网,点击下载,打开浏览器的下载管理器,你就会看到这个东西(这里以vscode为例) 右键它,选择复制下载地址&#xf…

访问外国网站太慢

访问外国网站太慢,如trello\github 1.访问https://www.ipaddress.com. 2.搜索跳转,随便选择一个ip, Type要A 3.改电脑的hosts文件,将域名解析直接指向IP,绕过DNS步骤 hosts文件路径:** C:\Windows\System32\driver…

git克隆速度太慢的解决方法

https://blog.csdn.net/hzwwpgmwy/article/details/79043251 第一步: 直接把网址对应的IP放进hosts文件,这样就省去了DNS解析的时间, 步骤如下: 1、查找域名对应的ip地址,并修改hosts文件 nslookup github.global…

什么原因导致香港服务器变慢?解决办法

香港服务器慢有哪些解决方法?导致香港服务器慢的原因有很多,解决香港服务器慢也需要根据具体原因和选择正确的香港服务器配置线路来决定的,下面我们就看看影响香港服务器慢的原因有哪些以及解决方法。 香港服务器慢的原因有哪些? 导致香港服务器慢的原…

为什么企业传统网络访问海外应用程序不稳定、速度慢?怎么解决?

外贸、游戏等行业经常会有跨网数据访问的需求,并且访问慢、卡是常见的问题。这其中主要的原因是网络访问速度与物理距离有直接关系。刨除距离原因,还有哪些因素影响了我们的访问呢?那么访问国站慢的影响因素有哪些? 在中国的国内用户,使用应…

外国官方网站下载文件速度缓慢

我们经常要下载东西,特别是一下专业软件就不得不到官方网站下载了,但很多这样的软件常常需要到外国的一些官方网站里下载了。可是,也经常遇到下载速度过于缓慢的的问题,在这我是用了一个简单但是略显笨的方法,但是也挺…

【精选优质人物美图 InsCode Stable Diffusion 美图活动一期】自测使用Inscode-AI绘图模型生成精美图片详细教程(无需任何配置,小白也能立马运行)

目录 InsCode平台功能简介登录网址:创建项目创建AI应用Stable Diffusion 模型生成优美图片一、 Stable Diffusion 模型在线使用地址:二、模型相关版本和参数配置:三、图片生成提示词与反向提示词:四、种子及对应图片展示&#xff…

langchain简版教程附案例

简介 LangChain是一个开源的应用开发框架。基于该开源框架,我们可以把大模型与各种工具结合从而实现各种功能,比如基本文档的问答,解析网页内容、查询表格数据等。目前支持Python和TypeScript两种编程语言。当前Python框架支持的模型和功能最…

10年首次登顶!CVPR 2023大奖揭晓:上海AI实验室/武大/商汤破纪录夺魁,西工大斩获最佳学生论文...

新智元报道 编辑:编辑部 【新智元导读】CVPR 2023大奖终于来了!上海AI实验室、武大、商汤科技联合提出的自动驾驶通用大模型斩获本届最佳论文,西北工业大学团队夺得最佳学生论文。中国原创AI实力闪耀国际顶会,华人科研团队大放异…

微软又向OpenAI狂砸100亿美元!巨头AI大棋下4年,谁是最大赢家?

视学算法报道 编辑:编辑部 【导读】AI领域群雄激战,到了2023年,微软逐渐显出了「赢家」的势头。 2023年刚开始,微软就显示出了AI领域「大赢家」的派头。 最近,大火的ChatGPT和微软之间,不断擦出火花。 微…

关于QTcreator总是卡死无响应解决办法

网上找了很多原因,但是最终定位到的是显卡不兼容,只需要以下设置一下就行。 方法1: 删除~\AppData\Roaming\QtProject文件夹,然后再打开Qt Creator即可。 Linux下,~是/home/YourUserName Windows下,~是C:\…

本地PostMan双击无响应解决方法

本地PostMan双击无响应解决方法 解决步骤 解决步骤 本地安装postman后,一直使用正常,现突然双击无响应,网上查了一些解决方法,可能是我本地自动更新导致此问题,以下是我解决的过程。猜想可能是高版本不稳定&#xff0…