即时通讯音视频开发(二):视频编解码之数字视频介绍

前言


即时通讯应用中的实时音视频技术,几乎是IM开发中的最后一道高墙。原因在于:实时音视频技术 = 音视频处理技术 + 网络传输技术 的横向技术应用集合体,而公共互联网不是为了实时通信设计的。

系列文章


本文是系列文章中的第2篇,本系列文章的大纲如下:
 

1. 什么是图像?什么是视频?


图像:
是人对视觉感知的物质再现。三维自然场景的对象包括:深度,纹理和亮度信息。二维图像:纹理和亮度信息。133143r055kq0v400uv5qk.png (528Ã217)

视频:
连续的图像。视频由多幅图像构成,包含对象的运动信息,又称为运动图像。

133212e5ggl3sgl5qplll1.png (464Ã298)

2. 何为数字视频?


数字视频可以理解为自然场景空间和时间的数字采样表示。

空间采样的主要技术指标为:解析度(Resolution)

133531j11txt22lqrkl2ik.png (576Ã212)

时间采样的主要技术指标为:帧率(帧/秒)

133400shn3fzexfoyknsef.png (576Ã191)

3. 数字视频系统的构成和运行原理

  • 采集:照相机,摄像机。
  • 处理:编解码器,传输设备
  • 显示:显示器。

133725x2cc5vc39oc2ak1i.png (576Ã63)

5. 人类视觉系统HVS


HVS的构成:

  • 眼睛
  • 神经
  • 大脑、

133841jp8kukzyp0t5pd5u.png (576Ã213)

HVS特点:

  • 对高频信息不敏感
  • 对高对比度更敏感
  • 对亮度信息比色度信息更敏感
  • 对运动的信息更敏感

133851iybj8454rjj847rz.png (425Ã239)

6. 针对HVS的特点,数字视频系统的设计应该考虑哪些因素?

  • 丢弃高频信息,只编码低频信息
  • 提高边缘信息的主观质量
  • 降低色度的解析度
  • 对感兴趣区域(Region of Interesting,ROI)进行特殊处理

134008hc66ie7suttjmt6a.png (576Ã255)

7. 什么是RGB色彩空间?


三原色分别是红(R),绿(G),蓝(B)。任何颜色都可以通过按一定比例混合三原色产生。

RGB色度空间:

  • 由RGB三原色组成
  • 广泛用于BMP,TIFF,PPM等
  • 每个色度成分通常用8bit表示[0,255]

134125brxj454c0goarr4t.png (280Ã268)

8. 什么是YUV色彩空间?


YUV色彩空间是指,Y:亮度分量,UV:两个色度分量。YUV能更好的反映HVS特点。

9. RGB如何转化到YUV空间?


亮度分量Y与三原色有如下关系:
即时通讯音视频开发(二):视频编解码之数字视频介绍_x.png 

经过大量实验后ITU-R给出了:
即时通讯音视频开发(二):视频编解码之数字视频介绍_x1.png    即时通讯音视频开发(二):视频编解码之数字视频介绍_x2.png    即时通讯音视频开发(二):视频编解码之数字视频介绍_x3.png 
即时通讯音视频开发(二):视频编解码之数字视频介绍_x4.png 

主流的编解码标准的压缩对象都是YUV图像。

10. 何为YUV图像分量采样?


YUV图像可以根据HVS的特点,对色度进行分量采样,可以降低视频数据量。

根据亮度和色度分量的采样比率,YUV图像通常有以下几种分量方式:

134720vnr80urr0fegl04e.png (576Ã146)

11. 通用的YUV图像格式有哪些?


根据YUV图像的亮度、分辨率定义了如下图像格式:

134842sji9sdsi0f4rjyji.png (576Ã296)

12. 如何理解帧和场图像?


一帧图像包括两场——顶场,底场:

135013rkbbz9gago2n9nfb.png (563Ã354)

135019mif9cnnhn0i9w8n0.png (576Ã386)

13. 逐行与隔行图像


逐行图像是指:一帧图像的两场在同一时间得到,ttop=tbot。
隔行图像是指:一帧图像的两场在不同时间得到, ttop≠tbot。

135208a94ptttgo86o4l66.png (576Ã233)

网易云信,你身边的即时通讯和音视频技术专家,了解我们,请戳网易云信官网

想要阅读更多行业洞察和技术干货,请关注网易云信博客

本文转载自52im,作者:JackJiang

猜你喜欢

转载自blog.csdn.net/netease_im/article/details/83745396