FFmpeg的一些关键的数据结构(二)

4.11  AVPacket 结构体

typedef struct AVPacket

{

//显示时间戳

int64_t pts; 

//解码时间戳

int64_t dts; 

//记录在文件或网络中的流中的字节的位置

int64_t pos; 

//实际数据指针

uint8_t *data;

//实际的数据的大小

int size;

//packet所属的流的索引,一般为0或者1

int stream_index;

int flags;

//析构函数

void(*destruct)(struct AVPacket*);

} AVPacket;

说明:

AVPacket 代表音视频数据帧,固有的属性是一些标记,时钟信息,和压缩数据首地址,大小等信息。

4.12  AVPacketList 结构体

typedef struct AVPacketList

{

AVPacket pkt;

struct AVPacketList *next;

} AVPacketList;

说明:AVPacketList 把音视频AVPacket 组成一个小链表

 

4.13 AVFrame结构体

typedef struct AVFrame {

#define AV_NUM_DATA_POINTERS 8

    uint8_t *data[AV_NUM_DATA_POINTERS];

    int linesize[AV_NUM_DATA_POINTERS];

uint8_t **extended_data;

    /**宽高 */

    int width, height;

    int nb_samples;

int format;

    /**是否是关键帧*/

    int key_frame;

    /**帧类型(I,B,P*/

    enum AVPictureType pict_type;

    uint8_t *base[AV_NUM_DATA_POINTERS];

    AVRational sample_aspect_ratio;

    int64_t pts;

    int64_t pkt_pts;

    int64_t pkt_dts;

    int coded_picture_number;

    int display_picture_number;

    int quality;

    int reference;

    /**QP*/

    int8_t *qscale_table;

  

    int qstride;

    int qscale_type;

    /**跳过宏块表 */

    uint8_t *mbskip_table;

    /**运动矢量表*/

    int16_t (*motion_val[2])[2];

    /**宏块类型表 */

    uint32_t *mb_type;

    /**DCT系数 */

    short *dct_coeff;

    /**参考帧列表 */

    int8_t *ref_index[2];

    void *opaque;

    uint64_t error[AV_NUM_DATA_POINTERS];

    int type;

    int repeat_pict;

    int interlaced_frame;

    int top_field_first;

    int palette_has_changed;

    int buffer_hints;

    AVPanScan *pan_scan;

    int64_t reordered_opaque;

    void *hwaccel_picture_private;

    struct AVCodecContext *owner;

    void *thread_opaque;

    /**

     * log2 of the size of the block which a single vector in motion_val represents:

     * (4->16x16, 3->8x8, 2-> 4x4, 1-> 2x2)

     * - encoding: unused

     * - decoding: Set by libavcodec.

     */

    uint8_t motion_subsample_log2;

    /**(音频)采样率     */

    int sample_rate;

    uint64_t channel_layout;

    int64_t best_effort_timestamp;

    int64_t pkt_pos;

    int64_t pkt_duration;

    AVDictionary *metadata;

    int decode_error_flags;

#define FF_DECODE_ERROR_INVALID_BITSTREAM   1

#define FF_DECODE_ERROR_MISSING_REFERENCE   2

    int64_t channels;

} AVFrame;

AVFrame结构体一般用于存储原始数据(即非压缩数据,例如对视频来说是YUVRGB,对音频来说是PCM),此外还包含了一些相关的信息。比如说,解码的时候存储了宏块类型表,QP表,运动矢量表等数据。编码的时候也存储了相关的数据。因此在使用FFMPEG进行码流分析的时候,AVFrame是一个很重要的结构体。

下面看几个主要变量的作用(在这里考虑解码的情况):

uint8_t *data[AV_NUM_DATA_POINTERS]:解码后原始数据(对视频来说是YUVRGB,对音频来说是PCM

int linesize[AV_NUM_DATA_POINTERS]data的大小

int width, height:视频帧宽和高(1920x1080,1280x720...

int nb_samples:音频的一个AVFrame中可能包含多个音频帧,在此标记包含了几个

int format:解码后原始数据类型(YUV420YUV422RGB24...

int key_frame:是否是关键帧

enum AVPictureType pict_type:帧类型(I,B,P...

AVRational sample_aspect_ratio:宽高比(16:94:3...

int64_t pts:显示时间戳

int coded_picture_number:编码帧序号

int display_picture_number:显示帧序号

int8_t *qscale_tableQP

uint8_t *mbskip_table:跳过宏块表

int16_t (*motion_val[2])[2]:运动矢量表

uint32_t *mb_type:宏块类型表

short *dct_coeffDCT系数,这个没有提取过

int8_t *ref_index[2]:运动估计参考帧列表(貌似H.264这种比较新的标准才会涉及到多参考帧)

int interlaced_frame:是否是隔行扫描

uint8_t motion_subsample_log2:一个宏块中的运动矢量采样个数,取log

其他的变量不再一一列举,源代码中都有详细的说明。在这里重点分析一下几个需要一定的理解的变量:

1.data[]

对于packed格式的数据(例如RGB24),会存到data[0]里面。

对于planar格式的数据(例如YUV420P),则会分开成data[0]data[1]data[2]...YUV420Pdata[0]Ydata[1]Udata[2]V

具体参见:FFMPEG 实现 YUVRGB各种图像原始数据之间的转换(swscale

2.pict_type

包含以下类型:

py

enum AVPictureType {  

    AV_PICTURE_TYPE_NONE = 0, ///< Undefined  

    AV_PICTURE_TYPE_I,     ///< Intra  

    AV_PICTURE_TYPE_P,     ///< Predicted  

    AV_PICTURE_TYPE_B,     ///< Bi-dir predicted  

    AV_PICTURE_TYPE_S,     ///< S(GMC)-VOP MPEG4  

    AV_PICTURE_TYPE_SI,    ///< Switching Intra  

    AV_PICTURE_TYPE_SP,    ///< Switching Predicted  

    AV_PICTURE_TYPE_BI,    ///< BI type  

};  

3.sample_aspect_ratio

宽高比是一个分数,FFMPEG中用AVRational表达分数:

/** 

 * rational number numerator/denominator 

 */  

typedef struct AVRational{  

    int num; ///< numerator  

    int den; ///< denominator  

} AVRational;  

4.qscale_table

QP表指向一块内存,里面存储的是每个宏块的QP值。宏块的标号是从左往右,一行一行的来的。每个宏块对应1QP

qscale_table[0]就是第1行第1列宏块的QP值;qscale_table[1]就是第1行第2列宏块的QP值;qscale_table[2]就是第1行第3列宏块的QP值。以此类推...

宏块的个数用下式计算:

注:宏块大小是16x16的。

每行宏块数:

int mb_stride = pCodecCtx->width/16+1  

宏块的总数:

int mb_sum = ((pCodecCtx->height+15)>>4)*(pCodecCtx->width/16+1)  

5.motion_subsample_log2

1个运动矢量所能代表的画面大小(用宽或者高表示,单位是像素),注意,这里取了log2

代码注释中给出以下数据:

4->16x16, 3->8x8, 2-> 4x4, 1-> 2x2

1个运动矢量代表16x16的画面的时候,该值取41个运动矢量代表8x8的画面的时候,该值取3...以此类推

6.motion_val

运动矢量表存储了一帧视频中的所有运动矢量。

该值的存储方式比较特别:

int16_t (*motion_val[2])[2];  

为了弄清楚该值究竟是怎么存的,花了我好一阵子功夫...

注释中给了一段代码:

int mv_sample_log2= 4 - motion_subsample_log2;  

int mb_width= (width+15)>>4;  

int mv_stride= (mb_width << mv_sample_log2) + 1;  

motion_val[direction][x + y*mv_stride][0->mv_x, 1->mv_y];  

大概知道了该数据的结构:

1.首先分为两个列表L0L1

2.每个列表(L0L1)存储了一系列的MV(每个MV对应一个画面,大小由motion_subsample_log2决定)

3.每个MV分为横坐标和纵坐标(x,y

注意,在FFMPEGMVMB在存储的结构上是没有什么关联的,第1MV是屏幕上左上角画面的MV(画面的大小取决于motion_subsample_log2),第2MV是屏幕上第1行第2列的画面的MV,以此类推。因此在一个宏块(16x16)的运动矢量很有可能如下图所示(line代表一行运动矢量的个数):

//例如8x8划分的运动矢量与宏块的关系:  

                //-------------------------  

                //|          |            |  

                //|mv[x]     |mv[x+1]     |  

                //-------------------------  

                //|          |            |  

                //|mv[x+line]|mv[x+line+1]|  

                //-------------------------  

7.mb_type

宏块类型表存储了一帧视频中的所有宏块的类型。其存储方式和QP表差不多。只不过其是uint32类型的,而QP表是uint8类型的。每个宏块对应一个宏块类型变量。

宏块类型如下定义所示:

//The following defines may change, don't expect compatibility if you use them.  

#define MB_TYPE_INTRA4x4   0x0001  

#define MB_TYPE_INTRA16x16 0x0002 //FIXME H.264-specific  

#define MB_TYPE_INTRA_PCM  0x0004 //FIXME H.264-specific  

#define MB_TYPE_16x16      0x0008  

#define MB_TYPE_16x8       0x0010  

#define MB_TYPE_8x16       0x0020  

#define MB_TYPE_8x8        0x0040  

#define MB_TYPE_INTERLACED 0x0080  

#define MB_TYPE_DIRECT2    0x0100 //FIXME  

#define MB_TYPE_ACPRED     0x0200  

#define MB_TYPE_GMC        0x0400  

#define MB_TYPE_SKIP       0x0800  

#define MB_TYPE_P0L0       0x1000  

#define MB_TYPE_P1L0       0x2000  

#define MB_TYPE_P0L1       0x4000  

#define MB_TYPE_P1L1       0x8000  

#define MB_TYPE_L0         (MB_TYPE_P0L0 | MB_TYPE_P1L0)  

#define MB_TYPE_L1         (MB_TYPE_P0L1 | MB_TYPE_P1L1)  

#define MB_TYPE_L0L1       (MB_TYPE_L0   | MB_TYPE_L1)  

#define MB_TYPE_QUANT      0x00010000  

#define MB_TYPE_CBP        0x00020000  

//Note bits 24-31 are reserved for codec specific use (h264 ref0, mpeg1 0mv, ...)  

一个宏块如果包含上述定义中的一种或两种类型,则其对应的宏块变量的对应位会被置1

注:一个宏块可以包含好几种类型,但是有些类型是不能重复包含的,比如说一个宏块不可能既是16x16又是8x8

8.ref_index

运动估计参考帧列表存储了一帧视频中所有宏块的参考帧索引。这个列表其实在比较早的压缩编码标准中是没有什么用的。只有像H.264这样的编码标准才有多参考帧的概念。但是这个字段目前我还没有研究透。只是知道每个宏块包含有4个该值,该值反映的是参考帧的索引。以后有机会再进行细研究吧。

 

 

by: czc1009 《FFmpeg基础库编程开发》

猜你喜欢

转载自chriszeng87.iteye.com/blog/2149428