AVFrame是包含码流参数较多的结构体。
AVFrame结构体一般用于存储原始数据(即非压缩数据,例如对视频来说是YUV,RGB,对音频来说是PCM),此外还包含了一些相关的信息。比如说,解码的时候存储了宏块类型表,QP表,运动矢量表等数据。编码的时候也存储了相关的数据。因此在使用FFMPEG进行码流分析的时候,AVFrame是一个很重要的结构体。
下面看几个主要变量的作用(在这里考虑解码的情况):
uint8_t *data[AV_NUM_DATA_POINTERS]: 解码后原始数据(对视频来说是YUV,RGB,对音频来说是PCM)
int linesize[AV_NUM_DATA_POINTERS]: data的大小
int width, height: 视频帧宽和高(1920x1080,1280x720...)
int nb_samples: 音频的一个AVFrame中可能包含多个音频帧,在此标记包含了几个
int format: 解码后原始数据类型(YUV420,YUV422,RGB24...)
int key_frame: 是否是关键帧
enum AVPictureType pict_type: 帧类型(I,B,P...)
AVRational sample_aspect_ratio: 宽高比(16:9,4:3...)
int64_t pts: 显示时间戳
int coded_picture_number: 编码帧序号
int display_picture_number: 显示帧序号
int8_t *qscale_table: QP表
uint8_t *mbskip_table: 跳过宏块表
int16_t (*motion_val[2])[2]: 运动矢量表
uint32_t *mb_type: 宏块类型表
short *dct_coeff: DCT系数,这个没有提取过
int8_t *ref_index[2]: 运动估计参考帧列表(貌似H.264这种比较新的标准才会涉及到多参考帧)
int interlaced_frame: 是否是隔行扫描
uint8_t motion_subsample_log2: 一个宏块中的运动矢量采样个数,取log的
其他的变量不再一一列举,源代码中都有详细的说明。在这里重点分析一下几个需要一定的理解的变量:
1.data[]
对于packed格式的数据(例如RGB24),会存到data[0]里面。
对于planar格式的数据(例如YUV420P),则会分开成data[0],data[1],data[2]...(YUV420P中data[0]存Y,data[1]存U,data[2]存V)
2.pict_type
包含以下类型:
1. enum AVPictureType {
2. ///< Undefined
3. ///< Intra
4. ///< Predicted
5. ///< Bi-dir predicted
6. ///< S(GMC)-VOP MPEG4
7. ///< Switching Intra
8. ///< Switching Predicted
9. ///< BI type
10. };
3.sample_aspect_ratio
宽高比是一个分数,FFMPEG中用AVRational表达分数:
1. /**
2. * rational number numerator/denominator
3. */
4. typedef struct AVRational{
5. int num; ///< numerator
6. int den; ///< denominator
7. } AVRational;
4.qscale_table
QP表指向一块内存,里面存储的是每个宏块的QP值。宏块的标号是从左往右,一行一行的来的。每个宏块对应1个QP。
qscale_table[0]就是第1行第1列宏块的QP值;qscale_table[1]就是第1行第2列宏块的QP值;qscale_table[2]就是第1行第3列宏块的QP值。以此类推...
宏块的个数用下式计算:
注:宏块大小是16x16的。
每行宏块数:
1. int mb_stride = pCodecCtx->width/16+1
宏块的总数:
1. int mb_sum = ((pCodecCtx->height+15)>>4)*(pCodecCtx->width/16+1)
5.motion_subsample_log2
1个运动矢量所能代表的画面大小(用宽或者高表示,单位是像素),注意,这里取了log2。
代码注释中给出以下数据:
4->16x16, 3->8x8, 2-> 4x4, 1-> 2x2
即1个运动矢量代表16x16的画面的时候,该值取4;1个运动矢量代表8x8的画面的时候,该值取3...以此类推
6.motion_val
运动矢量表存储了一帧视频中的所有运动矢量。
该值的存储方式比较特别:
1. int16_t (*motion_val[2])[2];
为了弄清楚该值究竟是怎么存的,花了我好一阵子功夫...
注释中给了一段代码:
1. int mv_sample_log2= 4 - motion_subsample_log2;
2. int mb_width= (width+15)>>4;
3. int mv_stride= (mb_width << mv_sample_log2) + 1;
4. motion_val[direction][x + y*mv_stride][0->mv_x, 1->mv_y];
大概知道了该数据的结构:
1.首先分为两个列表L0和L1
motion_subsample_log2决定)
3.每个MV分为横坐标和纵坐标(x,y)
motion_subsample_log2),第2个MV是屏幕上第1行第2列的画面的MV,以此类推。因此在一个宏块(16x16)的运动矢量很有可能如下图所示(line代表一行运动矢量的个数):
1. //例如8x8划分的运动矢量与宏块的关系:
2. //-------------------------
3. //| | |
4. //|mv[x] |mv[x+1] |
5. //-------------------------
6. //| | |
7. //|mv[x+line]|mv[x+line+1]|
8. //-------------------------
7.mb_type
宏块类型表存储了一帧视频中的所有宏块的类型。其存储方式和QP表差不多。只不过其是uint32类型的,而QP表是uint8类型的。每个宏块对应一个宏块类型变量。
宏块类型如下定义所示:
1. //The following defines may change, don't expect compatibility if you use them.
2. #define MB_TYPE_INTRA4x4 0x0001
3. #define MB_TYPE_INTRA16x16 0x0002 //FIXME H.264-specific
4. #define MB_TYPE_INTRA_PCM 0x0004 //FIXME H.264-specific
5. #define MB_TYPE_16x16 0x0008
6. #define MB_TYPE_16x8 0x0010
7. #define MB_TYPE_8x16 0x0020
8. #define MB_TYPE_8x8 0x0040
9. #define MB_TYPE_INTERLACED 0x0080
10. #define MB_TYPE_DIRECT2 0x0100 //FIXME
11. #define MB_TYPE_ACPRED 0x0200
12. #define MB_TYPE_GMC 0x0400
13. #define MB_TYPE_SKIP 0x0800
14. #define MB_TYPE_P0L0 0x1000
15. #define MB_TYPE_P1L0 0x2000
16. #define MB_TYPE_P0L1 0x4000
17. #define MB_TYPE_P1L1 0x8000
18. #define MB_TYPE_L0 (MB_TYPE_P0L0 | MB_TYPE_P1L0)
19. #define MB_TYPE_L1 (MB_TYPE_P0L1 | MB_TYPE_P1L1)
20. #define MB_TYPE_L0L1 (MB_TYPE_L0 | MB_TYPE_L1)
21. #define MB_TYPE_QUANT 0x00010000
22. #define MB_TYPE_CBP 0x00020000
23. //Note bits 24-31 are reserved for codec specific use (h264 ref0, mpeg1 0mv, ...)
一个宏块如果包含上述定义中的一种或两种类型,则其对应的宏块变量的对应位会被置1。
注:一个宏块可以包含好几种类型,但是有些类型是不能重复包含的,比如说一个宏块不可能既是16x16又是8x8。
8.ref_index
运动估计参考帧列表存储了一帧视频中所有宏块的参考帧索引。这个列表其实在比较早的压缩编码标准中是没有什么用的。只有像H.264这样的编码标准才有多参考帧的概念。但是这个字段目前我还没有研究透。只是知道每个宏块包含有4个该值,该值反映的是参考帧的索引。以后有机会再进行细研究吧。
在这里展示一下自己做的码流分析软件的运行结果。将上文介绍的几个列表图像化显示了出来(在这里是使用MFC的绘图函数画出来的)
视频帧:
QP参数提取的结果:
美化过的(加上了颜色):
宏块类型参数提取的结果:
美化过的(加上了颜色,更清晰一些,s代表skip宏块):
运动矢量参数提取的结果(在这里是List0):
运动估计参考帧参数提取的结果: