判断条件	边界强度 (BS)
P 块或 Q 块为帧内编码模式，且块边缘为宏块边缘	4
P 块或 Q 块为帧内编码模式	3
P 块或 Q 块的残差变换系数不都为 0	2
P 块或 Q 块的残差变换系数都为 0，但 P 块和 Q 块参考帧或运动项目不同	1
P 块或 Q 块的残差变换系数都为 0，但 P 块和 Q 块参考帧或运动项目相同	0

色度块的边界不需要单独计算，直接等于对应亮度块的边界强度。

3.2.2、区分真假边界

去块滤波最核心部分就是区分真假边界，关于真假边界区分是基于两个假设：

真实边界两边像素点的差值通常比虚假边界两边像素差值要大；

对于两边像素差值小的真实边界，即使使用平滑滤波，其主观效果也不会有太大的影响。

因此，去块滤波应该遵循以下原则：

在平坦区域，即使很小的像素不连续也很容易被人察觉，所以要使用比较强的去块滤波，可以改变较多的像素点

对于复杂的区域，为了保持图像细节，要使用较弱的去块滤波，改变较少的像素点

为区分真假边界，需要对被滤波边界两边的像素值进行分析。定义两个相邻4x4块中一条直线上的采样点为p3、p2、p1、p0、q0、q1、q2、q3，如下图所示。

H264标准中设定了两个阈值 α(alpha) 和 β(beta) 来判断虚假边界

α(alpha) 表示块与块之间的边界阈值；

β(beta) 表示块内边界的阈值。

对于边界两边像素点的差值，满足下面三个条件就判定为需要滤波的虚假边界。

| p0-q0 | < α

| p1-p0 | < β

| q1-q0 | < β

4、滤波运算

当边界强度BS不为0时，就需要进行滤波。H.264 的边缘滤波有两种滤波器：

4.1、BS < 4

BS < 4 时采用强度较弱的滤波器，首先改变p0、q0两个像素点，接着用阈值 β(beta) 判断是否需要调整p1、q1的值；过程如下

首先对边界上的两个像素点p0与q0进行滤波，它需要输入p1、p0、q0、q1，滤波过程如下：

先要得到差值Δ，差值的计算方式：Δ = ( (q0-p0)> 3
然后需要对差值Δ进行限幅，保证这个差值在一定的范围内，这个范围主要通过查表得到，详情请查看标准8.7.2.3
用差值Δ来计算新的p0、q0，也就是滤波后的值

接下来对块内的像素点p1与q1分别进行滤波。4:2:0以及4:2:2色度宏块边界的话是不需要执行这部分的滤波的。如果是要计算p1，则需要输入p2、p1、p0、q0；如果是q1，则需要输入p0、q0、q1、q2。

另外，只有满足|p2-p0|

先要得到差值Δ，差值的计算方式为：Δ = ( p2 + ((p0+q0+1)>>1) − (p1> 1
然后需要对差值Δ进行限幅，保证这个差值在一定范围内，这个范围主要通过查表得到，详情请查看标准8.7.2.3
用差值来计算新的p1

q1的滤波过程也是类似的步骤。

4.2、BS = 4

BS = 4 时有两种强度的滤波，强滤波可以改变6个像素点（p0、p1、p2、q0、q1、q2），弱滤波只改变边界上的两个点（p0、q0）

在h.264的帧内预测编码中，倾向于对纹理简单的区域用16x16亮度预测模式编码（如蓝天、白色墙面等），以达到快速编码的目的。虽然这种方法只会在宏块边界引起轻微的块效应，但是在这种情况下，即使很小的强度值查表也会在视觉上产生陡峭的阶梯状的感觉（色块分层），因而对于这种内容平滑的宏块边界就需要采用较强的滤波器；如果此时宏块边界有大量的细节存在，反而不应做强滤波。对此h.264仍采用阈值法来判断是否存在真实边界，如果不存在大量细节信息，可以做强滤波，反之做弱滤波。

这里的滤波是比较好理解的抽头滤波器，P、Q块上的滤波过程差不多，这里以P块为例。

对于P块的点，如果满足下式，则认为细节信息不多：