幀內圖像預測編解碼的自適應環路濾波方法及裝置的製作方法
2023-09-23 19:13:05 1
專利名稱：幀內圖像預測編解碼的自適應環路濾波方法及裝置的製作方法
技術領域：
本發明涉及圖像視頻編解碼和幀內圖像預測技術領域，尤其涉及幀內圖像預測編解碼的自適應環路濾波方法及裝置。
背景技術：
在第五次JCT-VC (ajoint group ofexperts from MPEG and VCEG，MPEG 和 VCEG聯合專家組)會議上，基於區域劃分(RA)和塊劃分(BA)的幀內圖像預測編解碼的自適應環路濾波方法[I 3]被採納。在基於區域劃分的方法中，將圖像按照位置直接分成16個區域，對應每個區域訓練一套濾波器。而在基於塊劃分的方法中，整幀圖像被劃分成非重疊的4X4塊，將整幀圖像的所有塊分成15類，訓練出15種不同的濾波器係數。最後視頻編碼器通過計算率失真來得到應用於區域劃分還是塊劃分對整幀圖像濾波。由於基於區域劃分無需計算圖像信息，因此不會給解碼端帶來過高的計算複雜度，但從壓縮性能上，由於基於塊劃分更多的考慮到了圖像自身的特性，所以其性能較好。在基於塊劃分的方法中，對每個4X4塊中的像素{X(i，j) i = 0，1，2，3 ;j = 0，1,2,3},編解碼端都要計算塊的方向性信息以及拉普拉斯特性，具體如下:H(i, j) = abs (X(i, j) << l_X(i, j-l)_X(i, j+1))V(i, j) = abs (X(i, j) << 1-X(i_l, j)_X(i+l, j))L(i, j) = Σ n = -lj0,i S =j+n) +V(i+m, j+n)其中，H(i，j)為水平梯度；V(i，j)為垂直梯度；水平梯度和垂直梯度反映塊的方向性信息；L(i，j)為反映拉普拉斯特性的值。對於每個4X4塊，對每個像素的對應特性求和，可得Hb — Σ i = 0,1,2,3 Σ j = 0,1,2, 3H (i，j)Vb —Σ i = ο,1,2,3 Σ j = 0,1,2,3V (i，j)Lb — Σ i = 0,1,2,3 Σ j = (1,1,2, 3L (i，j)根據以上特性，可以將4 X 4塊分成15類，對於每類塊設計對應的濾波器進行環路濾波。然而，由於上述計算在編解碼端都要執行，會增加編解碼端尤其是解碼端的計算負荷。基於 上述塊的劃分算法，在JCTVC_F301[4]中，研究人員提出了一種快速計算塊分類的方法。圖1為基於4X4塊自適應濾波器類別劃分的快速算法示意圖。如圖1所示，在該算法中，對於每個4X4的塊的16個像素中，只計算每2X2子塊左上角的像素對應的方向性信息和拉普拉斯特性以減少編解碼的計算複雜度。但是，對於基於塊的劃分，該快速算法仍需計算至少圖像總像素的1/4的梯度值和拉普拉斯特性信息，因此在解碼端仍會帶來一些的計算複雜度
發明內容
本發明實施例提供一種幀內圖像預測編碼的自適應環路濾波方法，用以減少編碼的計算複雜度，該方法包括:將整幀圖像劃分成非重疊的4X4塊；將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性；根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；根據所述濾波器係數，對整幀圖像進行自適應環路濾波。本發明實施例還提供一種幀內圖像預測解碼的自適應環路濾波方法，用以減少解碼的計算複雜度，該方法包括:將整幀圖像劃分成非重疊的4X4塊；將進行幀內圖像預測解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的解碼單元的深度，估計當前4X4塊的拉普拉斯特性；根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；根據所述濾波器係數，對整幀圖像進行自適應環路濾波。本發明實施例還提供一種視頻編碼器，用以減少編碼的計算複雜度，該視頻編碼器包括:圖像劃分模塊，用於將整幀圖像劃分成非重疊的4X4塊；濾波器第一划分模塊，用於將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；拉普拉斯特性估計模塊，用於根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性；濾波器第二劃分模塊，用於根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；濾波模塊，用於根據所述濾波器係數，對整幀圖像進行自適應環路濾波。本發明實施例還提供一種視頻解碼器，用以減少解碼的計算複雜度，該視頻解碼器包括:圖像劃分模塊，用於將整幀圖像劃分成非重疊的4X4塊；濾波器第一划分模塊，用於將進行幀內圖像預測解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；拉普拉斯特性估計模塊，用於根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的解碼單元的深度，估計當前4X4塊的拉普拉斯特性；濾波器第二劃分模塊，用於根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；
濾波模塊，用於根據所述濾波器係數，對整幀圖像進行自適應環路濾波。本發明實施例中進行幀內圖像預測編解碼的自適應環路濾波時，將進行幀內圖像預測編碼或解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；根據當前4X 4塊對應的預測單元所屬的濾波器組、當前4X 4塊對應的編碼單元或解碼單元的深度，估計當前4X 4塊的拉普拉斯特性；根據各4X 4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；相對於現有技術中基於塊劃分的幀內圖像預測編解碼的自適應環路濾波方法而言，可以在保持編解碼性能的前提下減小編解碼的運算複雜度，減輕編解碼端的計算負荷，實現利用編解碼信息，只需少量計算而直接得到塊的分類信息，同時可以保證不過多影響自適應環路濾波器的效果O
為了更清楚地說明本發明實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本發明的一些實施例，對於本領域普通技術人員來講，在不付出創造性勞動性的前提下，還可以根據這些附圖獲得其他的附圖。在附圖中:圖1為現有技術中基於4X4塊自適應濾波器類別劃分的快速算法示意圖；圖2為本發明實施例中幀內圖像預測編碼的自適應環路濾波方法的處理流程圖；圖3為本發明實施例中當前HEVC編碼方案中預測模式的示意圖；圖4為本發明實施例中幀內圖像預測解碼的自適應環路濾波方法的處理流程圖；圖5為本發明實施例中視頻編碼器的結構示意圖；圖6為本發明實施例中視頻解碼器的結構示意圖。
具體實施例方式為使本發明實施例的目的、技術方案和優點更加清楚明白，下面結合附圖對本發明實施例做進一步詳細說明。在此，本發明的示意性實施例及其說明用於解釋本發明，但並不作為對本發明的限定。發明人考慮到，在幀內圖像預測編解碼中，由於預測模式的方向性信息可以很好的反映圖像的方向，而編碼單元或解碼單元的深度、預測單元的劃分信息可以很好的反映圖像的複雜程度，進而反映拉普拉斯特性信息，因此，本發明實施例提供一種幀內圖像預測編解碼的自適應環路濾波方法及視頻編解碼器，其應用預測模式的方向性信息、編碼單元或解碼單元的深度、預測單元的劃分信息，對整幀圖像以非重疊的4X4塊為基本單位分類，從而在保持編解碼性能的前提下減小編解碼的運算複雜度。圖2為本發明實施例中幀內圖像預測編碼的自適應環路濾波方法的處理流程圖。如圖2所示，其處理流程可以包括:步驟201、將整幀圖像劃分成非重疊的4X4塊；步驟202、將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；步驟203、根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性；步驟204、根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；步驟205、根據所述濾波器係數，對整幀圖像進行自適應環路濾波。由圖2所示流程可以得知，本發明實施例中進行幀內圖像預測編碼的自適應環路濾波時，將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性；根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；相對於現有技術中基於塊劃分的幀內圖像預測編碼的自適應環路濾波方法而言，可以在保持編碼性能的前提下減小編碼的運算複雜度，減輕編碼端的計算負荷，實現利用編碼信息，只需少量計算而直接得到塊的分類信息，同時可以保證不過多影響自適應環路濾波器的效果O具體實施時，將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器。圖3為當前HEVC編碼方案中預測模式的示意圖。將這些預測模式按預測方向劃分成五大類。例如，具體類劃分與邏輯幀內預測模式的對應關係可以如表一所不。表一幀內預測模式劃分
權利要求
1.一種幀內圖像預測編碼的自適應環路濾波方法，其特徵在於，該方法包括: 將整幀圖像劃分成非重疊的4X4塊； 將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器； 根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性； 根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數； 根據所述濾波器係數，對整幀圖像進行自適應環路濾波。
2.按權利要求1所述的方法，其特徵在於，將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器，包括: 劃分{DC, Planar}預測模式對應於濾波器組N = O; 劃分{10 17}預測模式對應於濾波器組N=I; 劃分U 9}預測模式對應於濾波器組N = 2 ; 劃分{18 24}預測模式對應於濾波器組N = 3 ; 劃分{25 33}預測模式對應於濾波器組N = 4 ; 其中，N為濾波器組號。
3.按權利要求1所述的方法，其特徵在於，按如下公式，根據當前4X4塊對應的預測單元所屬的濾波器組、當前4 X 4塊對應的編碼單元的深度，估計當前4 X 4塊的拉普拉斯特性，包括: d I depth +1 size(PU) = NxN \depthsize(PU) = IN x IN 其中，d為反映當前4X4塊的拉普拉斯特性的值；depth為當前4X4塊對應的編碼單元的深度；N為當前4X4塊對應的預測單元所屬的濾波器組號；size(PU)為當前4X4塊對應的預測單元的大小。
4.按權利要求3所述的方法，其特徵在於，根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數，包括: 若編碼單元的最大深度為4，按如下公式將d進一步分為3類:Class(d) = d/2 其中，Class (d)為d的類別； 按如下公式對分組後的各組濾波器進行分類: P,\N x3 + Class(d) N%2 = Ohilt Num = < —[TV X 3 + 3 - C las s (d) Else 其中，Filt_Num為濾波器的類別編號。
5.按權利要求1所述的方法，其特徵在於，根據所述濾波器係數，對整幀圖像進行自適應環路濾波，包括: 進行區域劃分和塊劃分的率失真計算，並在計算區域劃分的率失真中，將應減去的用於選擇塊劃分的常數置為O。
6.一種幀內圖像預測解碼的自適應環路濾波方法，其特徵在於，該方法包括: 將整幀圖像劃分成非重疊的4X4塊； 將進行幀內圖像預測解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器； 根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的解碼單元的深度，估計當前4X4塊的拉普拉斯特性； 根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數； 根據所述濾波器係數，對整幀圖像進行自適應環路濾波。
7.按權利要求6所述的方法，其特徵在於，將進行幀內圖像預測解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器，包括: 劃分{DC, Planar}預測模式對應於濾波器組N = O; 劃分{10 17}預測模式對應於濾波器組N=I; 劃分(1 9}預測模式對應於濾波器組N = 2 ; 劃分{18 24}預測模式對應於濾波器組N = 3 ; 劃分{25 33}預測模式對應於濾波器組N = 4 ; 其中，N為濾波器組號。
8.按權利要求6所述的方法，其特徵在於，按如下公式，根據當前4X4塊對應的預測單元所屬的濾波器組、當前4 X 4塊對應的解碼單元的深度，估計當前4 X 4塊的拉普拉斯特性，包括:
9.按權利要求8所述的方法，其特徵在於，根據各4X 4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數，包括: 若解碼單元的最大深度為4，按如下公式將d進一步分為3類: 其中，Class (d)為d的類別； 按如下公式對分組後的各組濾波器進行分類:
10.按權利要求6所述的方法，其特徵在於，根據所述濾波器係數，對整幀圖像進行自適應環路濾波，包括: 進行區域劃分和塊劃分的率失真計算，並在計算區域劃分的率失真中，將應減去的用於選擇塊劃分的常數置為O。
11.一種視頻編碼器，其特徵在於，包括:圖像劃分模塊，用於將整幀圖像劃分成非重疊的4X4塊； 濾波器第一划分模塊，用於將進行幀內圖像預測編碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器； 拉普拉斯特性估計模塊，用於根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的編碼單元的深度，估計當前4X4塊的拉普拉斯特性； 濾波器第二劃分模塊，用於根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數； 濾波模塊，用於根據所述濾波器係數，對整幀圖像進行自適應環路濾波。
12.按權利要求11所述的視頻編碼器，其特徵在於，所述濾波器第一划分模塊，具體用於: 劃分{DC, Planar}預測模式對應於濾波器組N = O; 劃分{10 17}預測模式對應於濾波器組N=I; 劃分U 9}預測模式對應於濾波器組N = 2 ; 劃分{18 24}預測模式對應於濾波器組N = 3 ; 劃分{25 33}預測模式對應於濾波器組N = 4 ; 其中，N為濾波器組號。
13.按權利要求11所述的視頻編碼器，其特徵在於，所述拉普拉斯特性估計模塊，具體用於: 按如下公式，根據當前4 X 4塊對應的預測單元所屬的濾波器組、當前4 X 4塊對應的編碼單元的深度，估計當前4 X 4塊的拉普拉斯特性，包括:
14.按權利要求13所述的視頻編碼器，其特徵在於，所述濾波器第二劃分模塊，具體用於: 若編碼單元的最大深度為4，按如下公式將d進一步分為3類:Class(d) = d/2 其中，Class (d)為d的類別； 按如下公式對分組後的各組濾波器進行分類:
15.按權利要求11所述的視頻編碼器，其特徵在於，所述濾波模塊，具體用於: 進行區域劃分和塊劃分的率失真計算，並在計算區域劃分的率失真中，將應減去的用於選擇塊劃分的常數置為O。
16.一種視頻解碼器，其特徵在於，包括: 圖像劃分模塊，用於將整幀圖像劃分成非重疊的4X4塊；濾波器第一划分模塊，用於將進行幀內圖像預測解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器； 拉普拉斯特性估計模塊，用於根據當前4X4塊對應的預測單元所屬的濾波器組、當前4X4塊對應的解碼單元的深度，估計當前4X4塊的拉普拉斯特性； 濾波器第二劃分模塊，用於根據各4X4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數； 濾波模塊，用於根據所述濾波器係數，對整幀圖像進行自適應環路濾波。
17.按權利要求16所述的視頻解碼器，其特徵在於，所述濾波器第一划分模塊，具體用於: 劃分{DC, Planar}預測模式對應於濾波器組N = O; 劃分{10 17}預測模式對應於濾波器組N=I;` 劃分U 9}預測模式對應於濾波器組N = 2 ; 劃分{18 24}預測模式對應於濾波器組N = 3 ; 劃分{25 33}預測模式對應於濾波器組N = 4 ; 其中，N為濾波器組號。
18.按權利要求16所述的視頻解碼器，其特徵在於，所述拉普拉斯特性估計模塊，具體用於: 按如下公式，根據當前4 X 4塊對應的預測單元所屬的濾波器組、當前4 X 4塊對應的解碼單元的深度，估計當前4 X 4塊的拉普拉斯特性，包括: J depth +1 size(PU) = NxN [depthsize(PU) = IN χ IN 其中，d為反映當前4X4塊的拉普拉斯特性的值；depth為當前4X4塊對應的解碼單元的深度；N為當前4X4塊對應的預測單元所屬的濾波器組號；size(PU)為當前4X4塊對應的預測單元的大小。
19.按權利要求18所述的視頻解碼器，其特徵在於，所述濾波器第二劃分模塊，具體用於: 若解碼單元的最大深度為4，按如下公式將d進一步分為3類:Class(d) = d/2 其中，Class (d)為d的類別； 按如下公式對分組後的各組濾波器進行分類: \N x3 + Class(d) N%2 = O Filt Num = < —[TV χ 3 + 3 - C las s (d) Else 其中，Filt_Num為濾波器的類別編號。
20.按權利要求16所述的視頻解碼器，其特徵在於，所述濾波模塊，具體用於: 進行區域劃分和塊劃分的率失真計算，並在計算區域劃分的率失真中，將應減去的用於選擇塊劃分的常數置為O。
全文摘要
本發明公開了一種幀內圖像預測編解碼的自適應環路濾波方法及裝置，在進行幀內圖像預測編解碼的自適應環路濾波時，將進行幀內圖像預測編碼或解碼自適應環路濾波的濾波器分組，根據預測方向將預測模式分為五類，每類對應於一組濾波器；根據當前4×4塊對應的預測單元所屬的濾波器組、當前4×4塊對應的編碼單元或解碼單元的深度，估計當前4×4塊的拉普拉斯特性；根據各4×4塊的拉普拉斯特性，對分組後的各組濾波器進行分類，訓練出各類濾波器對應的濾波器係數；可以在保持編解碼性能的前提下減小編解碼的運算複雜度，減輕編解碼端的計算負荷，實現利用編解碼信息，只需少量計算而直接得到塊的分類信息，同時可以保證不過多影響自適應環路濾波器的效果。
文檔編號H04N7/26GK103096060SQ20111035151
公開日2013年5月8日 申請日期2011年11月8日 優先權日2011年11月8日
發明者賈傑, 馬思偉, 王詩淇 申請人:樂金電子(中國)研究開發中心有限公司