一種高效視頻編碼全零4×4係數塊提前檢測方法

2023-05-03 00:42:21 2

一種高效視頻編碼全零4×4係數塊提前檢測方法
【專利摘要】本發明涉及一種高效視頻編碼全零4×4係數塊提前檢測方法，包括以下步驟：1)設定量化參數Qp和二維DCT變換矩陣C；2)根據Qp、C以及需檢測的殘差塊計算全零塊檢測的閾值Th1和Th2；3)對於一個4×4殘差塊計算其對應的檢測參數SAD；4)判斷SAD是否滿足SAD＜Th1，若是，則判斷該4×4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則執行步驟5)；5)判斷SAD是否滿足SAD＜Th2，若是，則判斷該4×4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則對該4×4殘差塊進行DCT、量化、反量化和反DCT操作，返回步驟3)。與現有技術相比，本發明具有可提高視頻編碼速度、降低編碼計算複雜度且檢測效率高等優點。
【專利說明】一種高效視頻編碼全零4X4係數塊提前檢測方法

【技術領域】
[0001]本發明涉及一種視頻編碼方法，尤其是涉及一種高效視頻編碼全零4X4係數塊提前檢測方法。

【背景技術】
[0002]隨著人們對多媒體娛樂不斷增長的需求，高清視頻的流行以及超高清視頻的出現導致了對編碼效率的更高要求，而這種編碼效率是當前視頻編碼標準H.264/AVC所不能滿足的。為此，視頻編碼聯合組(JCT-VC)設計了一種新的視頻編碼標準，被稱為高效視頻編碼(High Efficiency Video Coding, HEVC),它的目標是在相同的視頻質量下提供比H.264/AVC高一倍的壓縮效率。
[0003]HEVC和其他視頻編碼標準的基本區別在於:HEVC使用了四叉樹結構。四叉樹結構是一種把圖片劃分為不同大小塊的機制，這種機制可以提高預測以及殘差編碼的性能。HEVC的基本處理單元是編碼樹單元(Coding Tree Unit, CTU),它可以看成是H.264/AVC中宏塊的擴展。一個CTU可以被設置為以下的塊大小:64X64，32X32或者16X16，並且它可以使用基於四叉樹遞歸的方法劃分為更小的編碼單元(Coding Unit，CU)。每個⑶可以進一步劃分成為預測單元(Predict1n Unit, PU),進行巾貞內或巾貞間預測。對於預測之後產生的殘差信號，HEVC採用殘差四叉樹(Residual Quad Tree, RQT)來進行變換處理，即:將每一個⑶劃分為變換單元(Transform Unit, TU)。根據HEVC設計規則，亮度塊的TU大小從4X4到32X32，色度塊的範圍從4X4到16X16。CU、PU和TU塊大小的劃分是由率-失真聯合優化方法決定的。除了四叉樹結構，HEVC還採用了其他多種高級編碼技巧，例如:更加完備的幀內角度預測方法、樣本自適應偏移編碼算法等等，來進一步提高壓縮效率。
[0004]儘管HEVC的壓縮效率得到了大幅提升，其計算複雜度也變的異常龐大。2012年12 月份發表在 IEEE Transact1ns on Circuits and System for Video Technology 的一篇文獻對比了 HEVC和H.264/AVC的編碼計算複雜度，表明HEVC的編碼計算量要遠遠高於
H.264/AVC，因此非常有必要設計快速編碼技術來降低HEVC的編碼計算複雜度。


【發明內容】

[0005]本發明的目的就是為了克服上述現有技術存在的缺陷而提供一種可提高視頻編碼速度、降低編碼計算複雜度且檢測效率高的高效視頻編碼全零4X4係數塊提前檢測方法，用以在高效視頻編碼中提前判斷全零4X4係數塊，從而降低離散餘弦變換(DiscreteCosine Transform, DCT)和量化過程的計算複雜度。
[0006]本發明的目的可以通過以下技術方案來實現:
[0007]—種高效視頻編碼全零4X4係數塊提前檢測方法，其特徵在於，包括以下步驟:
[0008]I)設定量化參數Qp和二維DCT變換矩陣C ；
[0009]2)根據Qp、C以及需檢測的4X4殘差塊計算全零塊檢測的閾值Th1和Th2 ；
[0010]3)對於一個4X4殘差塊計算其對應的檢測參數SAD:
3 3
[0011]SAD=EHe(XJ)I

x=0 y-0
[0012]其中，e(x，y)為4X4殘差塊中的元素，O彡x，y彡3，x、y為整數；
[0013]4)判斷SAD是否滿足SAD < Th1，若是，則判斷該4X4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則執行步驟5)；
[0014]5)判斷SAD是否滿足SAD < Th2，若是，則判斷該4X4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則對該4X4殘差塊進行DCT、量化、反量化和反DCT操作，返回步驟3)。
[0015]所述的步驟I)中量化參數Qp的取值範圍為[0,51],且Qp為整數。
[0016]所述的步驟2)中閾值Th1的計算公式為:
[0017]


imax
[0018]其中，-= f/w.29 —28-2.Ι?腿》r = 2qblts_1, qbits = 19+floor (Qp/6)，floor (.)

3I
為取整函數，m是與Qp有關的乘數因子，max XC(i,x)Lc(i,x)為矩陣C中的元


!€{0,1,2,3} ^ I
素，Cmax是矩陣C中絕對值最大的元素。
[0019]所述的m與Qp的關係為:
[0020]
Qp% 6 |0 [I [2 [3 U |5
m 26214 23302 20560 18396 16384 14564
[0021]。
[0022]所述的步驟2)中閾值Th2的計算步驟為:
[0023]a)計算 4X4 矩陣Cf"): φν) = CF(?,:)xC(v,:) ^ 』其中，C(u,:)表示矩陣 C 的




abs
第U行向量，0<u，v<3，操作符I.Iabs表示將矩陣中的每個元素用其絕對值來代替；
[0024]b)將4X4殘差塊分劃為四個區域Ri, I彡i彡4，形成殘差矩陣R = [R1, R2, R3,R4I:
[0025]R1 = {(X, y) I X = I, 2, y = I, 2}
[0026]R2 = {(X, y) I X = O, 3, y = I, 2}
[0027]R3 = {(X, y) I X = I, 2, y = O, 3}
[0028]R4 = {(X, y) I X = O, 3, y = O, 3}
[0029]每個區域元素絕對值的和Si定義如下:
[。_ ,賴胃稱KK4;
[0031]c)根據4X4矩陣Ci，v>計算檢測全零係數的閾值Tha, Thb, Thc:
[0032]7Ιιλ =^a,V(ii,v) € {(0,0),(0,2),(2,0),(2,2)}
[0033]
Thb =? +cr, min{Sj +?,?+ Sj, 1S2 +5湊}?
[0034]ν(Η, V)(2,3),0,0),(1,2),(3,0),(3,2)}
[0035]
?\=φ(.+ τ!?η{β.Ξχ-γp-S2-Y'S^f1-S^-Y Sx),
[0036]V(?,v)e {(1,1),(1,3),(3,1).(3,3)}
「 ? 廿Iφφφ 3008 η 1692 3901
[0037]其中，親^ =-JBk -息=-.a --?β --,y --；
Ψβ 4096 Λ SMl m 2988 5312 F 2988 7 2988
[0038]d)計算 Th2:Th2 = min {Tha, Thb, ThJ。
[0039]與現有技術相比，本發明具有以下優點:
[0040]1、本發明通過對4X4係數塊進行提前全零檢測，避免係數塊的DCT和量化操作，節省編碼時間，降低了編碼計算複雜度；
[0041]2、本發明通過兩步算法進行全零係數塊檢測，檢測有效且檢測效率高。

【具體實施方式】
[0042]下面結合具體實施例對本發明進行詳細說明。本實施例以本發明技術方案為前提進行實施，給出了詳細的實施方式和具體的操作過程，但本發明的保護範圍不限於下述的實施例。
[0043]在HEVC中，對於一個4X4殘差塊e(x，y)，其二維DCT變換可以寫成如下形式:
33
[0044]F(u,v) = {Σ C(?, x).[(2 e{x, ^).Cf (:μ, v) +1) ?I] + 27}? 8(I)
X=Oy=0
[0045]其中，F(u，v) (0 ^ u, V ^ 3)是變換係數塊；C是二維DCT變換矩陣:
'64 64 64 64'
a 83 36 一36 -83…
[0046]C=(2)
64 -64 -64 64
36 -83 83 -36
[0047]Ct是矩陣C的轉置；>>代表右移操作符。
[0048]給定變換係數F (u，v)和一個量化參數Qp (HEVC中的變化範圍是O?51)，量化後的變換係數Z (u, v) ,0 ^ u, V ^ 3,可計算如下:
[0049]Z (U，V) = sign (F(U，V)).[ (| F(u, v).m+r) >> qbits] (3)
[0050]其中，qbits= 19+floor (Qp/6), r =m 是與 Qp 有關的乘數因子,m 與 Qp 的關係見表格I。
[0051]表格I
[0052]
Qp% 6 |θ [? [2 [3 U ?δ
m 26214 23302 20560 18396 16384 14564
[0053]通過公式(3)，變換係數F (U，V)被量化為零的充分條件可以表示為:

jgbits _
[0054]|F(m,v)|<-——I(4)
m
[0055]把公式⑴中的F(u，v)帶入到公式⑷中，可以得到:
[0056]χΗ(Σβ(χ,γ).€Τ(γ,ν))?1 + 1]〈乙.28-27(5)
x=0少=0故
[0057]考慮到|a+b| ( |a| + |b|，下面的不等式可以通過公式(5)導出:
333
[0058]藝C(?，v).(藝 φ^).(7Γ(ν，ν)) < —.29 - 28 - 2.^C(m,v) (6)
X=O產Omx=0
[0059]通過公式(6)，我們可以進一步得到:
[0060]X|C(M,x)|*|e(x,y)|-|C(M,^)|< —.29-28-2.^C(u,x)(7)
x=0 產 omx=0
[0061]為了保證公式(7)對於每一個(U，V)都是正確的，公式(7)左側|C(u，x) |的和






3
|C(u，y) I可以被替換為矩陣C中絕對值最大的元素，公式右側的XC(W,X)可以替換為




x=0
R ，:& 中


3
[0062]Xmax = max ^C(i,x)(S)

f'e{0,l,2,3} χ_ο
[0063]因此，公式(7)轉化為:
[0064]
ΣΣΠ^Ι<^~⑷
X=O 產 OLmax
[0065]其中，@^/^29-28-24_，(:_是矩陣(:中絕對值最大的元素。根據公式(2)，可以得到:Cmax = 83,Rmax = 256。考慮到SAD，檢測HEVC中全零4X4DCT塊的充分條件可以表達為:
[0066]
SADKThbThl=-^-(10)

1 1 pL


Ijnax
[0067]對於每一個Qp可以提前計算閾值Th1,因此只需要進行一次比較操作來執行公式(10)。
[0068]為了提高預測效率，我們進行了進一步分析。首先，4X4矩陣C4U，V)定義如下:
[0069]C$v) = Cr(?,:)xC(v,:)(11)


abs
[0070]其中，C(u，:)表示矩陣C的第u行向量，操作符I.Iabs表示將矩陣中的每個元素用其絕對值來代替。根據對公式(7)和公式(11)的分析，我們可以得到:
[0071]
-- (?2)

Jc=O 戶0
[0072]每一個DCT係數F(u，v)被量化為零的充分條件可以通過分析公式(12)中的得到。
[0073]下面，我們以(U，V) = (1,3)為例進行說明。
[0074]為了簡化分析，一個4X4殘差塊可以劃分為四個區域Ri, I彡i ( 4，形殘差矩陣R = [R1, R2, R3, R4]。
[0075]R1 = {(X, y) I X = I, 2, y = I, 2}
[0076]R2 = {(X, y) I X = O, 3, y = I, 2}(13)
[0077]R3 = {(X, y) I X = I, 2, y = O, 3}
[0078]R4 = {(X, y) I X = O, 3, y = O, 3}
[0079]每個區域元素絕對值的和Si可以定義如下:
[0080]
S1-=ΣΣ\<x^y) I，e^.,i<i<4,(i4)
當(U，v) = (l，3)，我們可以備函

'2988 6889 6889 2988'
,13) 1296 2988 2988 1296
[0081]Cf)=(5)
m 1296 2988 2988 1296
2988 6889 6889 2988
[0082]限據公式(12)、(14)和(15)，F(l，3)被量化為零係數的充分條件為:
[0083]
ΟΑΓ, φ 1692 _ 3901 c
SAD +--S'---S7(16)

2988 2988 3 2988 2
[0084]根據相似的分析，其他DCT係數被量化為零的充分條件在表格2中給出。
[0085]表格2.HEVC中提前檢測全零DCT係數的充分條件充分條件位置(W，V)

SADcpa(0,0),(0,2),(2,0),(2,2)
SAD<fb+a-(S]+S2)(0,1),(2,1)
[0086]SAD <?% +a.(? +S4)(0,3),(2,3)
8Α?<^+α.(5,+53)(1,0),(1,2)
SAD<^+a-(S2+54)(3,0),(3,2)
SAD <+β S1-r S4(1,1)
SAD<<pc+fiS"S2(1,3)
[0087]SAD <%+/?.S2-廣53(3,1)
SAD<^c+^-54-f S,(3,3)
r ?φφφ 3008 Λ 1692 3901
ΓΠΠββ? (Fi =______ ffii r=—-- ffi =_1- Cf —_ Ii =- V =_
α 4096 * 5312』％ 2988』 5312 2988 2988
[0089]根據表格2中的數據，可以歸納出三個提前檢測全零DCT係數的閾值，如下:
[0090]Tha = V(m,v) € {(0,0),(0,2),(2,0),(2,2)}
[0091]
Th^ = (pb + ^.--?π {(S，+4-+ ，S: + }，
[0092]V(w, V) e{(05l),(2,1),(0,3),(2,3),(I,O),(1,2),(3,0),(3,2)}(17)
[0093]
+Sr Y-S-S1I,S^.Sa-Y-S1V
[0094]V(?,v)€ {(1,1),(1,3),(3,1),(3,3)}
[0095]根據公式(17)中的三個閾值，提前檢測全零4X4量化DCT係數塊的充分條件可以總結為:
[0096]SAD < Th2, Th2 = min {Tha, Thb, ThJ(18)
[0097]根據公式(10)和(17)，可以很容易證明Tha彡Th1Jhb彡Th10另外，公式(17)中的Th。可以重新計算為:
19015593 39015593
[0098]Thc=Th^min {— * (? + S3 )+^,.(S1 + 54) +, (19)
c 1 '6889 2 3 6889 1 6889 1 4 6889 3
Γ ? 3901 0、5593 0 3901 ?、5593 ? ,
[0099]--(Si +*?4)Η---，-.(? +?) +--S λ}
6889 1 4 6889 2 6889 2 3 6889 4
[0100]因此，可以看出Th。彡Th10綜合以上分析，我們可以得到:
[0101]Th2 ^ Th1 (20)
[0102]這說明在預判全零4X4係數塊方面，公式(18)比公式(10)更為有效。但是，在計算公式(18)中的Th2時會引入較多額外的計算開銷，包括10次加法運算，9次比較運算和9次乘法運算。
[0103]為了均衡檢測效率和額外的計算開銷，本實施例可降低DCT和量化過程計算複雜度的高效視頻編碼全零4X4係數塊提前檢測方法，包括以下步驟:
[0104]I)設定量化參數Qp和二維DCT變換矩陣C ；
[0105]2)根據Qp、C以及需檢測的4X4殘差塊計算全零塊檢測的閾值Th1和Th2 ；
[0106]3)對於一個4X4殘差塊計算其對應的檢測參數SAD:
3 3
[0107]SAD = Σ
[0108]其中，e(x，y)為4X4殘差塊中的元素，O彡x，y彡3，x、y為整數；
[0109]4)判斷SAD是否滿足SAD < Th1，若是，則判斷該4X4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則執行步驟5)；
[0110]5)判斷SAD是否滿足SAD < Th2，若是，則判斷該4X4殘差塊為全零塊，返回步驟
3)進行下一個殘差塊的檢測，若否，則對該4X4殘差塊進行DCT、量化、反量化和反DCT操作，返回步驟3)。
[0111]採用HEVC參考軟體模型HM8.0來評估本發明所提出的提前檢測方法。實驗配置如下:採用隨機接入(Random Access, RA);圖片組大小(GOP)設置為8 ;CTU尺寸、最小CU尺寸、最大TU尺寸、最小TU尺寸、幀內編碼CU的變換樹層次以及幀間編碼CU的變換樹層次分別設置為64X 64、8 X 8、32 X 32、4X 4、3 X 3。使用了 10個HEVC標杆測試視頻進行評估。根據視頻解析度可以把這些視頻分為五類，包括=Class A(2560X 1600)、ClassB(1920X 1080),Class C (832 X 480)'Class D (416 X 240)和 Class E (1280 X 720)。對於每一個視頻序列，使用32幀(即4個GOP)進行測試。為了檢測不同碼率時的預測表現，實驗中共使用了五個Qp值:24、28、32、36和40。
[0112]為了評估所提出的兩步檢測方法，我們使用了兩種測試條件。在第一種情況下，只使用本發明方法的步驟4)來檢測全零塊，S卩:只使用公式(10)進行預測；這個算法記為AM-10在第二種情況下，本發明的所有步驟均被使用，記為AM-2。由於算法AM-1和算法AM-2使用了預測全零塊的充分條件，因此視頻質量和壓縮率與原始的編碼器性能相比是相同的。為了評估性能，本專利使用了三個評價指標，分別是檢測率(DR)、整體計算時間的下降(Λ Te)以及DCT/量化/反量化/反DCT過程的時間下降(Λ Td)，定義如下:
[0113]DR =^c X100%,

Nall
Tfg-Tj
[0114]^Td = —............—~X100%,(21)

Td

Trg —γ
[0115]ΔΓ,=^-^χ100%,
[0116]其中，Ndec是算法AM-1或者ΑΜ-2檢測到的全零4X 4DCT塊數量；Nall是編碼過程中產生的全零4X4DCT塊數量；7；%是原始編碼器的整體編碼時間；Te是使用了 AM-1或者AM-2後編碼器的整體運行時間；?7g是原始編碼器DCT/量化/反量化/反DCT的時間；Td是使用了 AM-1或者AM-2後編碼器中DCT/量化/反量化/反DCT的時間。表格3至表格7中分別給出了五類視頻的實驗結果。根據實驗結果，我們可以發現AM-1和AM-2可以有效檢測全零係數塊，從而降低DCT和量化過程的計算複雜度；在全零塊檢測效率方面，AM-2比AM-1更加有效。
[0117]表格3.ClassA的實驗數據
[0118]

【權利要求】
1.一種高效視頻編碼全零4X4係數塊提前檢測方法，其特徵在於，包括以下步驟: .1)設定量化參數Qp和二維DCT變換矩陣C； .2)根據Qp、C以及需檢測的4X4殘差塊計算全零塊檢測的閾值Th1和Th2； . 3)對於一個4X4殘差塊計算其對應的檢測參數SAD: SAD=E X|e(x，jO|
x=Q 其中，e(x, y)為4X4殘差塊中的元素,O彡x, y彡3, x、y為整數； .4)判斷SAD是否滿足SADCTh1，若是，則判斷該4X4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則執行步驟5)； .5)判斷SAD是否滿足SAD<Th2，若是，則判斷該4X4殘差塊為全零塊，返回步驟3)進行下一個殘差塊的檢測，若否，則對該4X4殘差塊進行DCT、量化、反量化和反DCT操作，返回步驟3)。
2.根據權利要求1所述的一種高效視頻編碼全零4X 4係數塊提前檢測方法，其特徵在於，所述的步驟I)中量化參數Qp的取值範圍為[O，51]，且Qp為整數。
3.根據權利要求1所述的一種高效視頻編碼全零4X 4係數塊提前檢測方法，其特徵在於，所述的步驟2)中閾值Th1的計算公式為:%子
其中，爐= r/m.29-28-2.1?max, r = 2qblts_1, qbits = 19+floor(Qp/6), floor(.)為取




3整函數，m是與Qp有關的乘數因子，i?_= max ^C(;，x)，c(i，x)為矩陣c中的元素，/€{0,1,2,3} x=qCmax是矩陣C中絕對值最大的元素。
4.根據權利要求3所述的一種高效視頻編碼全零4X4係數塊提前檢測方法，其特徵在於，所述的m與Qp的產系芡:_
Qp% 6 |θ [I [2 [3 fi ?δ
m 26214 23302 20560 18396 16384 14564
. O
5.根據權利要求1所述的一種高效視頻編碼全零4X 4係數塊提前檢測方法，其特徵在於，所述的步驟2)中閾值Th2的計算步驟為: a)計算4X4 矩陣」,ν>. = Cr(?,:)xC(v5；),其中，C(u，:)表示矩陣 C 的第 u 行.abs向量，O < U，V < 3，操作符I.Iabs表示將矩陣中的每個元素用其絕對值來代替； b)將4X4殘差塊分劃為四個區域Ri,I彡i ( 4，形成殘差矩陣R= [R1, R2, R3, R4]: Ri = {(X，y) |χ = 1,2, y = 1,2}
R2 = {(X，y) |x = 0,3, y = 1,2}
R3 = {(X，y) |x = 1，2, y = 0,3}
R4 = {(X，y) IX = 0,3, y = 0,3}每個區域元素絕對值的和Si定義如下:.4.=ΣΣ?β(υ)丨，c)根據4X4矩陣C#.1^十算檢測全零係數的閾值Tha、Thb,Th。:Tha = φα,V(ufv) € {(0,0),(0,2),(2,0),(2,2)}Thfl = (f>b + of *nun{Sj +52,? +S^, +Sj,S2 +?},V(?,v)e{(0,l)，(2，l)，(0,3)，(2，3)，(l，0)，(l，2),(3，0)，(3，2)}n^c+minws-r.s^fl-srr.sj-s1-rkfl-srrnV(?,v)€ {(1,1),(1,3),(3,1),(3,3)}.φφφ 3008 0 1692 3901其中，爐λ =-#A =-,Vr =-，α =-,β =-,Y--;a 4096 6 5312 c 2988 5312 ^ 2988 2988d)計算Th2:Th2 = min {Tha, Thb, ThJ。
【文檔編號】H04N19/625GK104185025SQ201310196481
【公開日】2014年12月3日 申請日期:2013年5月23日 優先權日:2013年5月23日
【發明者】王瀚漓, 杜焓 申請人:同濟大學