一種視頻編碼4x4整數變換方法
2023-06-14 10:24:56 1
專利名稱：一種視頻編碼4x4整數變換方法
技術領域：
本發明 涉及視頻編碼技術領域，尤其涉及一種視頻編碼4x4整數變換方法。
背景技術：
一套完整的視頻編碼系統是由預測、變換、量化、熵編碼等一系列算法模塊組成的。其中幀內幀間預測是利用視頻數據在空間和時間上的相關性壓縮數據。變換模塊是將預測模塊輸出的圖像殘差數據由時域變換到另一個空間上，使時域上平坦分布的數據在變換空間上能量集中，將數據的能量大部分集中在空間的低頻區域中。在隨後的量化和熵編碼模塊中，會有效的利用變換後的數據分布特徵，進一步壓縮數據。顯而易見，變換模塊是視頻編碼系統中重要的組成部分，變換的性能直接影響視頻編碼系統的性能。在現有視頻編碼系統中，DCT變換(離散餘弦變換Discrete CosineTransform) 得到了廣泛的應用，其變換的能量集中性很好，可以極大地消除視頻數據在變換空間上的相關性。但是這種算法存在不足，DCT變換矩陣是浮點表示的，計算過程中使用大量的浮點乘法和加法，佔用硬體資源多，計算複雜的大。同時由於處理器運算位數影響，浮點運算存在截斷誤差，浮點計算精度不高，DCT正反變換不能完全匹配，變換不可逆。
發明內容
本發明實施例的目的在於提出一種視頻編碼4x4整數變換方法，旨在解決現有技術DCT變換矩陣採用浮點乘法和加法，佔用硬體資源多，計算複雜的大，計算精度不高，DCT 正反變換不能完全匹配，變換不可逆的問題。本發明實施例的方法是這樣實現的，一種視頻編碼4x4整數變換方法，包括接收編碼器中預測模塊輸出的4x4的圖像殘差數據X ；選取整數變換基，構建變換矩陣P，4x4的通用整數變換矩陣為
權利要求
1. 一種視頻編碼4x4整數變換方法，包括接收編碼器中預測模塊輸出的4x4的圖像殘差數據X ； 選取整數變換基，構建變換矩陣P， 4x4的通用整數變換矩陣為矩陣C中，整數變換基為[k0 kl k2]；正變換，對4x4的圖像殘差數據X進行整數變換，變換公式為Y = PXPt ；其中P為所述的變換矩陣；X為所述的圖像殘差數據； 其特徵在於所述整數變換基為以下數值中的一個 [1,9,4], [1,7,3], [1，8，3]。
2.如權利要求1所述的視頻編碼4x4整數變換方法，其特徵在於，所述步驟「選取整數變換基，構建變換矩陣P」之後還可以包括步驟 根據變換矩陣P，構建縮放矩陣PF， PF = ZT*Z其中，
3.如權利要求2所述的視頻編碼4x4整數變換方法，其特徵在於，所述步驟「正變換， 對4x4的圖像殘差數據X進行整數變換，變換公式為Y = PXPT」之後還可以包括步驟對經過4x4正變換後的數據Y進行縮放處理，
4.如權利要求1所述的視頻編碼4x4整數變換方法，其特徵在於，所述正變換中變換的基本單元是y = Px的4點一維變換，其中χ = [xl x2 x3 χ4]τ，輸出的y= [yl y2 y3 y4] T，xl x2 x3 x4表示整數變換的一維為所述正變換的輸入四點數值；yl y2 y3 y4為所述正變換的四點輸出數值。
5.如權利要求2所述的視頻編碼4x4整數變換方法，其特徵在於，所述整數變換基取值為[1，9，4]時所述變換矩陣PZt =
6.如權利要求1所述的視頻編碼4x4整數變換方法，其特徵在於，當所述整數變換基取值為[1，9，4]時，「對4x4的圖像殘差數據X進行整數變換，變換公式為Y = PXPT」計算過程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；y2 = b4 << 3+b4+b3 << 2 ；y4 = _b3 << 3_b3+b4 << 2 ； 其中「<<」表示向左移位運算，優先級高於加減法。
7.如權利要求2所述的視頻編碼4x4整數變換方法，其特徵在於，所述整數變換基取值為[1，7，3]時所述變換矩陣IZt=
8.如權利要求1所述的視頻編碼4x4整數變換方法，其特徵在於，當所述整數變換基取值為[1，7，3]時，「對4x4的圖像殘差數據X進行整數變換，變換公式為Y = PXPT」計算過程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4 < < 3_b4+b3 < < 2_b3 ；Y4 = _b3 < < 3+b3+b4 << 2-b4 ；其中「 <<」表示向左移位運算，優先級高於加減法。
9.如權利要求2所述的視頻編碼4x4整數變換方法，其特徵在於，所述整數變換基取值為[1，8，3]時所述變換矩陣
10.如權利要求1所述的視頻編碼4x4整數變換方法，其特徵在於，當所述整數變換基取值為[1，8，3]時，「對4x4的圖像殘差數據X進行整數變換，變換公式為
全文摘要
本發明公開一種視頻編碼4x4整數變換方法，通過接收編碼器中預測模塊輸出的4x4的圖像殘差數據X，選取不同整數變換基[1，9，4]、[1，7，3]、[1，8，3]中的一個構建變換矩陣P；根據變換矩陣P，構建縮放矩陣PF＝ZT*Z；根據Y＝PXPT對圖像殘差數據X進行正變換，並根據不同的整數變化基，採用相應的整數變換計算方法；對經過4x4正變換後的數據Y進行縮放處理。本發明的變換方法能量集中性能優秀，能量集中度接近4x4DCT，可以極大地消除視頻數據在變換空間上的相關性；計算複雜度低，可通過加法和移位來實現，易於硬體實現，並且運算精度高，不存在正反變換不匹配的問題。
文檔編號H04N7/26GK102333217SQ201110278320
公開日2012年1月25日 申請日期2011年9月19日 優先權日2011年4月20日
發明者徐蘇珊 申請人:深圳市融創天下科技股份有限公司