一種視頻編碼8x8整數變換方法
2023-09-10 11:12:55 1
專利名稱：一種視頻編碼8x8整數變換方法
技術領域：
本發明涉及視頻編碼技術領域，尤其涉及一種視頻編碼8x8整數變換方法。
背景技術：
一套完整的視頻編碼系統是由預測、變換、量化、熵編碼等一系列算法模塊組成的。其中幀內幀間預測是利用視頻數據在空間和時間上的相關性壓縮數據。變換模塊是將預測模塊輸出的圖像殘差數據由時域變換到另一個空間上，使時域上平坦分布的數據在變換空間上能量集中，將數據的能量大部分集中在空間的低頻區域中。在隨後的量化和熵編碼模塊中，會有效的利用變換後的數據分布特徵，進一步壓縮數據。顯而易見，變換模塊是視頻編碼系統中重要的組成部分，變換的性能直接影響視頻編碼系統的性能。在現有視頻編碼系統中，DCT (離散餘弦變換Discrete Cosine Transform)變換得到了廣泛的應用，其變換的能量集中性很好，可以極大地消除視頻數據在變換空間上的相關性。但是這種算法存在不足，DCT變換矩陣是浮點表示的，計算過程中使用大量的浮點乘法和加法，佔用硬體資源多，計算複雜的大。同時由於處理器運算位數影響，浮點運算存在截斷誤差，浮點計算精度不高，DCT正反變換不能完全匹配，變換不可逆。
發明內容
本發明實施例的目的在於提出一種視頻編碼8x8整數變換方法，旨在解決現有技術DCT變換矩陣採用浮點乘法和加法，佔用硬體資源多，計算複雜的大，計算精度不高，DCT 正反變換不能完全匹配，變換不可逆的問題。本發明實施例的方法是這樣實現的，一種視頻編碼8x8整數變換方法，包括接收編碼器中預測模塊輸出的8x8的圖像殘差數據X ；選取整數變換基，構建變換矩陣，8x8的通用整數變換矩陣為
權利要求
1. 一種視頻編碼8x8整數變換方法，包括接收編碼器中預測模塊輸出的8x8的圖像殘差數據X ； 選取整數變換基，構建變換矩陣P， 8x8的通用整數變換矩陣為
2.如權利要求1所述的視頻編碼8x8整數變換方法，其特徵在於，所述步驟「選取整數變換基，構建變換矩陣P」之後還可以包括步驟根據變換矩陣P，構建縮放矩陣PF，PF = ZT*Z其中，
3.如權利要求2所述的視頻編碼8x8整數變換方法，其特徵在於，所述步驟「選取整數變換基，構建變換矩陣P」之後還可以包括步驟對經過8x8正變換後的數據Y進行縮放處理， 是矩陣的點乘運算，Y是經過8x8正變換後的數據，PF是縮放矩陣，Y'是本縮放處理後的輸出值，代表視頻數據變換到頻域上的信息。
4.如權利要求1所述的視頻編碼8x8整數變換方法，其特徵在於，所述正變換中的變換的基本單元是形如y = I3X的8點一維變換，其中χ = [xl x2 x3 x4 x5 x6 x7 x8]T，輸出的y= [yl y2 y3 y4 y5 y6 y7 y8]T,xl x2 x3 x4 x5 x6 x7 x8為所述正變換的輸入八點數值；yl 12 y3 y4 y5 y6 y7 y8為所述正變換的八點輸出數值。
5.如權利要求2所述的視頻編碼8x8整數變換方法，其特徵在於，所述整數變換基取值為[15,15,10,3]時所述變換矩陣P
6.如權利要求1所述的視頻編碼8x8整數變換方法，其特徵在於，所述當整數變換基取值為[15，15，10，3]時，「對8x8的圖像殘差數據X進行整數變換，變換公式為Y = PXPt」計算過程如下bl = xl-x8 ；b2 = x2-x7 ；b3 = x3_x6 ；b4 = x4_x5 b5 = xl+x8 ；b6 = x2+x7 ；b7 = x3+x6 ；b8 = x4+x5 al = b5+b8 ；a2 = b6+b7 ；a3 = b5-b8 ；a4 = b6-b7 yl = al+a2 ；y5 = al_a2 ；y3 = a3 << l+a4 ；y7 = a3_a4 << 1 再完成以下計算步驟
7.如權利要求2所述的視頻編碼8x8整數變換方法，其特徵在於，所述整數變換基取值為[6，7，5，1]時
8.如權利要求1所述的視頻編碼8x8整數變換方法，其特徵在於，所述當整數變換基取值為[6，7，5，1]時，「對8x8的圖像殘差數據X進行整數變換，變換公式為Y = PXPt」計算過程如下bl = xl-x8 ；b2 = x2-x7 ；b3 = x3_x6 ；b4 = x4_x5 ；b5 = xl+x8 ；b6 = x2+x7 ；b7 = x3+x6 ；b8 = x4+x5 ；al = b5+b8 ；a2 = b6+b7 ；a3 = b5-b8 ；a4 = b6-b7 ；yl = al+a2 ；y5 = al_a2 ；y3 = a3 << l+a4 ；y7 = a3_a4 << 1 ；再究成以下計算步驟
全文摘要
本發明公開一種視頻編碼8x8整數變換方法，通過接收編碼器中預測模塊輸出的8x8的圖像殘差數據X，選取不同整數變換基[15，15，10，3]或[6，7，5，1]構建變換矩陣P；根據變換矩陣P，構建縮放矩陣PF＝ZT*Z；根據Y＝PXPT對圖像殘差數據X進行正變換，並根據不同的整數變化基，採用相應的整數變換計算方法；對經過8x8正變換後的數據Y進行縮放處理。本發明的變換方法能量集中性能優秀，能量集中度接近8x8DCT，可以極大地消除視頻數據在變換空間上的相關性；計算複雜度低，可通過加法和移位來實現，易於硬體實現，並且運算精度高，不存在正反變換不匹配的問題。
文檔編號H04N7/26GK102281445SQ20111027833
公開日2011年12月14日 申請日期2011年9月19日 優先權日2011年4月20日
發明者徐蘇珊 申請人:深圳市融創天下科技股份有限公司