提高數位訊號變換性能的方法及數位訊號變換方法和裝置製造方法
2023-05-10 18:00:11 1
提高數位訊號變換性能的方法及數位訊號變換方法和裝置製造方法
【專利摘要】本發明提出一種提高數位訊號變換性能的方法和裝置及數位訊號變換方法和裝置，其中，提高數位訊號變換性能的方法包括：構造N行N列的變換核矩陣A，使所述變換核矩陣A同時滿足（a）和（b）兩個條件：(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，本發明能夠保證數位訊號處理具有更高的變換性能。
【專利說明】提高數位訊號變換性能的方法及數位訊號變換方法和裝置
【技術領域】
[0001] 本發明涉及數位訊號處理【技術領域】，尤其涉及一種提高數位訊號變換性能的方法 和裝置及數位訊號變換方法和裝置。
【背景技術】
[0002] 視頻和圖像編碼技術作為一種數位訊號處理方式，是數字視頻和圖像這一重要多 媒體信息得以被廣泛應用的基礎和關鍵。當前基於塊的視頻編碼混合框架下，視頻編碼一 般包括以下四大塊：預測編碼、變換以及量化、熵編碼、環路濾波。其中變換的主要功能在於 去除預測殘差之間的相關性，集中殘差能量，有利於後續的熵編碼，從整體上提高視頻編碼 的效率。
[0003] 在JPEG、MPEG_l/2/4、H. 261等視頻圖像編碼標準中，主要採用了浮點的離散餘弦 變換（DCT)，在實際實現中，不同的硬體產品關於浮點數的運算精度不一樣，從而在這些標 準下的編解碼器之間可能會出現失配現象。鑑於此，在H. 264/AVC、H. 265以及國內視頻編 碼標準AVS1和AVS2中都採用了整數化的變換。在H. 264/AVC和AVS中，變換核中所有數值 都是整數，各數值之間的比例與DCT矩陣無直接聯繫，且各變換基的模不盡相同，從而變換 過程中引入了縮放運算以及相應的(預)縮放矩陣。在H. 264/AVC和AVS中變換最大為8x8 大小，引入縮放運算不會帶來很多的運算複雜度和存儲複雜度，在整體上能簡化變換過程 的運算；然而當變換大小變得很大時，比如32x32和64x64,此時如果引入縮放運算，其帶來 的運算、存儲複雜度相當大，故在最新一代的國際/內標準H. 265和AVS2中，整數化的DCT 變換被採用，這類變換的變換核矩陣A是通過帶無理數的DCT矩陣乘以一個倍數（Factor) 得到，如式（1)所示。
[0004]
【權利要求】
1. 一種提高數位訊號變換性能的方法，其特徵在於，構造N行N列的變換核矩陣A，使 所述變換核矩陣A同時滿足（a)和（b)兩個條件：
其中，式（a)中的A(i，j)是變換核矩陣A第i行第j列的元素，DCT(i，j)為離散餘弦 變換矩陣中第i行第j列的元素，定義如式（I) ;Fact〇r是一個大於1的因子，□表示四舍 五入取整；
才出的TH旦一水莉?沿?的細估 nbr9')W.
式（2)中的a，p，Y是三個參數，滿足@ <a，Y<a，dist(A),normal⑷和orth(A)的定義如式（3)所示；
其中，"T"表示矩陣的轉置，P(i，j)表示矩陣P第i行第j列的元素，Q(i，j)表示矩陣Q第i行第j列的元素，DCT表示無理數的離散餘弦變換矩陣。
2. 如權利要求1所述的方法，其特徵在於，所述TH=J(M)，其中，M為無理數的離散餘弦 變換矩陣乘以所述Factor、並分別對結果中的每個元素四捨五入取整得到的矩陣，所述M 的長和寬均為N;
，其中，a, ￠,Y是三個參數，滿足3 <a，Y<a,dist(M),normal(M)和orth(M)的定義如下式所示：
其中，"T"表示矩陣的轉置，P(i，j)表示矩陣P第i行第j列的元素，Q(i，j)表示矩陣Q第i行第j列的元素，DCT表示無理數的離散餘弦變換矩陣。
3. 如權利要求1所述的方法，其特徵在於，當。
，其中N=4、8、16或32 時，所述TH=J(M)，其中，M為H. 265標準所規定的變換核矩陣。
4. 如權利要求1所述的方法，其特徵在於，所述TH=NXO. 02。
5. -種提高數位訊號變換性能的裝置，其特徵在於，所述裝置用於構造N行N列的變換 核矩陣A，使所述變換核矩陣A同時滿足（c)和（d)兩個條件：
其中，式（c)中的A(i，j)是變換核矩陣A第i行第j列的元素，DCT(i，j)為離散餘弦 變換矩陣中第i行第j列的元素，定義如式（4) ;Fact〇r是一個大於1的因子，□表示四舍 五入取整：
式（d)中的TH是一個預設的閾值，J(A)由式（5)定義；
式（5)中的a，P，Y是三個參數，滿足@ <a，Y<a，dist(A),normal⑷和orth(A)的定義如式（6)所示；
其中，"T"表示矩陣的轉置，P(i，j)表示矩陣P第i行第j列的元素，Q(i，j)表示矩陣Q第i行第j列的元素，DCT表示無理數的離散餘弦變換矩陣。
6. 如權利要求5所述的裝置，其特徵在於，所述TH=J(M)，其中，M為無理數的離散餘弦 變換矩陣乘以所述Factor、並分別對結果中的每個元素四捨五入取整得到的矩陣，所述M 的長和寬均為N;
，其中，a, ￠,Y是三個參數，滿足3 <a，Y<a,dist(M),normal(M)和orth(M)的定義如下式所示：
其中，"T"表示矩陣的轉置，P(i，j)表示矩陣P第i行第j列的元素，Q(i，j)表示矩陣Q第i行第j列的元素，DCT表示無理數的離散餘弦變換矩陣。
7. 如權利要求5所述的裝置，其特徵在於，當
，其中N=4、8、16或32 時，所述TH=J(M)，其中，M為H. 265標準所規定的變換核矩陣。
8. 如權利要求5所述的裝置，其特徵在於，所述TH=NXO. 02。
9. 一種數位訊號變換方法，其特徵在於，將待變換的L行K列的數據塊X採用如下任意 一種方式進行一維變換： (a)
，將Y中每一個元素分別與wl相加，並將相加後的結果以自然二進位表達 形式右移si位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣,且N的取值為L;wl,si為整數,並且wl彡0,si彡0 ; (b：
，將Y中每一個元素分別與w2相加，並將相加後的結果以自然二進位表達 形式右移s2位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣，且N的取值為K;w2,s2為整數，並且《2彡0,s2彡O; (c：
，將Y中每一個元素分別與《3相加，並將相加後的結果以自然二進位表達 形式右移s3位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣，且N的取值為K;w3,s3為整數，並且《3彡0,s3彡0 ; (d)
，將Y中每一個元素分別與《4相加，並將相加後的結果以自然二進位表 達形式右移s4位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述 的方法構造的N行N列的變換核矩陣,且N的取值為L;w4,s4為整數,並且w4彡0,s4彡0。
10. -種數位訊號變換裝置，其特徵在於，所述裝置用於將待變換的L行K列的數據塊 X採用如下任意一種方式進行一維變換： (a)
,將Y中每一個元素分別與wl相加，並將相加後的結果以自然二進位表達 形式右移si位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣,且N的取值為L;wl,si為整數,並且wl彡0,si彡0 ; (b)
,將Y中每一個元素分別與《2相加，並將相加後的結果以自然二進位表達 形式右移s2位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣，且N的取值為K;w2,s2為整數，並且《2彡0,s2彡0 ; (c)
.，將Y中每一個元素分別與《3相加，並將相加後的結果以自然二進位表達 形式右移s3位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述的 方法構造的N行N列的變換核矩陣，且N的取值為K;w3,s3為整數，並且《3彡0,s3彡0 ; (d)
，將Y中每一個元素分別與《4相加，並將相加後的結果以自然二進位表 達形式右移s4位，得到數據變換的結果；其中，所述A為採用權利要求1至4任意一項所述 的方法構造的N行N列的變換核矩陣,且N的取值為L;w4,s4為整數,並且w4彡0,s4彡0。
【文檔編號】H04N19/625GK104244010SQ201310238184
【公開日】2014年12月24日 申請日期:2013年6月14日 優先權日:2013年6月14日
【發明者】朱興國, 虞露, 陳杰 申請人:浙江大學, 北京三星通信技術研究有限公司, 三星電子株式會社