8×8變換和量化的製作方法

2023-05-01 12:27:31

專利名稱：8×8變換和量化的製作方法
技術領域：
本發明涉及數字圖形和視頻信號處理，並且尤其涉及塊變換和/或量化加上逆量化和/或逆變換。
背景技術：
存在著多種用於數字視頻通信和存儲的應用軟體，且相應的國際標準已經並且繼續在開發。例如視頻電話和會議的低比特率通信，加上例如動畫的大視頻文件壓縮，導致產生了如H.261、H.263、MPEG-1、MPEG-2和AVS等多種視頻壓縮標準。這些壓縮方法依賴離散餘弦變換(DCT)或模擬變換加上變換係數的量化，以減少需要編碼的比特的數目。
基於DCT的壓縮方法將圖片分解成宏塊，其中每一宏塊含有四個8×8亮度塊加上兩個8×8的色度塊，不過也可以使用其它塊尺寸和變換變量。圖2描述基於DCT的視頻編碼的功能塊。為減少比特率，8×8 DCT用於將8×8塊(亮度和色度)轉換成頻率域。接著，DCT係數的8×8塊經量化，掃描成1-D序列，並通過使用可變長度編碼(VLC)編碼。對於涉及動態補償(MC)的預測編碼，需要逆量化和IDCT來用於反饋迴路。除MC以外，圖2中的所有功能塊都在8×8塊基礎上運作。圖2中的率控制單元負責在允許的範圍中且根據目標比特率和緩衝器充滿程度產生量化步驟(qp)，以控制DCT係數量化單元。當然，更大的量化步驟意味著更多的消失和/或更小的量化係數，其意味著更少和/或更短的碼字以及因此更小的比特率和文件。
存在著兩種編碼的宏塊。INTRA編碼的宏塊是獨立於先前的參考幀編碼的。在INTER編碼的宏塊中，首先為(當前宏塊的)每一塊產生來自先前參考幀的動態補償預測塊，接著解碼預測誤差塊(即當前塊與預測塊之間的差異塊)。
對於INTRA編碼的宏塊，INTRA-編碼的8×8 DCT塊中的第一(0，0)係數稱為DC係數，所述塊中63個DCT係數的其餘係數稱為AC係數；而對於INTER編碼的宏塊，一INTER編碼的8×8 DCT塊中所有64個DCT係數均視為AC係數。所述DC係數可以用所述量化步驟的一固定值量化，而AC係數具有根據比特率控制調整的量化步驟，所述比特率控制將在編碼一圖片中已用到的比特與將使用的分配比特數目作比較。另外，一量化矩陣(例如，在MPEG-4中)允許DCT係數中的變化量化步驟。
特別地，所述8×8兩維DCT定義為F(u,v)=14C(u)C(v)x=07y=07f(x,y)cos(2x+1)u16cos(2y+1)v16]]>式中f(x，y)為所述輸入8×8樣本塊，且F(u，v)為輸出8×8變換塊，其中u、v、x、y＝0、1……7；且 注意，此變換具有8×8矩陣乘法的形式，F＝D′×f×D，其中，D為具有u及x元素的8×8矩陣C(u)cos(2x+1)u16.]]>所述變換以雙精度執行，且最終變換係數取捨為整數值。
接著，將變換係數的量化定義為QF(u,v)=F(u,v)QP]]>其中QP為從所述量化步驟以雙精度計算的量化因子，qp是作為指數，例如QP＝2qp/8。量化係數經取捨成整數值且經編碼。
相應的逆量化變為F′(u，v)＝QF(u，v)*QP雙精度值取捨成整數值。
最後，所述逆變換(重新建立的樣本塊)為
f(x,y)=14u=07v7C(u)C(v)F(u,v)cos(2x+1)u16cos(2y+1)v16]]>同樣，雙精度值取捨成整數值。
例如H.264和AVS標準的各種替代方法通過使用整數變換和/或不同大小塊來簡化雙精度方法。特別地，定義一8×8整數變換矩陣T8×8，其具有與所述8×8 DCT變換係數矩陣D類似的元素。接著，用指示輸入8×8樣本數據矩陣(像素或冗餘塊)和輸出8×8變換係數塊的f8×8和F8×8分別將所述正8×8整數變換定義為F8×8＝T′8×8×f8×8×T8×8其中「×」代表8×8矩陣乘法，且8×8矩陣T′8×8為8×8矩陣的轉置T8×8。
所述變換係數的量化可以是以上量化步驟的指數或可以使用具有整數個條目的查詢表。所述逆量化倒寫所述量化。且所述逆變換也使用T8×8、其類似於使用D的DCT的轉置及其用於正和逆變換的轉置。
然而，這些替代方法的計算複雜性仍須降低。

發明內容
本發明通過區分比特位移及捨入提供用於圖像/視頻處理的低複雜性8×8變換。
優選實施例方法提供適用於有動態補償的視頻編碼中的16比特操作。


圖1a-1b為流程圖。
圖2說明帶有DCT變換和量化的動態補償視頻壓縮。
圖3展示方法比較。
具體實施例方式
1.總述優選實施例低複雜性方法提供應用於16比特AVS方法的簡化的8×8正變換。所述方法已應用於在具有DCT變換和DCT係數的量化(其中所述量化可以廣泛變化)的(動態補償)像素的8×8塊上操作的視頻壓縮。如在圖2中說明，來自比特流緩衝器的充滿程度反饋可確定量化因子，所述因子通常在1到200-500的範圍內變化。圖1a-1b為編碼和解碼流的變換/量化。
優選實施例系統用以下各物執行優選實施例數位訊號處理器(DSP)或一般目的的可編程處理器或一晶片(SoC)上的應用特定電路或系統，例如均在相同晶片上帶有RISC處理器控制的DSP及RISC處理器。特別地，帶有視頻晶片能力的數位照相機(DSC)或帶有視頻能力的蜂窩電話可包括所述優選實施例方法。所存儲的程序可位於板載ROM上或外部快閃記憶體EEPROM上，用於一DSP或可編程處理器以執行優選實施例方法的信號處理。模擬-數字轉換器和數字-模擬轉換器提供與真實世界之間的耦合，且調節器及解調器(加上用於空中界面的天線)提供用於發射波形的耦合。
2.AVS首先，考慮AVS變換、量化及反轉；優選實施例方法將提供AVS正變換的簡化。
(a)AVS正變換AVS正8×8變換使用以下8×8變換矩陣，T8×8，用於帶有8×8樣本數據矩陣(圖像像素或動態冗餘的塊)加上8×8掃描矩陣SM8×8的矩陣乘法，用於掃描得到的矩陣元素。所述變換矩陣為T88=8101098642894-2-8-10-10-686-4-10-8210982-10-689-4-108-2-1068-9-4108-6-410-8-210-98-942-810-1068-1010-98-64-2]]>且所述掃描矩陣SM8×8＝{SMi，ji，j＝0，1，2，..7}為
SM88=32768379583615837958327683795836158379583795843969418844396937958439694188443969361584188439898418843615841884398984188437958439694188443969379584396941884439693276837958361583795832768379583615837958379584396941884439693795843969418844396936158418843989841884361584188439898418843795843969418844396937958439694188443969]]>變化進程如下。首先，讓f8×8-{fi，ji，j＝0，1，2，...，7}指示輸入8×8樣本數據矩陣且讓F8×8＝{Fi，ji，j＝0，1，2，...，7}指示8×8輸出DCT係數矩陣。AVS正變化具有兩個步驟並使用中間8×8矩陣X8×8X8×8＝{T′8×8×f8×8×T8×8}＞5Fi，j＝sign(Xi，j)*((|Xi，j|*SMi，j+218)＞＞19)i，j＝0，1，2，...，7以下符號在此處及下文中使用·T8×8t為變換矩陣T8×8的轉置·X8×8＝{Xi，ji，j＝0，1，2，...，7)為矩陣乘法之後的中間矩陣，其中為變換矩陣及其轉置加上一捨入比特位移如以上展示·×為矩陣乘法·*為標量乘法·|x|為x的絕對值·Sign(x)定義為 · 為通過n比特的矩陣右捨入更明確地，對於一矩陣M8×8＝{Mi，ji，j＝0，1，2，...，7}操作m8×8＝M8×8 是由以下定義的m8×8＝{mi，ji，j＝0，1，2，...，7}，其中mi，j＝(Mi，j+2n-1)＞＞n·＞＞指示右位移，當表示為二元符號(例如，二的補數)時應用於數字。
因此，變換矩陣T8×8與8×8 DCT矩陣類似且SM8×8為縮放調整，(b)AVS量化AVS量化支持64個量化步驟，qp＝0，1，...，63，且使用以下量化表Q_TAB[64]

因此量化因子Q_TAB[gp]主要為215-qp/8且變換矩陣F8×8的量化為QFi，j＝sign(Fi，j)*(|Fi，j|*Q_TAB[qp]+α*215)＞＞15i，j＝0，1，2，...，7其中a為量化控制參數，例如對於INTRA編碼的宏塊為1/3且對於INTER編碼的宏塊為1/6。這些量化係數經過編碼。
(c)AVS逆量化用於8×8量化的DCT係數塊的AVS逆量化QF8×8＝{QFi，ji，j＝1，2，...，7}定義為F′i，j＝(QFi，j*IQ_TAB[qp]+2IQ_SHIFT[qp])＞＞IQ_SHIFT[qp] i，j＝0，1，2，...，7其中為逆量化的DCT係數塊且IQ_TAB和IQ_SHIFT表定義為

注意IQ_TAB[qp]為16比特正整數(無符號比特)，其具有用於所有qp的等於1的最有意義的比特(MSB)，且IQ_SHIFT[qp]在7-14的範圍內。
(d)AVS逆變換AVS逆8×8變換使用與相同8×8變換矩陣T8×8和其轉置的乘法

其中，f′8×8＝{f′i，ji，j＝1，2，...，7}為重新建立的8×8樣本數據矩陣。
3.第一優選實施例為減少第2部分的AVS的變換和量化的複雜性，優選實施例提供一改進的正變換，以一起使用第2部分中的量化、逆量化和逆變換。所述優選實施例方法通過消除一信號操作並限制比特位移而簡化計算，從而使得基於16比特的處理器能更有效地運作。即，僅更改正變換，且第4部分中有所述部分中的AVS與優選實施例方法的比較。
(a)優選實施例正變換回想起第2部分中描述的AVS正變換為X8×8＝{T′8×8×f8×8×T8×8}＞5Fi，j＝sign(Xi，j)*((|Xi，j|*SMi，j+218)＞＞19)i，j＝0，1，2，...，7第二步驟在計算上較昂貴，對16比特的裝置尤其如此。為減少複雜性，優選實施例方法修改正變換的第二步驟，以主要將19比特的位移分成N比特的位移加上縮放矩陣中的19-N比特的位移Fi,j=(Xi,j*SMi,jN+2N-1)>>N,i,j=1,2,...,7]]>其中SMi，jN定義為SMi,jN=(SMi,j+218-N)>>(19-N),i,j=1,2,...,7]]>其中SM8×8＝{SMi，ji，j＝1，2，...，7}為在第2部分中定義的縮放矩陣，且SM88(N)={SMi,j(N):i,j=1,2,...,7}]]>為新的縮放矩陣。
在此變換中N為位移比特的數目且隨著N的增加性能更好(見下一部分)；但為減少16比特處理器的複雜性，N應小於或等於16。
例如，對於N＝16
SM88=4096474545204745409647454520474547455496523654964745549652365496452052364987523645205236498752364745549652365496474554965236549640964745452047454096474545204745474554965236549647455496523654964520523649875236452052364987523647455496523654964745549652365496]]>注意當N＝19時SM8×8(N)大體上等於第2部分中的SM8×8，且N每減少1，所述矩陣元素均除以2，並最終捨入。
與第2部分中描述的AVS正變換相比，優選實施例具有低得多的複雜性，因為存儲器訪問的sign(x)操作的消除以及所有的右移均在16比特內。因此，優選實施例方法使得第2部分中描述的AVS正變換在計算上更加成本有效。
(b)優選實施例量化優選實施例方法使用與第2部分中描述的相同量化(c)優選實施例逆量化優選實施例方法使用與第2部分中描述的相同逆量化(d)優選實施例逆變換優選實施例方法使用與第2部分中描述的相同逆變換4.實驗結果進行仿真，以測試優選實施例簡化的正變換的效率。在下表中，列「基準點TQ」展示之後進行第2部分中描述的逆量化和逆變換的AVS變換加量化應用的信噪比(SNR0)。「簡化TQ」列展示信噪比(SNR1)和與用於各種N值的優選實施例正變換的應用的相同塊SNR0連同之後進行AVS逆量化和AVS逆變換的AVS量化的差異；即，在這些情況中僅正變換改變，其他所有均保持不變。測試所有量化步驟(qp＝0，1，2，...63)。用6000個隨機8×8塊測試每一qp，所述像素值在[-255:255]的範圍內。在所有測試樣本塊上對每一qp計算輸入樣本塊與其重新建立的塊之間的SNR值(見圖3)。N＝16、15、14、13、12和11的結果列在表中。


如表中所示，只要N≥13，優選實施例簡化正變換方法便執行幾乎與AVS正變換相同的變換。然而，當N≤12時開始在高末端塊(＞50dB區域)出現顯著丟失。
由於只要N≤16，16比特裝置的複雜性便幾乎相同，所以優選實施例簡化變換方法(16≥N≥13)提供與當前AVS變換設計相同的壓縮效率，但計算複雜性較低。
5.修改可以各種方式對優選實施例方法進行修改而保持簡化的正變換的特徵。
例如，所述捨入可改變或……？？？。
權利要求
1.一種8×8塊變換方法，其包含(a)使用8×8變換矩陣將一8×8樣本數據矩陣變換成一8×8中間矩陣T88=8101098642894-2-8-10-10-686-4-10-8210982-10-689-4-108-2-1068-9-4108-6-410-8-210-98-942-810-1068-1010-98-64-2]]>(b)使用一縮放矩陣縮放所述中間矩陣；和(c)使所述縮放的中間矩陣的元素位移N比特，以產生一變換矩陣，其中N為13到16範圍內的一整數。
2.根據權利要求1所述的方法，其中(a)所述縮放矩陣的元素位移一第二縮放矩陣的元素的19-N比特。
3.一種塊變換方法，其包含(a)將一n×n樣本數據矩陣乘以一n×n變換矩陣和所述變換矩陣的n×n轉置以產生一係數矩陣；(b)選擇一小於Nmax的整數N；(c)將捨入的所述係數矩陣位移N比特，得到一位移的係數矩陣；(d)提供一對應於所述Nmax的縮放矩陣；(e)將捨入的所述縮放矩陣位移N最大值-N比特，以得到一位移的縮放矩陣；(f)用所述位移的縮放矩陣將所述位移的係數矩陣縮放。
4.根據權利要求3所述的方法，其中(a)n等於8；且(b)N最大值等於19。
5.根據權利要求3所述的方法，其中(a)所述變換矩陣為T88=8101098642894-2-8-10-10-686-4-10-8210982-10-689-4-108-2-1068-9-4108-6-410-8-210-98-942-810-1068-1010-98-64-2.]]>
6.根據權利要求3所述的方法，其中(a)Nmax為19且所述縮放矩陣為SM88=32768379583615837958327683795836158379583795843969418844396937958439694188443969361584188439898418843615841884398984188437958439694188443969379584396941884439693276837958361583795832768379583615837958379584396941884439693795843969418844396936158418843989841884361584188439898418843795843969418844396937958439694188443969.]]>
全文摘要
本發明提供低複雜性(16比特算法的)視頻壓縮，其具有8×8塊，帶有使用8×8整數矩陣的變換和帶有查詢表標量加上用於所有量化步驟的常量右移的量化。逆量化也有一查詢表標量加上依賴於所述量化步驟的右移及使用所述8×8整數矩陣的逆變換。
文檔編號H04B1/66GK101095137SQ200480034441
公開日2007年12月26日 申請日期2004年11月17日 優先權日2003年11月25日
發明者周民華 申請人:德州儀器公司