基於分區基礎的自適應環路濾波方法和裝置與流程

2023-05-18 17:41:03

本申請要求下述申請的優先權：2010年10月5日遞交的，發明名稱為「改進的自適應環路濾波器」的美國臨時申請案No.61/390,068；2010年12月10日遞交的，發明名稱為「自適應環路濾波器的率失真複雜度優化方法」的美國臨時申請案No.61/421,729；2011年7月6日遞交的，發明名稱為「基於分區基礎的自適應環路濾波方法和裝置」的美國申請案No.13/177,343；2011年3月21日遞交的，發明名稱為「基於分區基礎的自適應環路濾波器」的美國臨時申請案No.61/454,829。本發明還與2011年4月25日遞交的，發明名稱為「自適應環路濾波方法和裝置」美國專利申請案No.13/093,068有關；2011年6月12日遞交的，發明名稱為「用於視頻編碼的示範適應偏移方法和裝置」美國專利申請案No.13/158,427有關；與2011年1月3日遞交的，發明名稱為「聯發科自適應環路濾波裝置」的美國臨時申請案No.61/429,313有關。本申請將上述美國臨時申請案及專利申請案作為參考。

技術領域

本發明有關於視頻編碼(video coding)，且尤其有關於與自適應環路濾波(Adaptive Loop Filtering)有關的編碼技術。

背景技術：

運動補償(motion compensation)幀間編碼(inter-frame coding)已在多種編碼標準中廣泛應用，如MPEG-1/2/4以及H.261/H.263/H.264/AVC。上述編碼系統中的運動估計、運動補償和後續處理都是基於塊(block basis)進行的。在壓縮進程中，由於採用了如量化(quantization)的有損操作(lossy operation)，可能會出現編碼噪聲(coding noise)。在重建(reconstructed)視頻數據中，特別是在塊邊緣或邊緣附近，會有明顯的編碼偽影(coding artifact)。為了減小編碼偽影的明顯性，更新的編碼系統例如H.264/AVC以及高性能視頻編碼(High Efficiency Video Coding,HEVC)開始採用一種被稱為解塊(deblock)的技術。解塊進程在塊邊緣進行自適應地應用濾波，以平滑編碼噪聲帶來的邊緣或邊緣附近的突變，並維持圖像的清晰度。此外，根據幀間編碼的特性，解塊進程可被整合到環路內進行操作。在最近的HEVC開發中，採用自適應環路濾波來處理解塊後的重建幀。自適應環路濾波常被用於作進一步環路處理且經常在解塊重建視頻數據後使用。

傳統自適應環路濾波器(Adaptive Loop Filter，ALF)僅被應用於濾波能提高性能的塊。對於那些使用自適應環路濾波並不能幫助提高性能的塊，一般不進行自適應環路濾波。當應用ALF，一單個濾波器(single filter，SF)被應用於一片(slice)內的塊。該單個濾波器是從一組候選濾波器中選擇出來以達到最佳的性能，如最小失真、最小率或者R-D(Rate-distortion)性能。這樣的ALF方案被稱為單自適應濾波器方案(SF ALF)。另一種ALF方案被稱為QC_ALF方案，是由高通公司(Qualcomm)提出(於2010年4月15-23日，在德國德勒斯登(Dresden)舉行的關於視頻編碼的聯合協作小組(JCT-VC)的ITU-T SG16WP3和ISO/IEC JTC1/SC29/WG11的第一次會議上，Karczewicz等人的題為：「高通公司關於視頻編碼的建議書」中提出，記載於文檔：JCTVC-A121)。依據該QC_ALF，該ALF濾波器基於塊基礎應用於一塊上的解塊視頻數據。對應每一塊，計算該塊中的每一像素(i,j)的改進拉普拉斯算子(i,j)(Sum-modified Laplacian Measure(i,j)，SLM(i,j))。該塊上的每一像素依據該SLM值被分類至該多個級別或者類別中。雖然該QC_ALF方案的性能會優於該SF ALF的性能，但是每一像素該SLM的計算兩及從一個像素至另一像素的濾波器的轉換將導致更高的計算複雜度及消耗更多的效能。因此，需要發展以能提供每一分區具有多個濾波器選擇的優點同時沒有高度的計算複雜性和像素之間濾波器轉換的ALF方案。

在區域劃分及模式決定的ALF設計中，一名為率失真優化(rate-distortion optimization，RDO))的優化技術經常被用於區域劃分及模式決定中。雖然該RDO技術能夠實現最佳的率失真表現，但是它並沒有考慮到系統複雜性，這將消耗有價值的系統資源。因此，需要使用一種新的優化方案在這三者中(率、失真及複雜度)達到最佳化。因此，一種率失真複雜性優化(rate-distortion-complexity optimization，RDCO)技術被使用在ALF設計中。該RDCO技術也被應用在SAO設計中以實現最佳的率失真複雜性的性能。

技術實現要素：

本發明揭露了採用自適應環路濾波處理編碼視頻的方法和裝置。在本發明的一實施例中，採用自適應環路濾波處理編碼視頻的方法及裝置包括從一處理單元接收與編碼視頻數據相對應的一重建視頻數據；對該重建視頻數據應用自適應濾波以產生濾波視頻數據；提供該濾波視頻數據。該自適應濾波的操作可以為依據分區適應標識選擇基於分區的ALF或者非基於分區的ALF。若已選擇該基於分區的ALF，該重建視頻數據被劃分成MxN個分區，其中M和N為整數。該MxN個分區的分區可以基於1-D或者2-D表示法進行合併。進一步，一合併標識用於表示一分區是否與一個或者多個相鄰分區合併。當使用1-D表示法，依據一掃描圖形為該MxN個分區中的每一個指定一分組索引。該掃描圖形可以從一組掃描圖形中進行選擇，該組掃描圖形包括變形希爾伯特曲線、水平蛇掃描、垂直蛇掃描、Z型蛇掃描、螺旋掃描、四分樹掃描及柵格掃描。依據本發明的另一實施例，該MxN個分區中的任意兩個分區之間的每一分區的邊界為一最大編碼單元的邊界或者是多個最大編碼單元的邊界。還依據本發明另一實施例，使用一合併標識表示該分區是否被允許合併。

本發明揭露一自適應濾波器或者範例性適應偏移濾波器的設計方法及裝置。依據本發明的一實施例，該自適應濾波器或者範例性適應偏移濾波器的設計方法及裝置包括如下步驟：為自適應濾波器或者範例性適應偏移濾波器決定與設計特徵相關的候選項；及依據RDCO從該多個該候選項中選擇一最佳的候選項。該設計特徵可能與模式決定或分區劃分有關。對於該ALF設計，該RDCO的複雜性與用於ALF設計的濾波器的參數數量、被濾波像素的數量、濾波器的參數數量和被濾波像素的數量的組合有關，或者還與濾波器參數的數量、將被濾波像素的數量及為ALF設計進行的模式選擇的候選模式的操作的數量的組合有關。對於SAO設計，該RDCO的複雜性像素分類方法類型的操作數量有關，或者與像素分類方法類型的操作數量及具有一偏移值的將被補償的像素數量的組合有關。

附圖說明

圖1揭露基於運動補償預測的視頻編碼系統的示範性方塊示意圖，其中自適應環路濾波器被應用於重建視頻數據。

圖2揭露基於像素的自適應濾波器的範例，其中SLM被用於將一6×4塊的像素劃分至三個類別。

圖3揭露將包含416×240個像素的圖片劃分至4×4最大編碼單元(Largest Coding Unit,LCU)對齊分區的範例，其中每一正方形為包含64×64個像素的一LCU且一非最右邊和非底部分區包含2×1個LCU。

圖4揭露支持帶有標識的基於分區的ALF的語法設計，該分區自適應標識指示是否使用基於分區的ALF。

圖5揭露依據變形希爾伯特曲線(deformed Hilbert curve)通過4×4分區的掃描順序。

圖6揭露依據水平蛇掃描(horizontal snake scan)通過4×4分區的掃描順序。

圖7揭露依據垂直蛇掃描(vertical snake scan)通過4×4分區的掃描順序。

圖8揭露依據Z型蛇掃描(zig-zag scan)通過4×4分區的掃描順序。

圖9揭露依據螺旋掃描(spiral scan)通過4×4分區的掃描順序。

圖10揭露依據四分樹掃描(quad-tree scan)通過4×4分區的掃描順序。

圖11揭露依據柵格掃描(raster scan)通過4×4分區的掃描順序。

圖12揭露一拆分分區的範例，其中一分區被拆分成5個分區，如：F0,F1,F2,F3及一無濾波器分區。

圖13揭露一將5個將被濾波分區(to-be-filtered regions)合併成3個分區的範例，該3個分別為F0』、F1』及一無濾波器分區。

圖14揭露一支持2-D分區合併的語法設計。

具體實施方式

對於數字視頻壓縮來說，運動補償幀間編碼是一種有效的壓縮技術，已廣泛地用於多種編碼標準中，如MPEG-1/2/4和H.261/H.263/H.264/AVC。在運動補償系統中，運動估計/補償和後續壓縮通常基於塊在塊中進行。在壓縮進程中，由於採用了如量化的有損操作，可能會出現編碼噪聲。在重建視頻數據中，特別是在塊邊緣或邊緣附近，會有明顯的編碼偽影。為了減小編碼偽影的明顯性，更新的編碼系統例如上述系統中的H.264/AVC以及HEVC系統開始採用一種被稱為解塊的技術，。解塊進程在塊邊緣進行自適應地應用濾波，以平滑編碼噪聲帶來的邊緣或邊緣附近的突變，並維持圖像的清晰度。此外，根據幀間編碼的特性，解塊進程可被整合到環路內進行操作。

在HEVC系統中，除了解塊濾波器以外，還使用另一被稱為自適應環路濾波器(ALF)的環路濾波器。解塊濾波器只應用與塊邊界，而自適應濾波器則可以應用至一幀(frame)、一域(field)、一片(slice)或者一圖片區域內的所有像素。傳統的ALF只應用於使用濾波器能夠提高性能的塊。對於那些使用ALF並不能提高性能的塊則不使用ALF。當ALF被使用，一單個濾波器SF被應用於一片內的塊中。該單個濾波器是從一組候選濾波器中選擇出來以達到最佳的性能，如最小失真、最小率或者R-D性能。這樣的ALF方案被稱為單自適應濾波器方案(SF ALF)。於該被選濾波器相關的信息被傳輸至解碼器。為了節省該將被傳輸或者存儲的信息，該組ALF濾波器可以被預先定義，且該濾波器選擇可以使用一索引表示。作為替代的，該過濾器可以在基於已重建視頻數據的時間延遲安排中得到。因此，無需附加信息(side information)或者只需很少的附加信息。此外，能減少被使用的濾波器的相關信息的工具也可以被採用，如：利用熵編碼編碼該濾波器係數和或者傳輸該係數的差值。

圖1揭示了一使用自適應環路濾波及解塊的編碼系統的系統方塊圖。圖1揭露了具有解塊功能的基於運動補償預測的視頻編碼器的系統方塊。壓縮系統100顯示了典型的視頻編碼器與幀內/幀間(intra/inter-prediction)預測、變換/量化(transformation/quantization)和熵編碼(entropy coding)進行結合，以產生壓縮視頻數據。輸入視頻數據(即原始信號112)通過輸入接口進入編碼器，且該原始信號112由幀內/幀間預測模塊110進行處理。在幀內預測模式，該輸入的數據使用同一幀或者同一域內已編碼的圖像進行預測。在幀間預測模式，該預測可以基於在時序上的先前的重建數據142，其中，該重建數據142被存儲在參考圖像緩衝器140中。該幀間預測可以是一列表0預測模式，其中，該預測是基於解碼順序在當前圖像之前且在參考圖像的第一列表中的圖像。該幀間預測也可以是一列表1預測模式，如果該當前片(current slice)為一B-片(B-slice)，該幀間預測是基於解碼順序在當前圖像之前且在參考圖像的第二列表中的圖像。該幀間預測也可以是雙向預測(bi-prediction)模式，如果當前片為B-片，該幀間預測是基於列表0參考圖像和列表1參考圖像。在該幀間預測模式中，該幀內/幀間預測模塊110將該預測數據提供至加法器115，且從該原始信號112中減去該預測數據。該加法器115的輸出被稱為預測誤差117，變換/量化模塊120進一步對該預測誤差117進行變換/量化處理。該變換/量化模塊120將該預測誤差117轉換為編碼符號，由熵編碼模塊130進一步處理以產生壓縮輸出比特流132(即壓縮比特流)用於存儲或者傳輸。逆變換/量化(inverse DCT and inverse quantization,可表示為IDCT/IQ)模塊160處理由該變換/量化模塊120提供之預測誤差117以形成重建預測誤差(reconstructed prediction error)162。在該幀間預測模式，重建預測誤差162與重建視頻數據119結合以形成該當前重建幀152。在該幀內預測模式，該重建預測誤差162與同一圖像內的先前重建周邊數據疊加。在該幀間預測模式中，該幀內/幀間預測模塊110傳輸該預測信號119至重建模塊150，其中，該重建數據119是依據時序上的先前重建幀或者依據同一圖像中的先前重建周邊數據取決於是幀間預測模式還是幀內預測模式。

該重建數據由解塊模塊170及ALF180處理後存儲在參考圖像緩衝器140中作為處理隨後圖像的參考視頻數據。HEVC中的原始ALF是基於塊的應用。若該ALF能提高性能(更低失真、更低的比特率、更好的R-D性能)，則該塊開啟ALF。否則，該塊關閉ALF。一種ALF規格被稱為QC_ALF方案，是由高通公司(Qualcomm)提出(於2010年4月15-23日，在德國德勒斯登(Dresden)舉行的關於視頻編碼的聯合協作小組(JCT-VC)的ITU-T SG16WP3和ISO/IEC JTC1/SC29/WG11的第一次會議上，Karczewicz等人的題為：「高通公司關於視頻編碼的建議書」中提出，記載於文檔：JCTVC-A121)。依據該QC_ALF，該ALF被應用至解塊視頻數據基於像素基礎。對應每一塊，計算該塊中的每一像素(i,j)的改進拉普拉斯算子(i,j)(Sum-modified Laplacian Measure(i,j)，SLM(i,j))如下：

其中，該R(i,j)為解塊視頻數據。計算該SLM基於以(i,j)為中心的(2K+1)x(2L+1)鄰近窗口。該鄰近窗口尺寸可以為9x9,7x7,5x5or 3x3。為了減少複雜性，使用尺寸為3x3的鄰近窗口。計算該塊的每一像素的SLM，以將該像素歸類至M個組中的其中一個。請參見圖2，其揭露了依據該SLM值將該像素歸類至三個組中。該QC_ALF方案中，依據每一組選擇一濾波器對該組相關的像素進行濾波。為了減少計算複雜性，該ALF濾波器通常是水平或者垂直對稱的。舉例來說，使用如9x9,7x7,or 5x5這樣的鑽石型濾波器，或者如5x5、3x3這樣的方形濾波器。基於SLM的ALF應用於每一像素，且不同的像素將應用不同的濾波器。因此QC_ALF同樣被稱為像素-自適應(pixel-adaptive或pixel-adaptation,PA)ALF。前面提到的SF ALF可以被認為是一種特殊的PA ALF，其只採用一組濾波器。

雖然PA ALF能自適應的基於像素選擇一濾波器，但是其仍需要由解碼器計算SLM來獲得每一像素的群組信息，因為需求附加信息(side information)為已編碼的重要信息。因此，需要發展一種ALF方案可以實現更好的性能且或者降低計算複雜性。因此，本發明揭露一種分區基礎(region based)的ALF規格。依據本發明之ALF方案，應用該ALF至該解塊視頻數據基於分區基礎。劃分一圖片或者圖像區域為多個固定塊或者以固定塊組形成多個分區。作為替換的，可以將一圖像或者圖像區域進行分割或遞歸地分割形成多個分區。舉例來說，可以遞歸地使用四分樹來劃分一圖片或者圖像區域以形成該多個分區。可在語法中設置一標識用於指示是否採用分區基礎ALF或者非分區基礎ALF。舉例來說，一個標識用於在分區基礎ALF和塊基礎(block based)ALF之間進行選擇。塊基礎濾波器的推導可以使用像素基礎ALF相似的方法。舉例來說，Chong等人描述了一塊基礎ALF的方法，將4×4塊中所有像素的拉普拉斯算子算得之活性值之平均值作為該4x4塊的單一活動指標。於2011年3月16-23日，在瑞士日內瓦(Geneva)舉行的關於視頻編碼的聯合協作小組(JCT-VC)的ITU-T SG16WP3和ISO/IEC JTC1/SC29/WG11的第五次會議上，Chong等人的題為：「CE8議題2：基於自適應環路濾波器(ALF)的塊」中提出，記載於文檔：JCTVC-E323。該方法需要計算該4×4塊每一像素的拉普拉斯算子的活性值。相較於像素基礎ALF，雖然該方法並無節省運算量，但塊基礎ALF可降低像素基礎ALF的切換不同濾波器的頻率。也可以使用其他測量方式來取代拉普拉斯算子的活性值作為分類標準，，如：帶偏移(band offset，BO)或者邊緣偏移(edge offset，EO)作為分類標準用於示範性自適應偏移(sample adaptive offset，SAO)，也可以使用Karczewicz等人公開的SLM計算法來替代。BO和EO相對於SLM來說，需要更少的計算量。

一使用塊組的基於分區基礎的ALF的範例，一圖像可以被分割成16個大小基本相等的分區。舉例來說，一非最右邊分區的分區寬度可以為(PicWidth/4)，其中PicWidth為圖像寬度。對於最右邊分區，該分區寬度則為(PicWidth–(PicWidth/4)*3)。非最底部分區的高度則為(PicHeight/4)，其中PicHeight為圖像高度。對於最底部分區的高度則為(PicHeight–(PicHeight/4)*3)。在這個範例中，該最右邊分區及最底部分區可能大於其他分區。另一個範例，如圖3所示，將一圖像分割成16個大小基本相等基於LCU對齊(LCU--aligned)的分區。其中，該分區的邊界則必定為最大編碼單元(LCU)的邊界。該圖像的大小為416x240，且包含7x4個LCU，其中，每一個LCU包含64x64個像素。該非最右邊分區的分區寬度為(((PicWidthInLCUs+1)/4)*64)，其中PicWidthInLCUs表示圖像寬的LCU數量。非底部分區的高度為(((PicHeightInLCUs+1)/4)*64)，其中，PicHeightInLCUs表示圖像高的LCU數量。該最右分區及最底部分區的大小可以由圖像寬度(PicWidth)、圖像高度(PicHeight)、非最右分區及非底部分區的大小推導得出。一索引被分配給每一4x4分區。使用4x4分區作為一範例，本發明並不限於該4x4分區的例子。實際上，本發明可以使用MxN分區。其中，M和N為整數。一圖像其圖像寬度為PicWidthInSamples及圖像高度為PicHeightInSamples。則每一分區其左上角的分區指數的坐標為(x,y)的分區索引可以如下推導得知。(1<<Log2MaxCUSize)為最大編碼單元的大小，且xMaxIndex及yMaxIndex為在水平及垂直方向的最大分區索引。對應的，分區的水平間隔x_interval及分區間的垂直間隔y_interval可以由下述公式推導得知。

x_interval＝((((PicWidthInSamples+(1<>Log2MaxCUSize)+x_round)/(xMaxIndex+1)),和 (1)

y_interval＝((((PicHeightInSamples+(1<>Log2MaxCUSize)+y_round)/(yMaxIndex+1)), (2)

其中x_round＝max(0,(xMaxIndex+1)/2–1)and y_round＝max(0,(yMaxIndex+1)/2–1).

該水平索引x_idx和該垂直索引y_idx可以被推導如下:

x_idx＝min(xMaxIndex,x/(x_interval<<Log2MaxCUSize)),和 (3)

y_idx＝min(yMaxIndex,y/(y_interval<<Log2MaxCUSize)) (4)

該分區索引region_idx依據以下公式被決定:

region_idx＝y_idx*(xMaxIndex+1)+x_idx. (5)

當該4x4分區被基於分區的ALF所使用，該分區索引可以被推導如下。該分區的水平間隔x_interval及分區間的垂直間隔y_interval可以由下述公式推導得知：

x_interval＝((((PicWidthInSamples+(1<>Log2MaxCUSize)+1)>>2),和 (6)

y_interval＝((((PicHeightInSamples+(1<>Log2MaxCUSize)+1)>>2). (7)

該水平索引x_idx和該垂直索引y_idx可以被推導如下:

x_idx＝min(3,x/(x_interval<<Log2MaxCUSize)),和 (8)

y_idx＝min(3,y/(y_interval<<Log2MaxCUSize)). (9)

該分區索引region_idx依據以下公式被決定:

region_idx＝(y_idx<<2)+x_idx. (10)

該濾波器索引filter_idx(x,y)依據以下公式被決定:

filter_idx(x,y)＝region_tab[region_idx], (11)

其中，region_tab[16]＝{0,1,4,5,15,2,3,6,14,1,10,7,13,12,9,8}.

兩相鄰分區，如具有連續索引的分區可以被合併。當分區合併後，每一合併後的分區應用一濾波器。該圖像可以使用基於像素的ALF、基於塊的ALF或者基於分區的ALF進行處理。相較於基於像素的ALF和基於塊的ALF，基於分區的ALF可以節省自適應像素進行的基於像素的分類計算及基於自適應塊進行的基於塊的計算，相應的，當使用基於分區的ALF，解碼器的平均計算量也相應減少。更進一步，基於分區的ALF顯著的減少了圖像中濾波器的轉換次數，因此轉換耗能更少。圖4揭露支持在基於分區的ALF和基於像素的ALF之間進行選擇，或者在基於分區的ALF和基於塊的ALF之間進行選擇的語法設計。唯一的語法改變為在ALF的片頭參數裝置alf_param中增加一標識(region_adaptation_flag)或者在圖像參數裝置(PPS)以在基於分區的ALF和基於塊的ALF之間進行選擇。

進行分區合併可以進一步提高編碼效能。相鄰分區可能具有相似的特徵且能分享同一濾波器以減少指示ALF濾波器所需信息。一種執行分區合併的方法是的將2-D區域並至1-D區域。舉例來說，將該4x4分區可以被轉換成使用分組索引0-15的1-D分區。執行將該2-D轉換成1-D可以依據一特殊的掃描模式。有許多已知的掃描模式可以被用於將2-D分區轉換成1-D分區。如圖5所示的變形希爾伯特曲線(deformed Hilbert curve)，圖6所示的水平蛇掃描(horizontal snake scan)，圖7所示的垂直蛇掃描(vertical snake scan)，圖8所示的Z型蛇掃描(zig-zag scan)，圖9所示的螺旋掃描(spiral scan)，圖10所示的四分樹掃描(quad-tree scan)及圖11所示的柵格掃描(raster scan)。在轉換該2-D分區至該1-D分區時，相鄰的分區，如合併表示法所指示的具有連續索引的分區可以被合併以分享同一濾波器。舉例來說，使用一合併標識一標示組索引為n的分區是否與組索引為(n-1)的分區合併。

也可以使用2-D合併表示法執行分區合併，其中一分區可以與一附近的分區合併。進一步，首先，使用一第一標識以標示該分區是否被合併，若該第一標識指示該分區已被合併，則一合併候選標識將會被使用。在某種情況下，附近的部分分區不能被作為合併候選。如，在圖像或者在4x4邊界上的一分區不能具有合併候選資格。因此，該合併候選標識可以基於相鄰分區的可用性作自適應性的變化。舉例來說，該合併候選分區可以為一左側或者上部分區，且使用一1比特的標識作為合併候選標識。然而，如果左側和上部分區沒有同時存在，則該合併候選標識可以被省略。因此，該合併候選標識可基於該相鄰分區的可用性自適應性的變化。當一些相鄰分區是無效的，該合併候選標識則表現為更小的比特。該分區合併自適應應用於每一4x4分區組。使用一分區合併使能標識(enable flag)標示該4x4分區是否允許分區合併。

用於ALF濾波的分區也可以被認為是一濾波單元(filter unit，FU)。若分割能實現更好的性能，則一圖像或者圖像區域可以被遞歸的劃分成更小的濾波單元，如更低的率失真(rate-distortion，R-D)成本。可以計算一將被濾波分區的該R-D成本和計算分割成的分區的該R-D成本。如果分割可以實現低R-D成本，則該將被濾波分區將被分割。否則不分割該分區。作為替代的，一圖像或者圖像區域也可以首先被分割成更小的分區。相鄰分區可以被合併如果合併能實現更好的性能，如更低的R-D成本。如果合併後的分區的R-D成本低於獨立分區的R-D成本，則該分區進行合併，否則不合併。依據本發明的實施例，可以合併幾個將被濾波分區形成一濾波單元以減少濾波器信息的比特率。

請參閱圖12，為一分區分割的範例。一分區(濾波單元FU1210)被分割成5個分區(FUs1220)，如F0,F1,F2,F3和無濾波分區。可以依據低R-D成本進行該分區的分割。圖13為本發明進行分區合併的範例。依據低R-D成本該將被濾波分區1310被考慮進行合併成3個分區1320，分別為F0』、F1』及一無濾波器分區。分區F0和F2合併成F0』，分區F1和F3合併成F1』。

圖14揭露支持2-D分區合併的語法設計的範例。分區合併alf_fs_selection_param(r,c)函數描述分區合併的訊息。該ALF合併標識(alf_merge_flag)表示該當前分區(如本實施例中的FU)是否已與其他分區合併。其中值1表示該當前分區已合併，值0標誌該當前分區未與左側或者上部分區合併。該當前分區不被合併時則加入一該當前分區的濾波器設置索引(alf_fu_filter_set_idx)。該圖像的第一分區一般濾波器索引預設為0，且無需傳送給解碼器端。該語法元素alf_merge_up_flag表示該分區是否與其頂部方向的分區合併，其中值0表示當前分區與左側的FU合併，值1表示當前分區與其上方的分區合併。

本發明的另一方面涉及一ALF濾波器的設計。率失真優化(Rate-distortion optimization，RDO)應用於視頻編碼以獲得好的編碼效率被廣泛所知。RDO應用在模式選擇：宏塊或者自宏塊或者編碼單元、幀間預測、運動預測、自適應濾波器選擇(如濾波器大小、濾波器形狀、開啟/關閉等)、SAO選擇(如選擇不同的像素分類方法)。最好的RDO選擇是最小化一率失真成本函數(rate-distortion cost function)J＝D+λR，其中D為原始像素與重建(或者預測)像素之間的預測失真(estimated distortion)，R為傳輸該附加信息所需的預測率(estimated rate)，λ為拉格朗日乘子(Lagrange multiplier)。

率失真複雜性優化(rate-distortion-complexity optimization，RDCO)技術用於視頻編碼以在視頻效率與編碼複雜度中獲得好的平衡也被廣泛所知。RDCO應用在模式選擇：宏塊或者自宏塊或者編碼單元、幀間預測、運動預測。最佳的RDCO選擇是最小化一率失真複雜性成本函數J＝D+λ1R+λ2C，其中D為原始像素與重建(或者預測)像素之間的預測失真，R為傳輸該附加信息所需的預測率，C為編碼或者解碼所需的預測複雜性(依據時鐘周期、記憶體存取或者其他複雜性評價標準)，λ1和λ2為拉格朗日乘子。

本發明的一實施例涉及與RDCO配合的ALF/SAO設計。其中，依據RDCO決定與一設計特徵相關的最佳候選項。該設計特徵可一是模式決定或者分區劃分。在不同的ALF模式中進行模式選擇可以取決於片的類型如I/B/P-片或者幀間/幀內編碼單元的比例。本發明另一實施例為依據RDCO進行ALF濾波器選擇。當RDCO被應用於ALF濾波器的選擇，RDCO中的複雜性與濾波器參數的數量有關。作為替代的，該RDCO可以用於ALF濾波器的選擇，該RDCO的複雜性(C)與濾波器參數的數量(A)及將被濾波的像素數量(B)有關，如C＝A*B。依據本發明的另一實施例，該RDCO可以用於ALF濾波器的選擇，該RDCO的複雜性(C)與濾波器參數的數量(A)、將被濾波的像素數量(B)及一模式中所需操作(TableOfNumOperations[Mode])的數量有關，如：C＝A*B*TableOfNumOperations[Mode]。

2011年6月12日遞交的，發明名稱為「用於視頻編碼的示範適應偏移方法和裝置」美國專利申請案No.13/158,427揭露了一種SAO方案，該方案中使用多個像素分類標準類型對每一像素進行分類，且每一分類類型將該像素分類至多個類別中。依據該像素分類類型及該像素的種類，決定以偏移值以補償該偏移。該SAO方案使用帶偏移(band offset，BO)環境或者邊偏移(edge offset，EO)分類像素至類別中。不同的像素分類類型的複雜性不同。因此，RDCO技術可以被用於SAO作出選擇一像素分類類型的決定以實現最佳的RDCO性能。美國申請案No.13/177,343另一方面揭示了分區分割。該RDCO技術也可以被用於SAO以決定分區分割，RDCO成本與將被處理的像素數量及該模式所需的操作數量(TableOfNumOperations[Mode])相關，如：選擇的像素分類的類型。

上述自適應濾波器可以被應用在視頻編碼器及/或視頻解碼器中。在該視頻編碼或者視頻解碼器中，該重建視頻數據受編碼噪聲的影響。上述自適應濾波器方案能幫助提高重建視頻的視覺質量。上述根據本發明的實施例具有先進ALF的編碼系統可通過多種硬體、軟體碼或上述結合實現。舉例來說，本發明的一實施例可為電路集成到視頻壓縮晶片，或者程序碼集成到視頻壓縮系統，以進行相應處理。本發明的一實施例也可為程序碼在數位訊號處理器(Digital Signal Processor,DSP)上執行以進行相應處理。本發明還可包含一系列功能，並由電腦處理器、數位訊號處理器、微處理器、現場可編程門陣列(Field Programmable Gate Array,FPGA)執行。通過執行定義本發明實施例的機器可讀軟體碼或韌件碼，上述處理器可根據本發明執行特定任務。軟體碼或韌件碼可在不同程序語言和不同格式或方式中進行。軟體碼可編譯成不同的目標平臺。不過，不同的編碼格式、方式和軟體碼語言，以及與本發明有關的使碼執行任務的其它方法均符合本發明的精神，落入本發明的保護範圍。

雖然本發明已就較佳實施例揭露如上，然其並非用以限制本發明。本發明所屬技術領域中普通技術人員，在不脫離本發明的精神和範圍內，當可作各種的變更和潤飾。因此，本發明的保護範圍當視之前的權利要求書所界定為準。