一種基于視頻編碼模式的方向變換方法技術(shù)

公開了一種與視頻相關(guān)的基于預測模式的方向變換的幀內(nèi)編解碼方法，其能夠根據(jù)當前序列不同模式的殘差的統(tǒng)計特性，使得殘差數(shù)據(jù)在變換之后能量更加集中，從而得到更小的碼流，提升編碼效率。該方法包括編碼和解碼，在編碼端，首先對殘差數(shù)據(jù)進行收集，對其根據(jù)預測模式訓練，得到KLT集合；在編碼時，通過RDO在KLT和DCT中選取對于當前編碼單元更好的變換方法，同時將KLT集合傳輸?shù)浇獯a端；在解碼端，首先對傳輸?shù)浇獯a端的字典進行解碼，再進行整個視頻的解碼。

Direction change method based on video encoding mode

Disclosed is a prediction model based on the direction of the transformation in the related frame and video coding and decoding method, according to the statistical characteristics of the residual current sequence of different pattern, the residual data after the transformation of energy is more concentrated, resulting in smaller streams, to improve the encoding efficiency. The method includes encoding and decoding, encoding in the end, the residual data collection, based on the prediction model of training, get the KLT collection; in the encoding, selected by RDO in KLT and DCT for the current encoding unit transformation method is better, while the KLT collection is transferred to the decoder at the decoding end, first; for transmission to the decoder to decode the dictionary, and then the whole video decoding.

【技術(shù)實現(xiàn)步驟摘要】
一種基于視頻編碼模式的方向變換方法
本專利技術(shù)屬于視頻壓縮編碼的
，具體地涉及一種與視頻相關(guān)的基于預測模式的方向變換的幀內(nèi)編解碼方法。
技術(shù)介紹
從MPEG-2,H.263,MPEG-4到H.264/AVC,編碼效率更高的技術(shù)一直是人們追求的更高目標。近些年來，隨著大量的高清視頻與日劇增，一種更高效率的編碼框架--HEVC應運而生。HEVC采用了許多新的技術(shù)，其中重要的一項技術(shù)為基于編碼單元的自適應四叉樹分割，最大的編碼單元為64×64，其作為樹根分割為4個32×32的編碼單元，而且每一個32×32的編碼單元可以繼續(xù)分割，直至4×4的編碼單元。對每一個編碼單元，對其進行不同的預測得到不同的殘差單元(變換單元)。每一個殘差單元(變換單元)需要進行變換以及量化操作，根據(jù)RDO從這些不同的預測模式選取最優(yōu)的預測模式以及分割模式。盡管HEVC比H.264/AVC得到50％以上的增益，然而，由于預測時使用此編碼單元周圍的像素值對當前預測單元進行預測，僅僅利用到像素之間的局部相關(guān)性，并沒有利用到像素之間的非局部信息，所以利用序列間的非局部信息提高壓縮效率成為近些年研究的一個熱點。研究人員利用外部圖像的相關(guān)性對圖像壓縮進行了一次探索性的嘗試。對一副高分辨的圖像I進行下采樣之后得到低分辨率圖像D，對D進行壓縮，同時在解碼端將壓縮過的低分辨率圖像D進行上采樣，得到高分辨率圖像然而由于壓縮之前對原始圖像進行的下采樣操作造成了信息的損失，通過簡單的三次線性差值很難得到高質(zhì)量的高分辨率圖像，那么利用與外部的圖像數(shù)據(jù)庫進行匹配，對其增強重構(gòu)得到了高質(zhì)量的高分辨率圖像匹配時利用了與外部的圖像數(shù)據(jù)庫的SIFT特征的相關(guān)性。但此種方法對大量數(shù)據(jù)庫的需求成為了弊端，一旦數(shù)據(jù)庫與所壓縮的圖像相關(guān)性不強，那么并不能對一些圖像的細節(jié)信息進行很好的恢復。眾所周知，KLT能夠最大化使信號能量集中，而DCT在信號滿足一階馬爾科夫模型能夠很好的逼近KLT。但是DCT是固定的變換，而且并非所有信號均滿足一階馬爾科夫模型，所以近些年來，KLT對于一類數(shù)據(jù)的表達能力再次被人們得到重視，所以如何設計滿足一類數(shù)據(jù)的KLT便成為研究的課題之一。而基于編碼模式的方向變換(MDDT)便是根據(jù)預測方向?qū)⑾嚓P(guān)性較強的一類數(shù)據(jù)共同使用一個KLT，從而得到更優(yōu)的壓縮效率。MDDT最早在H.264/AVC上提出，其方法觀察到使用同一個預測模式的殘差數(shù)據(jù)有相似的方向性，如圖1，這種具有相似方向性的數(shù)據(jù)可以用來生成一組分離的KLT，在編碼端，通過對傳統(tǒng)DCT進行RDO選取更好的變換。MDDT提供了一種理念，其以后的離線變換的一些研究中對其進行了改進。基于編碼模式的稀疏變換(MDST)產(chǎn)生了更加魯棒的行和列變換，解決了當外點存在于訓練數(shù)據(jù)集中時MDDT不夠高效的問題。另外，一些研究人員觀察到即使使用同一個預測模式的殘差數(shù)據(jù)仍舊有很多殘差之間并不存在很強的相關(guān)性，如圖2所示，對于均為垂直預測模式下的殘差塊，其方向性仍舊區(qū)分很大。RDOT通過對同一個模式的殘差數(shù)據(jù)更好的分類，對同一個預測模式的殘差使用更多的變換，從而提高了編碼效率。同時，將MDDT中的分離KLT變?yōu)榉欠蛛xKLT也成為了改進MDDT的途徑之一。盡管基于MDDT的改進方法都取得了一定的增益，但是，MDDT，MDST，RDOT均為離線訓練，其預定義的變換并不能適應于越來越多的不同分辨率下以及各種各樣的視頻序列。而且，不同的視頻序列殘差塊像素之間的相關(guān)性也不盡相同，這造成了預定義的變換訓練時需要的數(shù)據(jù)集的包容性變得至關(guān)重要。然而對于KLT變換，其訓練集自身內(nèi)部的差異性越大，得到的KLT變換越接近于DCT變換。那么，如何使訓練集滿足同一類特性同時生成與其相關(guān)的變換變得至關(guān)重要。基于信號的自適應變換(SDT)采用在線訓練的方法。對于每一個編碼單元，SDT通過模版匹配(TM)在已重構(gòu)的序列中找出與當前殘差塊有高度相關(guān)性的數(shù)據(jù)集，得到基于此編碼單元的自適應KLT，從而改進編碼效率。此種方法避免了訓練集的預選取造成的當訓練集與當前編碼單元相關(guān)性較弱的問題。盡管如此，在編碼時，由于對每一塊編碼單元均使用TM進行逐像素搜索，其編碼復雜度較高。
技術(shù)實現(xiàn)思路
本專利技術(shù)的技術(shù)解決問題是：克服現(xiàn)有技術(shù)的不足，提供一種基于視頻編碼模式的方向變換方法，其能夠根據(jù)當前序列不同模式的殘差的統(tǒng)計特性，使得殘差數(shù)據(jù)在變換之后能量更加集中，從而得到更小的碼流，提升編碼效率。本專利技術(shù)的技術(shù)解決方案是：這種基于視頻編碼模式的方向變換方法，該方法包括編碼和解碼，在編碼端，首先對其進行數(shù)據(jù)的收集，對其進行訓練，得到KLT集合；在編碼時，通過RDO在KLT和DCT中選取對于當前編碼單元更好的變換方法；在解碼端，首先對傳輸?shù)浇獯a端的字典進行解碼，再進行整個視頻的解碼。本專利技術(shù)充分地利用了同一個視頻序列中非局部信息之間的相關(guān)性，從而得到性能更好的KLT集合，同時避免了過高的計算復雜度。本專利技術(shù)中，對于同一模式下，不同塊大小的殘差塊進行訓練得到非分離或分離的KLT集合，此KLT集合能夠使其對于當前序列的殘差塊能量更加集中，在量化之后得到更小的碼流，從而提升了編碼效率。附圖說明圖1示出了殘差絕對值量級標準化分布。圖2示出了使用垂直預測模式下的殘差塊。圖3是根據(jù)本專利技術(shù)的基于視頻編碼模式的方向變換方法的流程圖。圖4是根據(jù)本專利技術(shù)的編碼的一個優(yōu)選實施例的流程圖。圖5是根據(jù)本專利技術(shù)的解碼的一個優(yōu)選實施例的流程圖。圖6示出了相同序列以及不同序列之間殘差的像素間的相關(guān)性。具體實施方式如圖3所示，這種基于視頻編碼模式的方向變換方法，該方法包括編碼和解碼，在編碼端，首先對其進行數(shù)據(jù)的收集，對其進行訓練，得到KLT集合；在編碼時，通過RDO在KLT和DCT中選取對于當前編碼單元更好的變換方法；在解碼端，首先對傳輸?shù)浇獯a端的字典進行解碼，再進行整個視頻的解碼。本專利技術(shù)充分地利用了同一個視頻序列中非局部信息之間的相關(guān)性，從而得到性能更好的KLT集合，同時避免了過高的計算復雜度。本專利技術(shù)中，對于同一模式下，不同塊大小的殘差塊進行訓練得到非分離或分離的KLT集合，此KLT集合能夠使其對于當前序列的殘差塊能量更加集中，在量化之后得到更小的碼流，從而提升了編碼效率。優(yōu)選地，所述編碼包括以下步驟：(1)數(shù)據(jù)的收集：通過HEVC壓縮得到需要訓練的殘差集，其根據(jù)QP、塊大小、模式進行分類，得到每一類的殘差數(shù)據(jù)集；(2)變換的生成：在全I幀編碼時，對QP數(shù)據(jù)集進行訓練，分別得到每一種塊大小的每一種模式的KLT,從而形成KLT集合；形成的分數(shù)非分離KLT將其使用尺度為210進行放大變?yōu)檎蚄LT，而分離KLT使用尺度為25進行放大變?yōu)檎蚄LT,作為需要傳輸?shù)淖儞Q；(3)變換的使用：在RDO對KLT集和DCT進行比較時，在使用量化前，根據(jù)當前模式選取的掃描方法對其進行排序，使掃描時先掃到統(tǒng)計意義上能量更加集中的系數(shù)；對其量化，得到需要傳輸?shù)拇a流；對其量化過的碼流進行反量化，反量化之后的數(shù)據(jù)，根據(jù)排序方法，使其符合掃描的順序，進而反變換，得到重建的圖像；(4)變換的傳輸：傳輸KLT時，將KLT寫入到二進制碼流，從而對此二進制碼流使用行程編碼進行壓縮。優(yōu)選地，所述解碼包括以下步驟：(5)解碼得到整型KLT集合，讀取二進制碼本文檔來自技高網(wǎng)...

【技術(shù)保護點】
一種與視頻相關(guān)的基于預測模式的方向變換的幀內(nèi)編解碼方法，其特征在于：該方法包括編碼和解碼，在編碼端，首先對殘差數(shù)據(jù)進行收集，對其根據(jù)預測模式訓練，得到KLT集合；在編碼時，通過RDO在KLT和DCT中選取對于當前編碼單元更好的變換方法，同時將KLT集合傳輸?shù)浇獯a端；在解碼端，首先對傳輸?shù)浇獯a端的字典進行解碼，再進行整個視頻的解碼。

【技術(shù)特征摘要】
1.一種與視頻相關(guān)的基于預測模式的方向變換的幀內(nèi)編解碼方法，其特征在于：該方法包括編碼和解碼，在編碼端，首先對殘差數(shù)據(jù)進行收集，對其根據(jù)預測模式訓練，得到KLT集合；在編碼時，通過RDO在KLT和DCT中選取對于當前編碼單元更好的變換方法，同時將KLT集合傳輸?shù)浇獯a端；在解碼端，首先對傳輸?shù)浇獯a端的字典進行解碼，再進行整個視頻的解碼。2.根據(jù)權(quán)利要求1所述的與視頻相關(guān)的基于預測模式的方向變換的幀內(nèi)編解碼方法，所述編碼包括以下步驟：(1)殘差數(shù)據(jù)的收集：通過HEVC壓縮得到需要訓練的殘差集，其根據(jù)塊大小、預測模式進行分類，得到每一類的殘差數(shù)據(jù)集；(2)變換的生成：在全I幀編碼時，對數(shù)據(jù)集進行訓練，分別得到不同塊大小的每一種模式的KLT,從而形成KLT集合；形成的浮點數(shù)非分離KLT將其使用尺度為210進行放大變?yōu)檎蚄LT，而浮點數(shù)分離KLT使用尺度為25進行放大變?yōu)檎蚄LT,作為需要傳輸?shù)淖儞Q；(3)變換的使用：在RDO對KLT集和DCT進行比較時，根據(jù)當前模式選取的掃描方法對其進行排序，使掃描時先掃到統(tǒng)計意義上能量更加集中的系數(shù)，進而對其量化，得到需要傳輸?shù)拇a流；對其量化過的碼流進行反量化，反量化之后的數(shù)據(jù)，根據(jù)排序方法，使其符合掃描的順序，進而反變換，得到...

【專利技術(shù)屬性】
技術(shù)研發(fā)人員：施云惠，李曉雷，丁文鵬，尹寶才，
申請(專利權(quán))人：北京工業(yè)大學，
類型：發(fā)明
國別省市：北京,11