1.5.3. Алгоритм постобработки для границ второго типа

Если граница между блокамиипринадлежит к типу 2, то это означает, что ни один из двух блоков, составляющих данную границу, не является краевым. В этом случае можно заменить в смещенном блокеступенчатую двумерную функцию, используемую для построения модели смещенного блока, на линейную двумерную функцию. На рис. 6 показан одномерный случай замены ступенчатой функциина линейную функцию.

Рис. 6. Иллюстрация замены ступенчатой функции на линейную функцию

Используя параметры рис. 6, находим, что

.

Таким образом, можно получить восемь значений пикселей линейной функции [5]:

(27)

Линейная двумерная функция может быть составлена из восьми строк, каждая из которых – это вектор.

(28)

Отметим, что матрица является асимметричной в горизонтальном направлении и постоянной в вертикальном направлении. Поэтому ДКП линейной двумерной функции, как и ДКП ступенчатой двумерной функции, имеет лишь четыре ненулевых элемента в первой строке. Пусть вектор– это первая строка матрицы коэффициентов ДКП линейной двумерной функции. Тогда из свойства асимметриив горизонтальном направлении следует, что.

Пусть вектор , где– первая строка матрицы коэффициентов ДКП ступенчатой двумерной функции. Пусть блок– обновленный блок после замены в блокеступенчатой двумерной функциина линейную двумерную функцию, тогда:

(29)

где определяется из выражения (15). ДКП как, так иимеют только четыре ненулевых элемента в своих первых строках, которые представлены векторамиисоответственно. Применение формулы (29) в пространстве ДКП выглядит следующим образом:

(30)

где – это матрица коэффициентов ДКП для блока.

Блок затем используется для преобразования обоих блокови(рис. 2.2) посредством перемножения матриц, похожего на преобразование (11). Но в связи с тем, что только элементы первой строки матрицы изменяются для получения матрицы, в матрицахиподвергнутся изменению также только элементы первой строки, что видно из формулы (11). Поэтому можно использовать следующий простой алгоритм преобразования блокови. Пустьи– это дельта вектора для матрицисоответственно. Тогда

где и– матрицы из (11). Окончательно блокиипреобразуются по следующему алгоритму:

(31)

Отметим, что и– это постоянные вектора, которые могут быть вычислены заранее и сохранены.

1.5.4. Алгоритм постфильтрации в пространстве дкп границ второго и третьего типа

После применения к блокам ипреобразования (31) новые артефакты, хотя и менее заметные, могут возникать на границе между блокамии. Чтобы подавить вновь созданные искажения, к обоим измененным блокамиприменяется метод постфильтрации в пространстве ДКП. Этот же метод применяется и для границ третьего типа с целью уменьшения артефактов блочности [5].

Пусть – это блок 8 × 8m-той строки и n-того столбца изображения, а блок – это блок, сдвинутый относительно блоканапикселей по осии напикселей по оси, как показано на рис. 4.4.

Рис. 7. Иллюстрация смещенного блока при и

Из рис. 7 видно, что при иблокиибудут частично перекрываться. Пустьи– матрицы коэффициентов ДКП блоковисоответственно. Тогда постфильтрация в пространстве ДКП для преобразованиявыглядит следующим образом:

(32)

где – это отфильтрованный блок в пространстве ДКП,– максимальное смещение по осями,– весовые коэффициенты блоков, а– это сумма всех весовых коэффициентов, определяемая по формуле:

(33)

Блоки в пространстве ДКП могут быть найдены непосредственно из четырех соседних блоков, с которыми они перекрываются [29] по формуле:

(34)

где и– это матрицы коэффициентов ДКП от матрицисоответственно. Матрицыиопределены в [30]. Непосредственное применение формулы (34) приводит к большому увеличению вычислительной сложности алгоритма постобработки. Разработано несколько быстрых алгоритмов [31, 32-33], которые уменьшают вычислительную сложность (34).