СЕГМЕНТАЦИЯ ЕДИНИЦ ПРЕОБРАЗОВАНИЯ (TU) НА ОСНОВЕ ДЕРЕВА ДЛЯ КОДИРОВАНИЯ ВИДЕО Российский патент 2023 года по МПК H04N19/96 H04N19/159 

[0001] Данная заявка притязает на приоритет заявки (США) № 16/715274, поданной 16 декабря 2019 года, и предварительной заявки на патент (США) № 62/782292, поданной 19 декабря 2018 года, каждая из которых полностью содержится в данном документе по ссылке.

Область техники, к которой относится изобретение

[0002] Данное раскрытие сущности относится к кодированию видео и декодированию видео.

Уровень техники

[0003] Поддержка цифрового видео может быть включена в широкий диапазон устройств, включающих в себя цифровые телевизионные приемники, системы цифровой прямой широковещательной передачи, беспроводные широковещательные системы, персональные цифровые устройства (PDA), переносные или настольные компьютеры, планшетные компьютеры, устройства для чтения электронных книг, цифровые камеры, цифровые записывающие устройства, цифровые мультимедийные проигрыватели, устройства видеоигр, консоли для видеоигр, сотовые или спутниковые радиотелефоны, так называемые "смартфоны", устройства видеоконференц-связи, устройства потоковой передачи видео и т.п. Цифровые видеоустройства реализуют такие технологии кодирования видео, как технологии кодирования видео, описанные в стандартах, заданных посредством стандартов MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, часть 10, усовершенствованное кодирование видео (AVC), ITU-T H.265/стандарта высокоэффективного кодирования видео (HEVC), и расширений таких стандартов. Видеоустройства могут передавать, принимать, кодировать, декодировать и/или сохранять цифровую видеоинформацию более эффективно посредством реализации таких технологий кодирования видео.

[0004] Технологии кодирования видео включают в себя пространственное (внутрикадровое) прогнозирование и/или временное (межкадровое) прогнозирование для того, чтобы уменьшать или удалять избыточность, внутренне присущую в видеопоследовательностях. Для кодирования видео на основе блоков, видеосрез (например, видеокадр или часть видеокадра) может сегментироваться на видеоблоки, которые также могут называться "единицами дерева кодирования (CTU)", "единицами кодирования (CU)" и/или "узлами кодирования". Видеоблоки во внутреннем (I-) срезе кадра кодируются с использованием пространственного прогнозирования относительно опорных выборок в соседних блоках в идентичном кадре. Видеоблоки во взаимно кодированном (P- или B-) срезе кадра могут использовать пространственное прогнозирование относительно опорных выборок в соседних блоках в идентичном кадре или временное прогнозирование относительно опорных выборок в других опорных кадрах. Кадры могут называться "кадрами", и опорные кадры могут называться "опорными кинокадрами".

Сущность изобретения

[0005] В общем, это раскрытие сущности описывает технологии, связанные с кодированием с преобразованием, которое представляет собой элемент современных стандартов сжатия видео. Примерные технологии могут предоставлять более гибкую сегментацию остаточных блоков, таких как единицы преобразования (TU), и могут улучшать усиления при кодировании.

[0006] В одном примере, способ декодирования видеоданных включает в себя прием, в потоке битов, который содержит кодированное представление видеоданных, информации, указывающей то, сегментируется или нет остаточный блок, и информации, указывающей тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования. Способ дополнительно включает в себя определение, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множества остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации. Способ дополнительно включает в себя формирование остаточных данных для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков. Способ дополнительно включает в себя декодирование текущего блока с использованием остаточных данных.

[0007] В другом примере, устройство для декодирования видеоданных включает в себя запоминающее устройство, выполненное с возможностью сохранять видеоданные. Устройство дополнительно включает в себя процессор, реализованный в схеме и выполненный с возможностью: принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования; определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множество остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации; формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков; и декодировать текущий блок с использованием остаточных данных.

[0008] В другом примере, машиночитаемый носитель хранения данных, имеющий сохраненные инструкции, которые при выполнении инструктируют процессору: принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования; определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множество остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации; формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков; и декодировать текущий блок с использованием остаточных данных.

[0009] В другом примере, устройство для декодирования видеоданных включает в себя средство для приема в потоке битов, который содержит кодированное представление видеоданных, информации, указывающей то, сегментируется или нет остаточный блок, и информации, указывающей тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования. Устройство дополнительно включает в себя средство для определения, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множества остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации. Устройство дополнительно включает в себя средство для формирования остаточных данных для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков. Устройство дополнительно включает в себя средство для декодирования текущего блока с использованием остаточных данных.

[0010] В другом примере, способ кодирования видеоданных включает в себя определение того, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков. Способ дополнительно включает в себя кодирование потока битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется.

[0011] В другом примере, устройство для кодирования видеоданных включает в себя запоминающее устройство, выполненное с возможностью сохранять видеоданные. Устройство дополнительно включает в себя процессор, реализованный в схеме и выполненный с возможностью: определять то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков; и кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется.

[0012] Подробности одного или более примеров изложены на прилагаемых чертежах и в нижеприведенном описании. Другие признаки, цели и преимущества должны становиться очевидными из описания, чертежей и формулы изобретения.

Краткое описание чертежей

[0013] Фиг. 1 является блок-схемой, иллюстрирующей примерную систему кодирования и декодирования видео, которая может выполнять технологии этого раскрытия сущности.

[0014] Фиг. 2A и 2B являются концептуальными схемами, иллюстрирующими примерную структуру в виде дерева квадрантов и двоичного дерева (QTBT) и соответствующую единицу дерева кодирования (CTU).

[0015] Фиг. 3A и 3B являются концептуальными схемами, иллюстрирующими примерную схему преобразования на основе остаточного дерева квадрантов HEVC.

[0016] Фиг. 4 является блок-схемой, иллюстрирующей примерную систему для гибридного кодирования видео с адаптивным выбором преобразования.

[0017] Фиг. 5A и 5B являются концептуальными схемами, иллюстрирующими горизонтальные и вертикальные преобразования в качестве раздельной реализации преобразований.

[0018] Фиг. 6 является концептуальной схемой, иллюстрирующей передачу служебных сигналов преобразования.

[0019] Фиг. 7 является концептуальной схемой, иллюстрирующей соответствующую сегментацию на основе дерева для блока.

[0020] Фиг. 8 является концептуальной схемой, иллюстрирующей примеры сегментации на основе дерева квадрантов, сегментации на основе двоичного дерева и сегментации на основе троичного дерева.

[0021] Фиг. 9 является блок-схемой, иллюстрирующей примерный видеокодер, который может выполнять технологии этого раскрытия сущности.

[0022] Фиг. 10 является блок-схемой, иллюстрирующей примерный видеодекодер, который может выполнять технологии этого раскрытия сущности.

[0023] Фиг. 11 является блок-схемой последовательности операций, иллюстрирующей примерный способ для кодирования текущего блока. Фиг. 12 является блок-схемой последовательности операций, иллюстрирующей примерный способ для декодирования текущего блока видеоданных.

[0024] Фиг. 13 является блок-схемой последовательности операций, иллюстрирующей примерный способ для декодирования текущего блока данных, имеющих остаточный блок, который сегментируется согласно типу дерева сегментации.

[0025] Фиг. 14 является блок-схемой последовательности операций, иллюстрирующей примерный способ для кодирования текущего блока данных, имеющих остаточный блок, который сегментируется согласно типу дерева сегментации.

Подробное описание изобретения

[0026] Данное раскрытие сущности относится к кодированию с преобразованием. При кодировании с преобразованием для видеокодера, имеется блок остаточных данных (например, остаток между кодируемым текущим блоком и блоком прогнозирования). Остаточные данные преобразуются из пространственной области в частотную область что приводит к блоку коэффициентов преобразования из коэффициентов преобразования. Видеодекодер принимает блок коэффициентов преобразования (или возможно блок коэффициентов преобразования после квантования) и выполняет обратное квантование (при необходимости) и обратное преобразование, чтобы восстанавливать остаточные данные обратно в пространственную область значений.

[0027] Единица преобразования (TU) включает в себя блок преобразования выборок сигнала яркости и блоки преобразования соответствующих выборок сигнала цветности. Блок преобразования может представлять собой прямоугольный блок MxN выборок, получающийся в результате преобразования в процессе декодирования, и преобразование может составлять часть процесса декодирования, посредством которого блок коэффициентов преобразования преобразуется в блок значений пространственной области. Соответственно, остаточный блок может представлять собой пример TU. Остаточный блок может остаточные данные, преобразованные из выборочной области в частотную область, и включает в себя множество коэффициентов преобразования. Кодирование с преобразованием описывается подробнее в работе автора M. Wien "High Efficiency Video Coding: Coding Tools and Specification", Springer-Verlag, Берлин, 2015 год.

[0028] Как подробнее описано, в одном или более примеров, описанных в этом раскрытии сущности, несколько проектных решений по сегментации на основе дерева могут использоваться для кодирования с преобразованием со схемой преобразования, называемой "адаптивным множественным (или многоядерным) преобразованием (AMT)" или "множественным набором для преобразования (MTS)". AMT и MTS могут означать идентичные инструментальные средства преобразования, поскольку, вследствие изменения названия между стандартами кодирования видео, AMT теперь называется "MTS".

[0029] Примерные схемы преобразования описываются в публикации патента (США) № 2016/0219290 авторов X. Zhao, S. Lee, J. Chen, L. Zhang, X. Li, Y. Chen, M. Karczewicz и H. Liu "Enhanced Multiple Transforms for Prediction Residuals", январь 2015 года, также в публикации патента (США) № 2018/0020218 авторов X. Zhao, V. Seregin, M. Karczewicz и J. Chen "Improved Look-up Table for Enhanced Multiple Transform", июль 2016 года, а также в заявке (США) № 16/426749, поданной 30 мая 2019, авторов H. E. Egilmez, Y.-H. Chao, A. Said, V. Seregin и M. Karczewicz "Adaptive multiple transforms with reduced signaling overhead".

[0030] Как подробнее описано, в некоторых примерах, остаточный блок может сегментироваться на множество остаточных субблоков (например, суб-TU). Это раскрытие сущности описывает примерные технологии способов, которыми видеокодер может передавать в служебных сигналах, и видеодекодер может определять то, что остаточный блок сегментируется на остаточные субблоки, и способ, которым сегментируется остаточный блок (например, тип сегментации). Кроме того, может быть предусмотрено множество типов преобразования, которые видеокодер может использовать для того, чтобы преобразовывать остаточные данные в выборочной области в частотную область, и множество типов преобразования, которые видеодекодер может использовать для того, чтобы преобразовывать (например, обратно преобразовывать) данные частотной области обратно в остаточные данные в выборочной области. Это раскрытие сущности описывает примерные способы, которыми следует определять тип преобразования.

[0031] Фиг. 1 является блок-схемой, иллюстрирующей примерную систему 100 кодирования и декодирования видео, которая может выполнять технологии этого раскрытия сущности. Технологии этого раскрытия сущности, в общем, направлены на кодирование (кодирование и/или декодирование) видеоданных. В общем, видеоданные включают в себя любые данные для обработки видео. Таким образом, видеоданные могут включать в себя необработанное некодированное видео, кодированное видео, декодированное (например, восстановленное) видео и видеометаданные, такие как служебные данные.

[0032] Как показано на фиг. 1, система 100 включает в себя исходное устройство 102, которое предоставляет кодированные видеоданные, которые должны декодироваться и отображаться посредством целевого устройства 116, в этом примере. В частности, исходное устройство 102 предоставляет видеоданные в целевое устройство 116 через машиночитаемый носитель 110. Исходное устройство 102 и целевое устройство 116 могут содержать любые из широкого диапазона устройств, включающих в себя настольные компьютеры, ноутбуки (т.е. переносные компьютеры), планшетные компьютеры, абонентские приставки, телефонные трубки, к примеру, смартфоны, телевизионные приемники, камеры, устройства отображения, цифровые мультимедийные проигрыватели, консоли для видеоигр, устройство потоковой передачи видео и т.п. В некоторых случаях, исходное устройство 102 и целевое устройство 116 могут оснащаться возможностями беспроводной связи и в силу этого могут называться "устройствами беспроводной связи".

[0033] В примере по фиг. 1, исходное устройство 102 включает в себя видеоисточник 104, запоминающее устройство 106, видеокодер 200 и интерфейс 108 вывода. Целевое устройство 116 включает в себя интерфейс 122 ввода, видеодекодер 300, запоминающее устройство 120 и устройство 118 отображения. В соответствии с этим раскрытием сущности, видеокодер 200 исходного устройства 102 и видеодекодер 300 целевого устройства 116 могут быть выполнены с возможностью применять технологии для сегментации единиц преобразования на основе дерева для кодирования видео. Таким образом, исходное устройство 102 представляет пример устройства кодирования видео, в то время как целевое устройство 116 представляет пример устройства декодирования видео. В других примерах, исходное устройство и целевое устройство могут включать в себя другие компоненты или компоновки. Например, исходное устройство 102 может принимать видеоданные из внешнего видеоисточника, такого как внешняя камера. Аналогично, целевое устройство 116 может взаимодействовать с внешним устройством отображения вместо включения в себя интегрированного устройства отображения.

[0034] Система 100, как показано на фиг. 1, представляет собой просто один пример. В общем, любое устройство кодирования и/или декодирования цифрового видео может выполнять технологии для сегментации единиц преобразования на основе дерева для кодирования видео. Исходное устройство 102 и целевое устройство 116 представляют собой просто примеры таких устройств кодирования, в которых исходное устройство 102 формирует кодированные видеоданные для передачи в целевое устройство 116. Это раскрытие сущности обозначает устройство "кодирования" в качестве устройства, которое выполняет кодирование (кодирование и/или декодирование) данных. Таким образом, видеокодер 200 и видеодекодер 300 представляют примеры устройств кодирования, в частности, видеокодера и видеодекодера, соответственно. В некоторых примерах, исходное устройство 102 и целевое устройство 116 могут работать практически симметрично таким образом, что каждое из исходного устройства 102 и целевого устройства 116 включает в себя компоненты кодирования и декодирования видео. Следовательно, система 100 может поддерживать одностороннюю и двухстороннюю передачу видео между исходным устройством 102 и целевым устройством 116, к примеру, для потоковой передачи видео, воспроизведения видео, широковещательной передачи видео или видеотелефонии.

[0035] В общем, видеоисточник 104 представляет источник видеоданных (т.е. необработанных некодированных видеоданных) и предоставляет последовательную серию кадров (также называемых "кадрами") видеоданных в видеокодер 200, который кодирует данные для кадров. Видеоисточник 104 исходного устройства 102 может включать в себя устройство видеозахвата, такое как видеокамера, видеоархив, содержащий ранее захваченное необработанное видео, и/или интерфейс прямой видеотрансляции, чтобы принимать видео от поставщика видеосодержимого. В качестве дополнительной альтернативы, видеоисточник 104 может формировать данные компьютерной графики в качестве исходного видео либо комбинацию передаваемого вживую видео, архивного видео и машиногенерируемого видео. В каждом случае, видеокодер 200 кодирует захваченные, предварительно захваченные или машиногенерируемые видеоданные. Видеокодер 200 может перекомпоновывать кадры из порядка приема (иногда называемого "порядком отображения") в порядок кодирования для кодирования. Видеокодер 200 может формировать поток битов, включающий в себя кодированные видеоданные. Исходное устройство 102 затем может выводить кодированные видеоданные через интерфейс 108 вывода на машиночитаемый носитель 110 для приема и/или извлечения, например, посредством интерфейса 122 ввода целевого устройства 116.

[0036] Запоминающее устройство 106 исходного устройства 102 и запоминающее устройство 120 целевого устройства 116 представляют запоминающие устройства общего назначения. В некоторых примерах, запоминающие устройства 106, 120 могут сохранять необработанные видеоданные, например, необработанное видео из видеоисточника 104 и необработанные декодированные видеоданные из видеодекодера 300. Дополнительно или альтернативно, запоминающие устройства 106, 120 могут сохранять программные инструкции, выполняемые, например, посредством видеокодера 200 и видеодекодера 300, соответственно. Хотя запоминающее устройство 106 и запоминающее устройство 120 показаны отдельно от видеокодера 200 и видеодекодера 300 в этом примере, следует понимать, что видеокодер 200 и видеодекодер 300 также могут включать в себя внутренние запоминающие устройства для функционально аналогичных или эквивалентных целей. Кроме того, запоминающие устройства 106, 120 могут сохранять кодированные видеоданные, например, выводимые из видеокодера 200 и вводимые в видеодекодер 300. В некоторых примерах, части запоминающих устройств 106, 120 могут выделяться в качестве одного или более видеобуферов, например, чтобы сохранять необработанные, декодированные и/или кодированные видеоданные.

[0037] Машиночитаемый носитель 110 может представлять любой тип носителя или устройства, допускающего транспортировку кодированных видеоданных из исходного устройства 102 в целевое устройство 116. В одном примере, машиночитаемый носитель 110 представляет среду связи, чтобы обеспечивать возможность исходному устройству 102 передавать кодированные видеоданные непосредственно в целевое устройство 116 в реальном времени, например, через радиочастотную сеть или компьютерную сеть. Интерфейс 108 вывода может модулировать передаваемый сигнал, включающий в себя кодированные видеоданные, и интерфейс 122 ввода может демодулировать принимаемый сигнал передачи, согласно стандарту связи, такому как протокол беспроводной связи. Среда связи может содержать любую беспроводную или проводную среду связи, такую как радиочастотный (RF) спектр либо одна или более физических линий передачи. Среда связи может формировать часть сети с коммутацией пакетов, такой как локальная вычислительная сеть, глобальная вычислительная сеть либо глобальная сеть, такая как Интернет. Среда связи может включать в себя маршрутизаторы, коммутаторы, базовые станции или любое другое оборудование, которое может быть полезным для того, чтобы упрощать передачу из исходного устройства 102 в целевое устройство 116.

[0038] В некоторых примерах, исходное устройство 102 может выводить кодированные данные из интерфейса 108 вывода в устройство 112 хранения данных. Аналогично, целевое устройство 116 может осуществлять доступ к кодированным данным из устройства 112 хранения данных через интерфейс 122 ввода. Устройство 112 хранения данных может включать в себя любые из множества распределенных или локально доступных носителей хранения данных, таких как жесткий диск, Blu-Ray-диски, DVD, CD-ROM, флэш-память, энергозависимое или энергонезависимое запоминающее устройство либо любые другие подходящие цифровые носители хранения данных для сохранения кодированных видеоданных.

[0039] В некоторых примерах, исходное устройство 102 может выводить кодированные видеоданные на файловый сервер 114 или другое промежуточное устройство хранения данных, которое может сохранять кодированное видео, сформированное посредством исходного устройства 102. Целевое устройство 116 может осуществлять доступ к сохраненным видеоданным из файлового сервера 114 через потоковую передачу или загрузку. Файловый сервер 114 может представлять собой любой тип серверного устройства, допускающего сохранение кодированных видеоданных и передачу этих кодированных видеоданных в целевое устройство 116. Файловый сервер 114 может представлять веб-сервер (например, для веб-узла), сервер по протоколу передачи файлов (FTP), сетевое устройство доставки контента или устройство по протоколу системы хранения данных с подключением по сети (NAS). Целевое устройство 116 может осуществлять доступ к кодированным видеоданным из файлового сервера 114 через любое стандартное соединение для передачи данных, включающее в себя Интернет-соединение. Оно может включать в себя беспроводной канал (например, Wi-Fi-соединение), проводное соединение (например, цифровую абонентскую линию (DSL), кабельный модем и т.д.) либо комбинацию означенного, которая является подходящей для осуществления доступа к кодированным видеоданным, сохраненным на файловом сервере 114. Файловый сервер 114 и интерфейс 122 ввода могут быть выполнены с возможностью работать согласно протоколу потоковой передачи, протоколу передачи на основе загрузки либо комбинации вышеозначенного.

[0040] Интерфейс 108 вывода и интерфейс 122 ввода могут представлять беспроводные передающие устройства/приемные устройства, модемы, проводные сетевые компоненты (например, Ethernet-карты), компоненты беспроводной связи, которые работают согласно любым из множества IEEE 802.11-стандартов, либо другие физические компоненты. В примерах, в которых интерфейс 108 вывода и интерфейс 122 ввода содержат беспроводные компоненты, интерфейс 108 вывода и интерфейс 122 ввода могут быть выполнены с возможностью передавать данные, к примеру, кодированные видеоданные, согласно стандарту сотовой связи, такому как 4G, 4G LTE (стандарт долгосрочного развития), усовершенствованный стандарт LTE, 5G и т.п. В некоторых примерах, в которых интерфейс 108 вывода содержит беспроводное передающее устройство, интерфейс 108 вывода и интерфейс 122 ввода могут быть выполнены с возможностью передавать данные, к примеру, кодированные видеоданные, согласно другим стандартам беспроводной связи, таким как IEEE 802.11-спецификация, IEEE 802.15-спецификация (например, ZigBee™), стандарт Bluetooth™ и т.п. В некоторых примерах, исходное устройство 102 и/или целевое устройство 116 могут включать в себя соответствующие внутримикросхемные (SoC) устройства. Например, исходное устройство 102 может включать в себя SoC-устройство, чтобы выполнять функциональность, приписываемую видеокодеру 200 и/или интерфейсу 108 вывода, и целевое устройство 116 может включать в себя SoC-устройство, чтобы выполнять функциональность, приписываемую видеодекодеру 300 и/или интерфейсу 122 ввода.

[0041] Технологии этого раскрытия сущности могут применяться к кодированию видео в поддержку любых из множества мультимедийных вариантов применения, таких как телевизионные широковещательные передачи по радиоинтерфейсу, кабельные телевизионные передачи, спутниковые телевизионные передачи, потоковые передачи видео по Интернету, такие как динамическая адаптивная потоковая передача по HTTP (DASH), цифровое видео, которое кодируется на носитель хранения данных, декодирование цифрового видео, сохраненного на носителе хранения данных, или другие варианты применения.

[0042] Интерфейс 122 ввода целевого устройства 116 принимает кодированный поток видеобитов из машиночитаемого носителя 110 (например, среды связи, устройства 112 хранения данных, файлового сервера 114 и т.п.). Кодированный поток видеобитов может включать в себя служебную информацию, заданную посредством видеокодера 200, которая также используется посредством видеодекодера 300, такую как синтаксические элементы, имеющие значения, которые описывают характеристики и/или обработку видеоблоков либо других кодированных единиц (например, срезов, кадров, групп кадров, последовательностей и т.п.). Устройство 118 отображения отображает декодированные кадры декодированных видеоданных пользователю. Устройство 118 отображения может представлять любое из множества устройств отображения, таких как дисплей на электронно-лучевой трубке (CRT), жидкокристаллический дисплей (LCD), плазменный дисплей, дисплей на органических светодиодах (OLED) или другой тип устройства отображения.

[0043] Хотя не показано на фиг. 1, в некоторых примерах, видеокодер 200 и видеодекодер 300 могут быть интегрированы с аудиокодером и/или аудиодекодером и могут включать в себя соответствующие модули мультиплексора-демультиплексора либо другие аппаратные средства и программное обеспечение для того, чтобы обрабатывать мультимедийные потоки, включающие в себя как аудио, так и видео в общем потоке данных. Если применимо, модули мультиплексора-демультиплексора могут соответствовать протоколу мультиплексора ITU H.223 или другим протоколам, таким как протокол пользовательских дейтаграмм (UDP).

[0044] Видеокодер 200 и видеодекодер 300 могут реализовываться как любая из множества надлежащих схем кодера и/или декодера, к примеру, как один или более микропроцессоров, процессоров цифровых сигналов (DSP), специализированных интегральных схем (ASIC), программируемых пользователем вентильных матриц (FPGA), как дискретная логика, программное обеспечение, аппаратные средства, микропрограммное обеспечение либо как любые комбинации вышеозначенного. Когда технологии реализуются частично в программном обеспечении, устройство может сохранять инструкции для программного обеспечения на подходящем энергонезависимом машиночитаемом носителе и выполнять инструкции в аппаратных средствах с использованием одного или более процессоров, чтобы осуществлять технологии этого раскрытия сущности. Каждый из видеокодера 200 и видеодекодера 300 может быть включен в один или более кодеров или декодеров, любой из которых может быть интегрирован как часть комбинированного кодера/декодера (кодека) в соответствующем устройстве. Устройство, включающее в себя видеокодер 200 и/или видеодекодер 300, может содержать интегральную схему, микропроцессор и/или устройство беспроводной связи, такое как сотовый телефон.

[0045] Видеокодер 200 и видеодекодер 300 могут работать согласно стандарту кодирования видео, такому как ITU-T H.265, также называемому "стандартом высокоэффективного кодирования видео (HEVC)", либо его расширениям, таким как расширения кодирования многовидового видео и/или масштабируемого кодирования видео. Альтернативно, видеокодер 200 и видеодекодер 300 могут работать согласно другим собственным или отраслевым стандартам, таким как стандарт объединенной исследовательской группы тестовой модели (JEM) или ITU-T H.266, также называемый "универсальным кодированием видео (VVC)". Проект VVC-стандарта описывается в работе авторов Bross и др. "Versatile Video Coding (Draft 6)", Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15 конференция: Гетеборг, Швеция, 3-12 июля 2019 года, JVET-O2001-vE (далее "VVC-проект 6"). Более недавний проект VVC-стандарта описывается в работе авторов Bross и др. "Versatile Video Coding (Draft 7)", Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 16 конференция: Женева, CH, 1-11 октября 2019, JVET-P2001-v9 (далее "VVC-проект 7"). Тем не менее, технологии этого раскрытия сущности не ограничены каким-либо конкретным стандартом кодирования.

[0046] В общем, видеокодер 200 и видеодекодер 300 могут выполнять кодирование кадров на основе блоков. Термин "блок", в общем, означает структуру, включающую в себя данные, которые должны обрабатываться (например, кодироваться, декодироваться или иным образом использоваться в процессе кодирования и/или декодирования). Например, блок может включать в себя двумерную матрицу выборок данных яркости и/или цветности. В общем, видеокодер 200 и видеодекодер 300 могут кодировать видеоданные, представленные в YUV- (например, Y, Cb, Cr) формате. Таким образом, вместо кодирования данных красного цвета, зеленого цвета и синего цвета (RGB) для выборок кадра, видеокодер 200 и видеодекодер 300 могут кодировать компоненты яркости и цветности, при этом компоненты цветности могут включать в себя компоненты цветности оттенков красного цвета и оттенков синего цвета. В некоторых примерах, видеокодер 200 преобразует принимаемые RGB-отформатированные данные в YUV-представление до кодирования, и видеодекодер 300 преобразует YUV-представление в RGB-формат. Альтернативно, модули предварительной и постобработки (не показаны) могут выполнять эти преобразования.

[0047] Это раскрытие сущности, в общем, может означать кодирование (например, кодирование и декодирование) кадров, которое включает в себя процесс кодирования или декодирования данных кадра. Аналогично, это раскрытие сущности может означать кодирование блоков кадра, которое включает в себя процесс кодирования или декодирования данных для блоков, например, прогнозное кодирование и/или остаточное кодирование. Кодированный поток видеобитов, в общем, включает в себя последовательность значений для синтаксических элементов, представляющих решения по кодированию (например, режимы кодирования) и сегментацию кадров на блоки. Таким образом, ссылки на кодирование кадра или блока, в общем, должны пониматься как кодирование значений для синтаксических элементов, формирующих кадр или блок.

[0048] HEVC задает различные блоки, включающие в себя единицы кодирования (CU), единицы прогнозирования (PU) и единицы преобразования (TU). Согласно HEVC, видеокодер (к примеру, видеокодер 200) сегментирует единицу дерева кодирования (CTU) на CU согласно структуре в виде дерева квадрантов. Таким образом, видеокодер сегментирует CTU и CU на четыре равных неперекрывающихся квадрата, и каждый узел дерева квадрантов имеет либо нуль, либо четыре дочерних узла. Узлы без дочерних узлов могут называться "узлами-листьями", и CU таких узлов-листьев могут включать в себя одну или более PU и/или одну или более TU. Видеокодер дополнительно может сегментировать PU и TU. Например, в HEVC, остаточное дерево квадрантов (RQT) представляет сегментацию TU. В HEVC, PU представляют данные взаимного прогнозирования, в то время как TU представляют остаточные данные. CU, которые внутренне прогнозируются, включают в себя информацию внутреннего прогнозирования, такую как индикатор внутреннего режима.

[0049] В качестве другого примера, видеокодер 200 и видеодекодер 300 могут быть выполнены с возможностью работать согласно JEM или VVC. Согласно JEM или VVC, видеокодер (к примеру, видеокодер 200) сегментирует кинокадр на множество единиц дерева кодирования (CTU). Видеокодер 200 может сегментировать CTU согласно древовидной структуре, такой как структура в виде дерева квадрантов и двоичного дерева (QTBT) или структура в виде многотипного дерева (MTT). QTBT-структура удаляет понятия нескольких типов сегментации, такие как разделение между CU, PU и TU HEVC. Тем не менее, в некоторых примерах, TU и CU могут сегментироваться по-разному. Таким образом, TU может включать в себя множество суб-TU, имеющих форму и размер, отличающиеся от формы и размера CU. QTBT-структура включает в себя два уровня: первый уровень, сегментированный согласно сегментации на основе дерева квадрантов, и второй уровень, сегментированный согласно сегментации на основе двоичного дерева. Корневой узел QTBT-структуры соответствует CTU. Узлы-листья двоичных деревьев соответствуют единицам кодирования (CU).

[0050] В MTT-структуре сегментации, блоки могут сегментироваться с использованием сегмента дерева квадрантов (QT), сегмента двоичного дерева (BT) и одного или более типов сегментов троичного дерева (TT) (также называемого "третичным деревом (TT)). Сегмент троичного или третичного дерева представляет собой сегмент, в котором блок разбивается на три субблока. В некоторых примерах, сегмент троичного или третичного дерева разделяет блок на три субблока без разделения исходного блока по центру. Типы сегментации в MTT (например, QT, BT и TT) могут быть симметричными или асимметричными.

[0051] В некоторых примерах, видеокодер 200 и видеодекодер 300 могут использовать одну QTBT- или MTT-структуру для того, чтобы представлять каждый из компонентов яркости и цветности, в то время как в других примерах, видеокодер 200 и видеодекодер 300 могут использовать две или более QTBT- или MTT-структур, к примеру, одну QTBT/MTT-структуру для компонента яркости и другую QTBT/MTT-структуру для обоих компонентов цветности (либо две QTBT/MTT-структуры для соответствующих компонентов цветности).

[0052] Видеокодер 200 и видеодекодер 300 могут быть выполнены с возможностью использовать сегментацию на основе дерева квадрантов согласно HEVC, QTBT-сегментацию, MTT-сегментацию либо другие структуры сегментации. Для целей пояснения, описание технологий этого раскрытия сущности представляется относительно QTBT-сегментации. Тем не менее, следует понимать, что технологии этого раскрытия сущности также могут применяться к видеокодерам, выполненным с возможностью использовать также сегментацию на основе дерева квадрантов или другие типы сегментации.

[0053] Блоки (например, CTU или CU) могут группироваться различными способами в кадр. В качестве одного примера, кирпич может означать прямоугольную область CTU-строк в конкретной плитке в кадре. Плитка может представлять собой прямоугольную область CTU в конкретном столбце плиток и конкретной строке плиток в кадре. Столбец плиток означает прямоугольную область CTU, имеющих высоту, равную высоте кадра, и ширину, указываемую посредством синтаксических элементов (например, в наборе параметров кадра). Строка плиток означает прямоугольную область CTU, указывающих высоту посредством синтаксических элементов (например, в наборе параметров кадра), и ширину, равную ширине кадра.

[0054] В некоторых примерах, плитка может сегментироваться на несколько кирпичей, каждый из которых может включать в себя одну или более CTU-строк внутри плитки. Плитка, которая не сегментируется на несколько кирпичей, также может называться "кирпичом". Тем не менее, кирпич, который представляет собой истинный поднабор плитки, может не называться "плиткой".

[0055] Кирпичи в кадре также могут размещаться в срезе. Срез может представлять собой целое число кирпичей кадра, которые могут содержаться исключительно в одной единице слоя абстрагирования от сети (NAL). В некоторых примерах, срез включает в себя либо определенное число полных плиток, либо только жесткую последовательность полных кирпичей одной плитки.

[0056] Это раскрытие сущности может использовать "NxN" и "N на N" взаимозаменяемо, чтобы ссылаться на размеры в выборках блока (к примеру, CU или другого видеоблока) с точки зрения размеров по вертикали и горизонтали, например, на выборки 16×16 или выборки 16 на 16. В общем, CU 16×16 должна иметь 16 пикселов в вертикальном направлении (y=16) и 16 пикселов в горизонтальном направлении (x=16). Аналогично, CU NxN, в общем, имеет N выборок в вертикальном направлении и N выборок в горизонтальном направлении, при этом N представляет неотрицательное целочисленное значение. Выборки в CU могут размещаться в строках и столбцах. Кроме того, CU не обязательно должны иметь идентичное число выборок в горизонтальном направлении и в вертикальном направлении. Например, CU могут содержать NxM выборок, причем M не обязательно равно N.

[0057] Видеокодер 200 кодирует видеоданные для CU, представляющих информацию прогнозирования и/или остаточную информацию и другую информацию. Информация прогнозирования указывает то, как CU должна прогнозироваться, чтобы формировать прогнозный блок для CU. Остаточная информация, в общем, представляет последовательные выборочные разности между выборками CU до кодирования и прогнозным блоком.

[0058] Чтобы прогнозировать CU, видеокодер 200, в общем, может формировать прогнозный блок для CU через взаимное прогнозирование или внутреннее прогнозирование. Взаимное прогнозирование, в общем, означает прогнозирование CU из данных ранее кодированного кадра, тогда как внутреннее прогнозирование, в общем, означает прогнозирование CU из ранее кодированных данных идентичного кадра. Чтобы выполнять взаимное прогнозирование, видеокодер 200 может формировать прогнозный блок с использованием одного или более векторов движения. Видеокодер 200, в общем, может выполнять поиск движения для того, чтобы идентифицировать опорный блок, который тесно совпадает с CU, например, с точки зрения разностей между CU и опорным блоком. Видеокодер 200 может вычислять разностный показатель с использованием суммы абсолютных разностей (SAD), суммы квадратов разности (SSD), средней абсолютной разности (MAD), среднеквадратических разностей (MSD) или других таких вычислений разности, чтобы определять то, совпадает или нет опорный блок тесно с текущей CU. В некоторых примерах, видеокодер 200 может прогнозировать текущую CU с использованием однонаправленного прогнозирования или двунаправленного прогнозирования.

[0059] Некоторые примеры JEM и VVC также предоставляют аффинный режим компенсации движения, который может считаться режимом взаимного прогнозирования. В аффинном режиме компенсации движения, видеокодер 200 может определять два или более векторов движения, которые представляют непоступательное движение в пространстве, такое как увеличение или уменьшение масштаба, вращение, перспективное движение или другие типы нерегулярного движения.

[0060] Чтобы выполнять внутреннее прогнозирование, видеокодер 200 может выбирать режим внутреннего прогнозирования для того, чтобы формировать прогнозный блок. Некоторые примеры JEM и VVC предоставляют шестьдесят семь режимов внутреннего прогнозирования, включающих в себя различные направленные режимы, а также планарный режим и DC-режим. В общем, видеокодер 200 выбирает режим внутреннего прогнозирования, который описывает соседние выборки относительно текущего блока (например, блока CU), из которых можно прогнозировать выборки текущего блока. Такие выборки, в общем, могут находиться выше, выше и слева или слева от текущего блока в идентичном кадре с текущим блоком, при условии, что видеокодер 200 кодирует CTU и CU в порядке растрового сканирования (слева направо, сверху вниз).

[0061] Видеокодер 200 кодирует данные, представляющие режим прогнозирования для текущего блока. Например, для режимов взаимного прогнозирования, видеокодер 200 может кодировать данные, представляющие то, какой из различных доступных режимов взаимного прогнозирования используется, а также информацию движения для соответствующего режима. Для однонаправленного или двунаправленного взаимного прогнозирования, например, видеокодер 200 может кодировать векторы движения с использованием усовершенствованного прогнозирования векторов движения (AMVP) или режима объединения. Видеокодер 200 может использовать аналогичные режимы для того, чтобы кодировать векторы движения для аффинного режима компенсации движения.

[0062] После прогнозирования, такого как внутреннее прогнозирование или взаимное прогнозирование блока, видеокодер 200 может вычислять остаточные данные для блока. Остаточные данные, такие как остаточный блок, представляют выборку посредством выборочных разностей между блоком и прогнозным блоком для блока, сформированных с использованием соответствующего режима прогнозирования. Видеокодер 200 может применять одно или более преобразований к остаточному блоку для того, чтобы формировать преобразованные данные в области преобразования вместо выборочной области. Результат преобразования для остаточного блока может представлять собой остаточный блок в области преобразования (также называемой "частотной областью"). Остаточный блок представляет собой пример TU, и в одном или более примеров, TU дополнительно может сегментироваться на множество суб-TU (например, остаточных субблоков).

[0063] В качестве одного примера, видеокодер 200 может применять дискретное косинусное преобразование (DCT), целочисленное преобразование, вейвлет-преобразование или концептуально аналогичное преобразование к остаточным видеоданным. Дополнительно, видеокодер 200 может применять вторичное преобразование после первого преобразования, такое как зависимое от режима неразделимое вторичное преобразование (MDNSST), зависимое от сигнала преобразование, преобразование Карунена-Лоэва (KLT) и т.п. Видеокодер 200 формирует коэффициенты преобразования после применения одного или более преобразований. Использование DCT предоставляется в качестве одного примера и не должно считаться ограничением. Могут быть предусмотрены другие типы преобразования, и примеры, описанные в этом раскрытии сущности, могут использовать один или более типов преобразования. Например, видеокодер 200 может быть выполнен с возможностью выбирать тип преобразования, который следует использовать для преобразования из выборочной области в область преобразования (например, частотную), и видеодекодер 300 может быть выполнен с возможностью выбирать тип преобразования, который следует использовать для преобразования (например, обратного преобразования) из области преобразования обратно в выборочную область. В некоторых примерах, видеокодер 200 может быть выполнен с возможностью выбирать, и видеодекодер 300 может быть выполнен с возможностью логически выводить тип преобразования, который следует использовать, на основе различных критериев таким образом, что видеокодер 200 и видеодекодер 300 выбирают идентичный тип преобразования. Посредством логического вывода типа преобразования, видеокодер 200, возможно, не должен явно передавать в служебных сигналах информацию, указывающую тип преобразования, и видеодекодер 300, возможно, не должен принимать информацию, указывающую тип преобразования.

[0064] Как отмечено выше, после преобразований для того, чтобы формировать коэффициенты преобразования, видеокодер 200 может выполнять квантование коэффициентов преобразования. Квантование, в общем, означает процесс, в котором коэффициенты преобразования квантуются, чтобы, возможно, уменьшать объем данных, используемых для того, чтобы представлять коэффициенты преобразования, обеспечивая дополнительное сжатие. Посредством выполнения процесса квантования, видеокодер 200 может уменьшать битовую глубину, ассоциированную с некоторыми или всеми коэффициентами преобразования. Например, видеокодер 200 может округлять n-битовое значение в меньшую сторону до m-битового значения во время квантования, где n превышает m. В некоторых примерах, чтобы выполнять квантование, видеокодер 200 может выполнять побитовый сдвиг вправо значения, которое должно квантоваться.

[0065] После квантования, видеокодер 200 может сканировать коэффициенты преобразования, формирующие одномерный вектор, из двумерной матрицы, включающей в себя квантованные коэффициенты преобразования. Сканирование может проектироваться с возможностью размещать коэффициенты преобразования с более высокой энергией (и в силу этого с более низкой частотой) в начале вектора и размещать коэффициенты преобразования с более низкой энергией (и в силу этого с более высокой частотой) в конце вектора. В некоторых примерах, видеокодер 200 может использовать предварительно заданный порядок сканирования для того, чтобы сканировать квантованные коэффициенты преобразования, чтобы формировать преобразованный в последовательную форму вектор, и затем энтропийно кодировать квантованные коэффициенты преобразования вектора. В других примерах, видеокодер 200 может выполнять адаптивное сканирование. После сканирования квантованных коэффициентов преобразования, чтобы формировать одномерный вектор, видеокодер 200 может энтропийно кодировать одномерный вектор, например, согласно контекстно-адаптивному двоичному арифметическому кодированию (CABAC). Видеокодер 200 также может энтропийно кодировать другие синтаксические элементы, описывающие метаданные, ассоциированные с кодированными видеоданными, для использования посредством видеодекодера 300 при декодировании видеоданных.

[0066] Чтобы выполнять CABAC, видеокодер 200 может назначать контекст в контекстной модели символу, который должен передаваться. Контекст может быть связан, например, с тем, являются соседние значения символа нульзначными или нет. Определение вероятности может быть основано на контексте, назначаемом символу.

[0067] Видеокодер 200 дополнительно может формировать синтаксические данные, к примеру, синтаксические данные на основе блоков, синтаксические данные на основе кадров и синтаксические данные на основе последовательностей, в видеодекодер 300, например, в заголовке кадра, заголовке блока, заголовке среза, либо другие синтаксические данные, к примеру, набор параметров последовательности (SPS), набор параметров кадра (PPS) или набор параметров видео (VPS). Видеодекодер 300 аналогично может декодировать такие синтаксические данные для того, чтобы определять то, как декодировать соответствующие видеоданные.

[0068] Таким образом, видеокодер 200 может формировать поток битов, включающий в себя кодированные видеоданные, например, синтаксические элементы, описывающие сегментацию кадра на блоки (например, CU), и информацию прогнозирования и/или остаточную информацию для блоков. В конечном счете, видеодекодер 300 может принимать поток битов и декодировать кодированные видеоданные.

[0069] В общем, видеодекодер 300 выполняет взаимообратный процесс относительно процесса, выполняемого посредством видеокодера 200, чтобы декодировать кодированные видеоданные потока битов. Например, видеодекодер 300 может декодировать значения для синтаксических элементов потока битов с использованием CABAC способом, практически аналогичным, хотя и взаимообратным, относительно процесса CABAC-кодирования видеокодера 200. Синтаксические элементы могут задавать сегментацию информации кадра на CTU и сегментацию каждой CTU согласно соответствующей структуре сегментации, такой как QTBT-структура, чтобы задавать CU CTU. Синтаксические элементы дополнительно могут задавать информацию прогнозирования и остаточную информацию для блоков (например, CU) видеоданных.

[0070] Остаточная информация может представляться, например, посредством квантованных коэффициентов преобразования. Видеодекодер 300 может обратно квантовать и обратно преобразовывать квантованные коэффициенты преобразования блока, чтобы воспроизводить остаточный блок для блока. Видеодекодер 300 использует передаваемый в служебных сигналах режим прогнозирования (внутреннее или взаимное прогнозирование) и связанную информацию прогнозирования (например, информацию движения для взаимного прогнозирования) для того, чтобы формировать прогнозный блок для блока. Видеодекодер 300 затем может комбинировать прогнозный блок и остаточный блок (на основе каждой выборки), чтобы воспроизводить исходный блок. Видеодекодер 300 может выполнять дополнительную обработку, такую как выполнение процесса удаления блочности, чтобы уменьшать визуальные артефакты вдоль границ блока.

[0071] В соответствии с технологиями этого раскрытия сущности, остаточный блок (например, TU) может сегментироваться для того, чтобы формировать множество остаточных субблоков (например, суб-TU). Например, TU может сегментироваться на одну из: четырех квадратных суб-TU (к примеру, сегментация на основе дерева квадрантов), двух прямоугольных суб-TU (к примеру, двоичная сегментация) или трех прямоугольных суб-TU (к примеру, троичная сегментация). Другой пример может представлять собой TU, сегментированную на четыре прямоугольных суб-TU. Кроме того, может быть предусмотрено множество различных типов преобразования (например, различные типы дискретных косинусных преобразований (DCT) и дискретных синусных преобразований (DST)).

[0072] Это раскрытие сущности описывает примерные способы, которыми видеокодер 200 может передавать в служебных сигналах, и видеодекодер 300 может определять то, сегментируется или нет остаточный блок (например, TU), и способ, которым сегментируется остаточный блок (например, определять тип дерева сегментации). Кроме того, это раскрытие сущности описывает примерные способы, которыми следует определять тип преобразования (также называемый "ядром преобразования"), который следует использовать.

[0073] Например, видеодекодер 300 может принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования. Видеодекодер 300 может определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множество остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации. Видеодекодер 300 может формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков. Видеодекодер 300 может декодировать текущий блок с использованием остаточных данных.

[0074] В другом примере, видеокодер 200 может определять то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков. Видеокодер 200 может кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется.

[0075] Это раскрытие сущности, в общем, может относиться к "передаче в служебных сигналах" определенной информации, такой как синтаксические элементы. Термин "передача служебных сигналов", в общем, может означать передачу значений для синтаксических элементов и/или других данных, используемых для того, чтобы декодировать кодированных видеоданные. Таким образом, видеокодер 200 может передавать в служебных сигналах значения для синтаксических элементов в потоке битов. В общем, передача служебных сигналов означает формирование значения в потоке битов. Как отмечено выше, исходное устройство 102 может транспортировать поток битов в целевое устройство 116 практически в реальном времени или не в реальном времени, к примеру, что может происходить при сохранении синтаксических элементов в устройство 112 хранения данных для последующего извлечения посредством целевого устройства 116.

[0076] Фиг. 2A и 2B является концептуальными схемами, иллюстрирующими примерную структуру 130 в виде дерева квадрантов и двоичного дерева (QTBT) и соответствующую единицу 132 дерева кодирования (CTU). Сплошные линии представляют разбиение на дерево квадрантов, и пунктирные линии указывают разбиение на двоичное дерево. В каждом разбитом (т.е. нелисте) узле двоичного дерева, один флаг передается в служебных сигналах, чтобы указывать то, какой тип разбиения (т.е. горизонтальное или вертикальное) используется, где 0 указывает горизонтальное разбиение, и 1 указывает вертикальное разбиение в этом примере. Для разбиения на дерево квадрантов, нет необходимости указывать тип разбиения, поскольку узлы дерева квадрантов разбивают блок горизонтально и вертикально на 4 субблока с равным размером. Соответственно, видеокодер 200 может кодировать, и видеодекодер 300 может декодировать синтаксические элементы (к примеру, информацию разбиения) для древовидного уровня области QTBT-структуры 130 (т.е. сплошные линии) и синтаксические элементы (к примеру, информацию разбиения) для древовидного уровня прогнозирования QTBT-структуры 130 (т.е. пунктирные линии). Видеокодер 200 может кодировать, и видеодекодер 300 может декодировать видеоданные, такие как данные прогнозирования и преобразования, для CU, представленных посредством терминальных узлов-листьев QTBT-структуры 130.

[0077] В общем, CTU 132 по фиг. 2B может быть ассоциирована с параметрами, задающими размеры блоков, соответствующих узлам QTBT-структуры 130 на первом и втором уровнях. Эти параметры могут включать в себя CTU-размер (представляющий размер CTU 132 в выборках), минимальный размер дерева квадрантов (MinQTSize, представляющий минимальный разрешенный размер узлов-листьев дерева квадрантов), максимальный размер двоичного дерева (MaxBTSize, представляющий максимальный разрешенный размер корневых узлов двоичного дерева), максимальную глубину двоичного дерева (MaxBTDepth, представляющий максимальную разрешенную глубину двоичного дерева) и минимальный размер двоичного дерева (MinBTSize, представляющий минимальный разрешенный размер узлов-листьев двоичного дерева).

[0078] Корневой узел QTBT-структуры, соответствующей CTU, может иметь четыре дочерних узла на первом уровне QTBT-структуры, каждый из которых может сегментироваться согласно сегментации на основе дерева квадрантов. Таким образом, узлы первого уровня либо представляют собой узлы-листья (имеющие дочерние узлы), либо имеют четыре дочерних узла. Пример QTBT-структуры 130 представляет такие узлы как включающие в себя родительский узел и дочерние узлы, имеющие сплошные линии для ветвей. Если узлы первого уровня не превышают максимальный разрешенный размер корневых узлов двоичного дерева (MaxBTSize), то узлы дополнительно могут сегментироваться посредством соответствующих двоичных деревьев. Разбиение на двоичное дерево одного узла может обрабатываться с помощью итераций до тех пор, пока узлы, получающиеся в результате разбиения, не достигают минимального разрешенного размера узлов-листьев двоичного дерева (MinBTSize) или максимальной разрешенной глубины двоичного дерева (MaxBTDepth). Пример QTBT-структуры 130 представляет такие узлы как имеющие пунктирные линии для ветвей. Узел-лист двоичного дерева называется "единицей кодирования (CU)", которая используется для прогнозирования (например, внутрикадрового или межкадрового прогнозирования) и преобразования, без дальнейшей сегментации. Как пояснено выше, CU также могут называться "видеоблоками" или "блоками".

[0079] В одном примере QTBT-структуры сегментации, CTU-размер задается как 128×128 (выборки сигнала яркости и две соответствующих выборки сигнала цветности 64×64), MinQTSize задается как 16×16, MaxBTSize задается как 64×64, MinBTSize (для ширины и высоты) задается как 4, и MaxBTDepth задается как 4. Сегментация на основе дерева квадрантов применяется к CTU сначала, чтобы формировать узлы-листья дерева квадрантов. Узлы-листья дерева квадрантов могут иметь размер от 16×16 (т.е. от MinQTSize) до 128×128 (т.е. до CTU-размера). Если узел-лист дерева квадрантов представляет собой 128×128, то узел-лист дерева квадрантов не должен дополнительно разбиваться посредством двоичного дерева, поскольку размер превышает MaxBTSize (т.е. 64×64, в этом примере). В противном случае, узел-лист дерева квадрантов дополнительно сегментируется посредством двоичного дерева. Следовательно, узел-лист дерева квадрантов также представляет собой корневой узел для двоичного дерева и имеет глубину двоичного дерева в 0. Когда глубина двоичного дерева достигает MaxBTDepth (4, в этом примере), дополнительное разбиение не разрешается. Когда узел двоичного дерева имеет ширину, равную MinBTSize (4, в этом примере), это подразумевает то, что дополнительное горизонтальное разбиение не разрешается. Аналогично, узел двоичного дерева, имеющий высоту, равную MinBTSize, подразумевает то, что дополнительное вертикальное разбиение не разрешается для этого узла двоичного дерева. Как отмечено выше, узлы-листья двоичного дерева называются "CU" и дополнительно обрабатываются согласно прогнозированию и преобразованию без дополнительной сегментации.

[0080] Как описано выше, видеокодер 200 может применять одно или более преобразований к остаточному блоку для того, чтобы формировать преобразованные данные в области преобразования вместо выборочной области (например, чтобы формировать остаточный блок в области преобразования). Далее описываются примеры преобразований, такие как дискретное синусное преобразование (DST) и дискретное косинусное преобразование (DCT). Также описывается схема преобразования, используемая в HEVC.

[0081] Преобразование указывает процесс извлечения альтернативного представления входного сигнала. С учетом N-точечного вектора x=[x₀, x₁, …, x_N-1]^T и набора данных векторов {ϕ₀, ϕ₁, …, ϕ_M-1}, x может аппроксимироваться или точно представляться с использованием линейного комбинирования ϕ₀, ϕ₁, …, ϕ_M-1, что может формулироваться следующим образом:

[0082] Выше, может быть аппроксимацией или эквивалентом x. Вектор f=[f_i, f₂, …, f_M-1] называется "вектором коэффициентов преобразования", и {ϕ₀, ϕ₁, …, ϕ_M-1} являются базисными векторами преобразования.

[0083] В сценарии кодирования видео, коэффициенты преобразования приблизительно являются некоррелированными и разреженными. Например, энергия входного вектора x уплотняется только для нескольких коэффициентов преобразования, и большинство оставшихся коэффициентов преобразования типично составляют близко 0.

[0084] Входные данные для преобразования, используемого посредством видеокодера 200 и видеодекодера 300, могут отличаться. Например, для видеокодера 200, входные данные, которые преобразуются, представляют собой остаточные данные для того, чтобы формировать блок коэффициентов преобразования посредством преобразования значений пространственной области остатка в значения в частотной области (например, значения коэффициентов) блока коэффициентов преобразования. Для видеодекодера 300, входные данные, который преобразуется, представляют собой блок коэффициентов преобразования (например, возможно после деквантования) для того, чтобы формировать остаточные данные посредством преобразования значений в частотной области блока коэффициентов преобразования в значения пространственной области остатка. Поскольку видеодекодер 300 выполняет инверсию процесса видеокодера 200, преобразование, выполняемое посредством видеодекодера 300, может рассматриваться как обратное преобразование. Для простоты, раскрытие сущности описывает преобразования входных данных с пониманием того, что входные данные отличаются для видеокодера 200 и видеодекодера 300, и того, что преобразование посредством видеодекодера 300 может представлять собой инверсию преобразования видеокодера 200.

[0085] С учетом конкретных входных данных, оптимальное преобразование с точки зрения энергетического уплотнения представляет собой так называемое преобразование Карунена-Лоэва (KLT), которое использует собственные векторы ковариационной матрицы входных данных в качестве базисных векторов преобразования. Следовательно, KLT представляет собой зависимое от данных преобразование и не имеет общей математической формулировки. Тем не менее, при определенных допущениях (например, если входные данные формируют стационарные марковские процессы первого порядка), соответствующее KLT фактически представляет собой члена синусоидального семейства унитарных преобразований, которое вводится в заявке (США) № 16/426749, поданной 30 мая 2019 года, авторов H. E. Egilmez, Y.-H. Chao, A. Said, V. Seregin и M. Karczewicz "Adaptive multiple transforms with reduced signaling overhead". Синусоидальное семейство унитарных преобразований указывает преобразования с использованием базисных векторов преобразования, формулируемых следующим образом:

ϕ_m(k)=A*e^ikθ+B*e^-ikθ

[0086] Выше, e является основанием натурального логарифма, приблизительно равным 2,71828, A, B и θ являются комплексными, в общем, и зависят от значения m.

[0087] Несколько известных преобразований, включающих в себя дискретное преобразование Фурье, косинусоидальное преобразование, синусоидальное преобразование и KLT-преобразование (для стационарных марковских процессов первого порядка), представляют собой членов этого синусоидального семейства унитарных преобразований. Согласно работе Jain A.K. "A sinusoidal family of unitary transforms", IEEE Trans. on Pattern Analysis and Machine Intelligence, 1, 356, 1979 год, полный набор семейств дискретного косинусного преобразования (DCT) и дискретного синусного преобразования (DST) включает в себя всего 16 преобразований на основе различных типов (т.е. различных значений A, B и θ), и полное определение различных типов DCT и DST приводится ниже.

[0088] Допустим, что входной N-точечный вектор обозначается как x=[x₀, x₁, …, x_N-1]^T, и он преобразуется в другой N-точечный вектор коэффициентов преобразования, обозначаемый как y=[y₀, y₁, …, y_N-1]^T, посредством умножения матрицы, процесс чего дополнительно может иллюстрироваться согласно одному из следующих формулирований преобразования, при этом k находится в диапазоне от 0 до N-1, включительно:

DCT-тип I (DCT-1):

,

где .

DCT-тип II (DCT-2):

,

где

[0089] DCT-тип III (DCT-3):

,

где

DCT-тип IV (DCT-4):

,

DCT-тип V (DCT-5):

,

где .

DCT-тип VI (DCT-6):

,

где .

DCT-тип VII (DCT-7):

,

где .

DCT-тип VIII (DCT-8):

,

DST-тип I (DST-1):

,

DST-тип II (DST-2):

,

где

DST-тип III (DST-3):

,

где

DST-тип IV (DST-4):

,

DST-тип V (DST-5):

,

DST-тип VI (DST-6):

,

DST-тип VII (DST-7):

,

DST-тип VIII (DST-8):

,

где

[0090] Тип преобразования указывается посредством математической формулировки базисной функции преобразования, например, 4-точечное DST-VII и 8-точечное DST-VII имеют идентичный тип преобразования, независимо от значения N.

[0091] Без потери общности, все вышеуказанные типы преобразования могут представляться с использованием нижеприведенного обобщенного формулирования:

,

[0092] В вышеприведенном уравнении, T является матрицей преобразования, указываемой посредством определения одного определенного преобразования, например, DCT-тип I ~ DCT-тип VIII или DST-тип I ~ DST-тип VIII, и векторы-строки T, например, [T_i,0, T_i,1, T_i,2, …, T_{i, N-1}] являются i-ми базисными векторами преобразования. Преобразование, применяемое к N-точечному входному вектору, называется "N-точечным преобразованием".

[0093] Также следует отметить, что вышеприведенные формулирования преобразования, которые применяются к одномерным входным данным x, могут представляться в форме матричного умножения, как пояснено ниже:

[0094] В вышеприведенном уравнении, T указывает матрицу преобразования, x указывает вектор входных данных, и y указывает выходной вектор коэффициентов преобразования.

[0095] Далее описывается преобразование для двумерных входных данных. Преобразования, описанные выше, может применяться к одномерным входным данным, и преобразования также могут расширяться на источники двумерных входных данных. Например, предположим, что X является входным массивом данных MxN. Некоторые способы применения преобразования для двумерных входных данных включают в себя разделимые и неразделимые двумерные преобразования.

[0096] Разделимое двумерное преобразование применяет одномерные преобразования для горизонтальных и вертикальных векторов X последовательно, что формулируется так, как указано ниже:

[0097] В вышеприведенном уравнении, C и R обозначают данные матрицы преобразования MxM и NxN, соответственно. Из формулирования, C применяет одномерные преобразования для векторов-столбцов X, в то время как R применяет одномерные преобразования для векторов-строк X. В этом раскрытии сущности, для простоты C и R обозначаются в качестве левого (вертикального) и правого (горизонтального) преобразований, и они формируют пару преобразований. Возникают случаи, когда C равно R и является ортогональной матрицей. В таком случае, разделимое двумерное преобразование определяется посредством всего одной матрицы преобразования.

[0098] Неразделимое двумерное преобразование сначала реорганизует все элементы X в один вектор, а именно, X', посредством выполнения следующего математического преобразования в качестве примера:

[0099] Затем одномерное преобразование T' применяется для X', как указано ниже:

[0100] В вышеприведенном уравнении, T' является матрицей преобразования (M*N)x(M*N).

[0101] При кодировании видео, всегда применяются разделимые двумерные преобразования, поскольку двумерные преобразования требуют гораздо меньшего количества чисел операций (суммирования, умножения) по сравнению с одномерным преобразованием.

[0102] Далее описывается типы преобразования, применяемые в HEVC. В некоторых видеокодеках, к примеру, H.264/AVC, целочисленная аппроксимация 4-точечного и 8-точечного дискретного косинусного преобразования (DCT) тип II всегда применяется для остатка внутреннего и взаимного прогнозирования. Чтобы лучше приспосабливать различную статистику остаточных выборок, более гибкие типы преобразований, отличные от DCT-типа II, используются в видеокодеке последующего поколения. Например, в HEVC, целочисленная аппроксимация 4-точечного дискретного синусного преобразования (DST) типа-VII используется для остатка внутреннего прогнозирования, при этом в работе S.A. Martucci "Symmetric convolution and the discrete sine and cosine transforms", IEEE Trans. Sig. Processing, 1038-1051 (1994 год) теоретически доказывается и экспериментально проверяется то, что DST-тип VII является более эффективным, чем DCT-тип II для остаточных векторов, сформированных вдоль направлений внутреннего прогнозирования (например, DST-тип VII является более эффективным, чем DCT-тип II для остаточных векторов-строк, сформированных посредством направления горизонтального внутреннего прогнозирования). В HEVC, целочисленная аппроксимация 4-точечного DST-типа VII применяется только для остаточных блоков внутреннего прогнозирования сигналов яркости 4×4. 4-точечное DST-VII, используемое в HEVC, показывается ниже:

DST-VII 4×4:

{29, 55, 74, 84}

{74, 74, 0, -74}

{84, -29, -74, 55}

{55, -84, 74, -29}

[0103] В HEVC, для остаточных блоков, которые не представляют собой остаточные блоки внутреннего прогнозирования сигналов яркости 4×4, целочисленные аппроксимации 4-точечного, 8-точечного, 16-точечного и 32-точечного DCT-типа II также применяются, как показано ниже:

4-точечное DCT-II:

{64, 64, 64, 64}

{83, 36,-36,-83}

{64,-64,-64, 64}

{36,-83, 83,-36}

8-точечное DCT-II:

{64, 64, 64, 64, 64, 64, 64, 64}

{89, 75, 50, 18,-18,-50,-75,-89}

{83, 36,-36,-83,-83,-36, 36, 83}

{75,-18,-89,-50, 50, 89, 18,-75}

{64,-64,-64, 64, 64,-64,-64, 64}

{50,-89, 18, 75,-75,-18, 89,-50}

{36,-83, 83,-36,-36, 83,-83, 36}

{18,-50, 75,-89, 89,-75, 50,-18}

16-точечное DCT-II:

{64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64}

{90, 87, 80, 70, 57, 43, 25, 9, -9,-25,-43,-57,-70,-80,-87,-90}

{89, 75, 50, 18,-18,-50,-75,-89,-89,-75,-50,-18, 18, 50, 75, 89}

{87, 57, 9,-43,-80,-90,-70,-25, 25, 70, 90, 80, 43, -9,-57,-87}

{83, 36,-36,-83,-83,-36, 36, 83, 83, 36,-36,-83,-83,-36, 36, 83}

{80, 9,-70,-87,-25, 57, 90, 43,-43,-90,-57, 25, 87, 70, -9,-80}

{75,-18,-89,-50, 50, 89, 18,-75,-75, 18, 89, 50,-50,-89,-18, 75}

{70,-43,-87, 9, 90, 25,-80,-57, 57, 80,-25,-90, -9, 87, 43,-70}

{64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64}

{57,-80,-25, 90, -9,-87, 43, 70,-70,-43, 87, 9,-90, 25, 80,-57}

{50,-89, 18, 75,-75,-18, 89,-50,-50, 89,-18,-75, 75, 18,-89, 50}

{43,-90, 57, 25,-87, 70, 9,-80, 80, -9,-70, 87,-25,-57, 90,-43}

{36,-83, 83,-36,-36, 83,-83, 36, 36,-83, 83,-36,-36, 83,-83, 36}

{25,-70, 90,-80, 43, 9,-57, 87,-87, 57, -9,-43, 80,-90, 70,-25}

{18,-50, 75,-89, 89,-75, 50,-18,-18, 50,-75, 89,-89, 75,-50, 18}

{9, -25, 43,-57, 70,-80, 87,-90, 90,-87, 80,-70, 57,-43, 25, -9}

32-точечное DCT-II:

{64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,6,64,64,64,64}

{90,90,88,85,82,78,73,67,61,54,46,38,31,22,13,4,-4,-13,-22,-31,-38,-46,-54,-61,-67,-73,-78,-82,-85,-88,-90,-90}

{90,87,80,70,57,43,25,9,-9,-25,-43,-57,-70,-80,-87,-90,-90,-87,-80,-70,-57,-43,-25,-9,9,25,43,57,70,80,87,90}

{90,82,67,46,22,-4,-31,-54,-73,-85,-90,-88,-78,-61,-38,-13,13,38,61,78,88,90,85,73,54,31,4,-22,-46,-67,-82,-90}

{89,75,50,18,-18,-50,-75,-89,-89,-75,-50,-18,18,50,75,89,89,75,50,18,-18,-50,-75,-89,-89,-75,-50,-18,18,50,75,89}

{88,67,31,-13,-54,-82,-90,-78,-46,-4,38,73,90,85,61,22,-22,-61,-85,-90,-73,-38,4,46,78,90,82,54,13,-31,-67,-88}

{87,57,9,-43,-80,-90,-70,-25,25,70,90,80,43,-9,-57,-87,-87,-57,-9,43,80,90,70,25,-25,-70,-90,-80,-43,9,57,87}

{85,46,-13,-67,-90,-73,-22,38,82,88,54,-4,-61,-90,-78,-31,31,78,90,61,4,-54,-88,-82,-38,22,73,90,67,13,-46,-85}

{83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83}

{82,22,-54,-90,-61,13,78,85,31,-46,-90,-67,4,73,88,38,-38,-88,-73,-4,67,90,46,-31,-85,-78,-13,61,90,54,-22,-82}

{80,9,-70,-87,-25,57,90,43,-43,-90,-57,25,87,70,-9,-80,-80,-9,70,87,25,-57,-90,-43,43,90,57,-25,-87,-70,9,80}

{78,-4,-82,-73,13,85,67,-22,-88,-61,31,90,54,-38,-90,-46,46,90,38,-54,-90,-31,61,88,22,-67,-85,-13,73,82,4,-78}

{75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75,75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75}

{73,-31,-90,-22,78,67,-38,-90,-13,82,61,-46,-88,-4,85,54,-54,-85,4,88,46,-61,-82,13,90,38,-67,-78,22,90,31,-73}

{70,-43,-87,9,90,25,-80,-57,57,80,-25,-90,-9,87,43,-70,-70,43,87,-9,-90,-25,80,57,-57,-80,25,90,9,-87,-43,70}

{67,-54,-78,38,85,-22,-90,4,90,13,-88,-31,82,46,-73,-61,61,73,-46,-82,31,88,-13,-90,-4,90,22,-85,-38,78,54,-67}

{64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64}

{61,-73,-46,82,31,-88,-13,90,-4,-90,22,85,-38,-78,54,67,-67,-54,78,38,-85,-22,90,4,-90,13,88,-31,-82,46,73,-61}

{57,-80,-25,90,-9,-87,43,70,-70,-43,87,9,-90,25,80,-57,-57,80,25,-90,9,87,-43,-70,70,43,-87,-9,90,-25,-80,57}

{54,-85,-4,88,-46,-61,82,13,-90,38,67,-78,-22,90,-31,-73,73,31,-90,22,78,-67,-38,90,-13,-82,61,46,-88,4,85,-54}

{50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50,50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50}

{46,-90,38,54,-90,31,61,-88,22,67,-85,13,73,-82,4,78,-78,-4,82,-73,-13,85,-67,-22,88,-61,-31,90,-54,-38,90,-46}

{43,-90,57,25,-87,70,9,-80,80,-9,-70,87,-25,-57,90,-43,-43,90,-57,-25,87,-70,-9,80,-80,9,70,-87,25,57,-90,43}

{38,-88,73,-4,-67,90,-46,-31,85,-78,13,61,-90,54,22,-82,82,-22,-54,90,-61,-13,78,-85,31,46,-90,67,4,-73,88,-38}

{36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36}

{31,-78,90,-61,4,54,-88,82,-38,-22,73,-90,67,-13,-46,85,-85,46,13,-67,90,-73,22,38,-82,88,-54,-4,61,-90,78,-31}

{25,-70,90,-80,43,9,-57,87,-87,57,-9,-43,80,-90,70,-25,-25,70,-90,80,-43,-9,57,-87,87,-57,9,43,-80,90,-70,25}

{22,-61,85,-90,73,-38,-4,46,-78,90,-82,54,-13,-31,67,-88,88,-67,31,13,-54,82,-90,78,-46,4,38,-73,90,-85,61,-22}

{18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18,18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18}

{13,-38,61,-78,88,-90,85,-73,54,-31,4,22,-46,67,-82,90,-90,82,-67,46,-22,-4,31,-54,73,-85,90,-88,78,-61,38,-13}

{9,-25,43,-57,70,-80,87,-90,90,-87,80,-70,57,-43,25,-9,-9,25,-43,57,-70,80,-87,90,-90,87,-80,70,-57,43,-25,9}

{4,-13,22,-31,38,-46,54,-61,67,-73,78,-82,85,-88,90,-90,90,-90,88,-85,82,-78,73,-67,61,-54,46,-38,31,-22,13,-4}

[0104] Фиг. 3A и 3B являются концептуальными схемами, иллюстрирующими примерную схему преобразования на основе остаточного дерева квадрантов HEVC. В HEVC, структура кодирования с преобразованием с использованием остаточного дерева квадрантов (RQT) применяется, чтобы адаптировать различные характеристики остаточных блоков, что вкратце описывается в работе авторов J. Han, A. Saxena и K. Rose "Towards jointly optimal spatial prediction and adaptive transform in video/image coding", IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), март 2010 года, стр. 726-729. Дополнительная информация относительно RQT доступна по адресу: http://www.hhi.fraunhofer.de/fields-of-competence/image-processing/research-groups/image-video-coding/hevc-high-efficiency-video-coding/transform-coding-using-the-residual-quadtree-rqt.html.

[0105] В RQT каждый кадр разделяется на единицы дерева кодирования (CTU), которые кодируются в порядке растрового сканирования для конкретной плитки или среза. CTU представляет собой квадратный блок и представляет корень дерева квадрантов, т.е. дерева кодирования. CTU-размер может варьироваться от 8×8 до 64×64 выборок сигнала яркости, но типично используется 64×64. Каждая CTU дополнительно может разбиваться на меньшие квадратные блоки, называемые "единицами кодирования (CU)". После того, как CTU разбивается рекурсивно на CU, каждая CU дополнительно разделяется на единицы прогнозирования (PU) и единицы преобразования (TU). Сегментация CU на TU выполняется рекурсивно на основе подхода на основе дерева квадрантов, в силу чего остаточный сигнал каждой CU кодируется посредством древовидной структуры, а именно, остаточного дерева квадрантов (RQT). RQT обеспечивает возможность TU-размеров от 4×4 вплоть до 32×32 выборок сигнала яркости.

[0106] Фиг. 3A иллюстрирует пример, в котором CU 134 включает в себя 10 TU, помеченных буквами a-j, и соответствующую сегментацию на блоки. Каждый узел RQT 136, показанного на фиг. 3B, фактически представляет собой единицу преобразования (TU), соответствующую фиг. 3A. Отдельные TU обрабатываются в порядке прохождения по дереву в глубину, который проиллюстрирован на фиг. 3A, в качестве алфавитного порядка, который соответствует рекурсивному Z-сканированию с прохождением в глубину. Подход на основе дерева квадрантов обеспечивает адаптацию преобразования к варьирующимся пространственно-частотным характеристикам остаточного сигнала.

[0107] Типично, большие размеры блоков преобразования, которые имеют большую пространственную поддержку, предоставляют лучшее частотное разрешение. Тем не менее, меньшие размеры блоков преобразования, которые имеют меньшую пространственную поддержку, предоставляют лучшее пространственное разрешение. Компромисс между этими ними, пространственным и частотным разрешениями, выбирается посредством решения по выбору режима для кодера, например, на основе технологии оптимизации искажения в зависимости от скорости передачи. Технология оптимизации искажения в зависимости от скорости передачи вычисляет взвешенную сумму битов кодирования и искажения при восстановлении, т.е. функции затрат на искажение в зависимости от скорости передачи, для каждого режима кодирования (например, конкретной структуры RQT-разбиения), и выбирает режим кодирования с наименьшим функцией затрат на искажение в зависимости от скорости передачи в качестве оптимального режима.

[0108] Три параметра задаются в RQT: максимальная глубина дерева, минимальный разрешенный размер преобразования и максимальный разрешенный размер преобразования. Минимальны и максимальный размеры преобразования могут варьироваться в диапазоне от 4×4 до 32×32 выборок, которые соответствуют поддерживаемым блочным преобразованиям, упомянутым в предыдущем параграфе. Максимальная разрешенная глубина RQT ограничивает число TU. Максимальная глубина, равная нулю, означает то, что блок кодирования (CB) не может разбиваться дальше, если каждая включенная TB достигает максимального разрешенного размера преобразования, например, 32×32.

[0109] Все эти параметры взаимодействуют и оказывают влияние на RQT-структуру. Рассмотрим случай, в котором корневой CB-размер составляет 64×64, максимальная глубина равна нулю, и максимальный размер преобразования равен 32×32. В этом случае, CB должен сегментироваться, по меньшей мере, один раз, поскольку в противном случае это должно приводить к TB 64×64, что не разрешается. RQT-параметры, т.е. максимальная RQT-глубина, минимальный и максимальный размер преобразования, передаются в потоке битов на уровне наборов параметров последовательности. Относительно RQT-глубины, различные значения могут указываться и передаваться в служебных сигналах для внутренних и взаимно кодированных CU.

[0110] Преобразование на основе дерева квадрантов применяется для внутренних и взаимных остаточных блоков. Типично, DCT-II-преобразование идентичного размера текущего сегмента остаточного дерева квадрантов применяется для остаточного блока. Тем не менее, если текущий блок остаточного дерева квадрантов составляет 4×4 и формируется посредством внутреннего прогнозирования, применяется вышеуказанное DST-VII-преобразование 4×4.

[0111] В HEVC, преобразования большего размера, например, преобразование 64×64, не приспосабливаются главным образом вследствие фактора своего ограниченного преимущества и относительно высокой сложности для видео относительно меньшего разрешения.

[0112] Фиг. 4 является блок-схемой, иллюстрирующей примерную систему 140 для гибридного кодирования видео с адаптивным выбором преобразования. Примерные технологии, описанные в этом раскрытии сущности, являются применимыми к типичной схеме кодирования адаптивного преобразования, показанной на фиг. 4, в которой для каждого блока остатков прогнозирования, различные преобразования могут выбираться посредством кодера, и выбор преобразования кодируется как вспомогательная информация для передачи служебных сигналов.

[0113] В этом примере, система 140 включает в себя модуль 142 разделения на блоки, модуль 144 блочного преобразования, модуль 146 квантования, модуль 148 блочного прогнозирования, гребенку 150 преобразований, модуль 152 энтропийного кодирования, буфер 154 кинокадров, модуль 156 обратного преобразования, модуль 158 обратного квантования, модуль 160 формирования остатков и модуль 162 блочного воспроизведения.

[0114] В общем, модуль 142 разделения на блоки формирует блоки из кадра (т.е. кинокадра) видеоданных. Модуль 148 блочного прогнозирования формирует блок (p) прогнозирования для текущего блока, и модуль 160 формирования остатков формирует остаточный блок (r) из текущего (некодированного) блока и блока (p) прогнозирования. Буфер 154 кинокадров (также называется "буфером декодированных кадров (DPB)") сохраняет декодированные данные текущего кадра и ранее декодированных кинокадров, если таковые имеются. Модуль 148 блочного прогнозирования может формировать блок прогнозирования из ранее декодированных данных одного или более кадров, сохраненных в буфере 154 кинокадров.

[0115] Модуль 144 блочного преобразования применяет одно или более преобразований (T^(t)) к остаточному блоку, включающему в себя остаточные данные в пространственной области, чтобы формировать блок преобразования (T^(t)r), который представляет остаточные данные в частотной области. Преобразование (T^(t)), например, может представлять собой дискретное косинусное преобразование (DCT), дискретное синусное преобразование (DST), горизонтальные и/или вертикальные преобразования, преобразования Карунена-Лоэва (KLT) либо любое другое такое преобразование. Модуль 144 блочного преобразования предоставляет блок преобразования (T^(t)r) в модуль 146 квантования и индикатор (t) преобразования в гребенку 150 преобразований и модуль 152 энтропийного кодирования. Гребенка 150 преобразований предоставляет одну или более матриц преобразования в модуль 144 блочного преобразования и модуль 156 обратного преобразования.

[0116] В соответствии с технологиями этого раскрытия сущности, модуль 144 блочного преобразования может сегментировать остаточный блок текущего блока согласно типу дерева сегментации, к примеру, согласно одному из следующего: сегментация на основе дерева квадрантов, сегментация на основе двоичного дерева, сегментация на основе троичного дерева или сегментация на 4 TU, как пояснено ниже, на множество остаточных субблоков, и модуль блочного преобразования может предоставлять индикатор сегментации остаточного блока в модуль 152 энтропийного кодирования.

[0117] Модуль 146 квантования квантует коэффициенты преобразования блока преобразования и предоставляет квантованный блок преобразования в модуль 152 энтропийного кодирования и модуль 158 обратного квантования. Модуль 152 энтропийного кодирования кодирует представление синтаксических элементов, например, индикатор (t) преобразования, квантованные коэффициенты преобразования, информацию прогнозирования (например, режим прогнозирования и соответствующую информацию, такую как местоположение опорных данных, которые должны использоваться в режиме прогнозирования, например, информацию движения для взаимного прогнозирования).

[0118] Модуль 152 энтропийного кодирования может использовать технологии этого раскрытия сущности, чтобы энтропийно кодировать синтаксические элементы, представляющие, для остаточного блока то, сегментируется или нет остаточный блок, и если остаточный блок сегментируется, то, как остаточный блок сегментируется. Модуль 152 энтропийного кодирования может кодировать для остаточного блока флаг, который передает в служебных сигналах то, сегментируется или нет остаточный блок. Когда остаточный блок сегментируется на множество субблоков, модуль 152 энтропийного кодирования также может кодировать значение индекса, которое указывает тип сегментации для остаточного блока. Например, модуль 144 блочного преобразования может быть выполнен с возможностью конструировать список, который включает в себя информацию для набора типов деревьев. Набор типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева. Набор типов деревьев также может включать в себя сегментацию на основе троичного дерева и сегментацию на 4 TU. Ниже подробнее описывается пример другого типа деревьев. Модуль 144 блочного преобразования может определять значение индекса, которое идентифицирует тип сегментации из набора типов деревьев, и модуль энтропийного кодирования 152 может кодировать значение индекса. Модуль 152 энтропийного кодирования также может кодировать любую другую информацию сегментации для остаточного блока, такую как то, остаточный блок горизонтально или вертикально сегментируется, то, является сегмент симметричным или асимметричным, и т.п.

[0119] Модуль 158 обратного квантования может обратно квантовать (т.е. деквантовать) квантованные коэффициенты преобразования, принимаемые из модуля 146 квантования. Модуль 156 обратного преобразования может определять сегментацию остаточных блоков на основе энтропийно кодированных синтаксических элементов, которые указывают то, сегментируется или нет блок сегментов, и то, как он сегментируется, чтобы определять сегментацию остаточного блока, и может применять схему обратного преобразования к коэффициентам преобразования, принимаемым из модуля 158 обратного квантования для того, чтобы воспроизводить остаточный блок (r') для текущего блока. Модуль 162 блочного воспроизведения дополнительно комбинирует блок (p) прогнозирования из модуля 148 блочного прогнозирования с воспроизведенным остаточным блоком (r') для того, чтобы формировать декодированный блок, который сохраняется в буфере 154 кинокадров.

[0120] Технологии этого раскрытия сущности могут выполняться посредством системы 140 или соответствующей системы декодирования. В общем, технологии этого раскрытия сущности являются применимыми к схеме кодирования адаптивного преобразования, в которой, для каждого блока остатков прогнозирования, различные преобразования могут выбираться посредством видеокодера 200, передаваться в служебных сигналах в качестве вспомогательной информации и определяться посредством видеодекодера 300 с использованием вспомогательной информации. Вспомогательная информация представляет собой один пример и не должна считаться ограничением.

[0121] На практике, чтобы уменьшать вычислительную сложность, блочные преобразования обычно вычисляются разделимым способом, т.е. горизонтальные и вертикальные линии преобразуются независимо, как показано на фиг. 5A и 5B. Фиг. 5A и 5B являются концептуальными схемами, иллюстрирующими горизонтальные и вертикальные преобразования в качестве раздельной реализации преобразований. Фиг. 5A представляет набор из H горизонтальных преобразований 170, в то время как фиг. 5B представляет набор из W вертикальных преобразований 172. В частности, горизонтальные и вертикальные линии остаточных значений могут преобразовываться независимо с использованием горизонтальных преобразований 170 и вертикальных преобразований 172, соответственно.

[0122] В стандартах кодирования видео до HEVC, используется только фиксированное разделимое преобразование, при котором DCT-2 используется как вертикально, так и горизонтально. В HEVC, в дополнение к DCT-2, DST-7 также используется для блоков 4×4 в качестве фиксированного разделимого преобразования. Публикация патента (США) № 2016/0219290 и публикация патента (США) № 2018/0020218 относятся к адаптивным расширениям этих фиксированных преобразований, и пример AMT в публикации патента (США) № 2016/0219290 приспособлен в объединенной экспериментальной модели (JEM) Объединенной экспертной группы по видеостандартам (JVET) из работы авторов X. Zhao, J. Chen, M. Karczewicz, L. Zhang, X. Li and W.-J. Chien "Enhanced multiple transform for video coding", Proc. Data Compression Conference, стр. 73-82, март 2016 года.

[0123] Проектные AMT-решения, описанные в публикации патента (США) № 2016/0219290 и в публикации патента (США) № 2018/0020218, предлагают 5 вариантов преобразования для видеокодера 200 для выбора в расчете на блок (этот выбор, в общем, проводится на основе показателя искажения в зависимости от скорости передачи). Затем индекс выбранного преобразования передается в служебных сигналах в видеодекодер 300.

[0124] Фиг. 6 является концептуальной схемой, иллюстрирующей передачу служебных сигналов преобразования. Например, фиг. 6 иллюстрирует передачу служебных сигналов, предложенную в публикации патента (США) № 2016/0219290 и в публикации патента (США) № 2018/0020218, при которой 1 бит используется для того, чтобы передавать в служебных сигналах преобразование по умолчанию, и 2 дополнительных бита (т.е. 3 бита всего) используются для того, чтобы передавать в служебных сигналах 4 преобразования. Например, одно из пяти преобразований (преобразований по умолчанию) передается в служебных сигналах с использованием 0 (т.е. 1 бита), и другие четыре преобразования передаются в служебных сигналах с использованием 3 битов (т.е. 100, 101, 110 и 111).

[0125] В публикации патента (США) № 2016/0219290 и в публикации патента (США) № 2018/0020218, преобразование по умолчанию выбирается в качестве разделимого двумерного DCT, которое применяет DCT-2 как вертикально, так и горизонтально. Остальная часть AMT задается на основе информации внутреннего режима в публикации патента (США) № 2016/0219290. Публикация патента (США) № 2018/0020218 предлагает расширение публикации патента (США) № 2016/0219290 посредством задания набора этих 4 преобразований и на основе режима прогнозирования и на основе информации размера блока.

[0126] В версии опорного программного обеспечения VVC, VTM 3.0, используется схема передачи служебных сигналов, проиллюстрированная на фиг. 6. В частности, для каждой единицы кодирования (CU), (i) один бит (флаг) используется для того, чтобы определять то, используется или нет DCT2 в горизонтальном и вертикальном направлениях, либо (ii) два дополнительных бита (называются "AMT/MTS-индексами") используются для того, чтобы указывать одномерные преобразования, применяемые горизонтально или вертикально. Эти 4 преобразования задаются посредством назначения DST-7/DCT-8, которые должны применяться к строкам/столбцам данного блока. Например, MTS-индекс=0 соответствует разделимому преобразованию, которое применяет DST-7 как горизонтально, так и вертикально, и MTS-индекс=1 соответствует применению DCT-8 горизонтально и DST-7 вертикально.

[0127] В данный момент в VVC (и в опорном программном обеспечении VTM-3.0), схема преобразования может не иметь гибкого способа сегментации для единиц преобразования (TU), в котором размеры блоков преобразования являются идентичными размерам единиц кодирования (CU). На практике, лучшая производительность сжатия может достигаться с использованием технологий сегментации на TU, таких как RQT (описана выше), поскольку сегментация позволяет преобразованиям захватывать энергию, локализованную в другой области, через более гибкую сегментацию. Это раскрытие сущности раскрывает различные проектные решения по сегментации на основе дерева, приспосабливающие AMT/MTS-схему, в данный момент приспосабливаемую в VVC (VTM-3.0).

[0128] Аспекты настоящего раскрытия сущности описывают более гибкую схему сегментации для единиц преобразования (TU), которая обеспечивает возможность достижения большей производительности сжатия, и описывают то, как преобразования могут выбираться для таких сегментов. Примерные технологии могут выполняться посредством видеокодера 200 и/или видеодекодера 300. Для простоты, примеры описываются с помощью фиг. 7 и фиг. 8. Например, фиг. 7 является концептуальной схемой, иллюстрирующей соответствующую сегментацию на основе дерева для блока. Между тем, фиг. 8 является концептуальной схемой, иллюстрирующей примеры сегментации на основе дерева квадрантов, сегментации на основе двоичного дерева и сегментации на основе троичного дерева. Как показано на фиг. 8, при сегментации на основе троичного дерева, единица преобразования (TU), такая как блок 192A или блок 192B, сегментируется на три суб-TU (например, P0, P1 и P2). При сегментации на основе дерева квадрантов, TU, такая как блок 192C, сегментируется на четыре суб-TU (например, P0, P1, P2 и P3), которые являются квадратными. При сегментации на основе двоичного дерева, TU, такая как блок 192D, блок 192E, блок 192F и или блок 192D, сегментируется на две суб-TU (например, P0 и P1).

[0129] TU может сегментироваться на одном уровне или на нескольких уровнях (глубины>0). Таким образом, TU может сегментироваться на множество суб-TU, и одна или более из множества суб-TU непосредственно могут дополнительно сегментироваться, и т.д. Альтернативно, TU может не сегментироваться, и размер блока для TU может быть идентичным размеру блока для CU (глубина=0). В ходе этого раскрытия сущности, используется термин "остаточный блок" и "остаточные субблоки". Следует понимать, что TU представляет собой пример остаточного блока, и множество суб-TU представляют собой пример множества остаточных субблоков, и что технологии, поясненные в данном документе относительно остаточного блока, являются в равной степени применимыми к TU. Аналогично, технологии, поясненные в данном документе относительно TU, также являются в равной степени применимыми к остаточному блоку.

[0130] TU на определенном уровне сегмента может сегментироваться на основе дерева. Примеры деревьев и соответствующих сегментов включают в себя примеры, проиллюстрированные на фиг. 7. Например, сегментация 181A на основе дерева квадрантов представляет собой сегментацию блока на основе дерева 182 квадрантов, при которой квадратная или неквадратная TU сегментируется на четыре суб-TU посредством сегментации TU как горизонтально, так и вертикально. Например, блок 190A сегментируется согласно сегментации 181A на основе дерева квадрантов на четыре квадратных блока одинакового размера. Сегментация 181B на 4 TU представляет собой сегментацию блока на основе дерева 184 квадрантов, при которой квадратная или неквадратная TU сегментируется на четыре суб-TU посредством только горизонтальной сегментации TU или посредством только вертикальной сегментации TU. Например, блок 190B вертикально сегментируется согласно сегментации на 4 TU на четыре вертикальных прямоугольных сегмента, и блок 190C горизонтально сегментируется согласно сегментации на 4 TU на четыре горизонтальных прямоугольных сегмента. В связи с этим, остаточный блок, такой как TU, может сегментироваться согласно, по меньшей мере, одному из следующего: сегментация 181A на основе дерева квадрантов, сегментация 181B на 4 TU.

[0131] Сегментация 181C на основе двоичного дерева представляет собой сегментацию блока на основе двоичного дерева 186, при которой квадратная или неквадратная TU сегментируется на две суб-TU, которые получаются посредством сегментации TU горизонтально или вертикально. Блоки 190D и 190G вертикально сегментируются согласно сегментации 181C на основе двоичного дерева на два вертикальных прямоугольных сегмента, тогда как блоки 190E и 190F горизонтально сегментируются согласно сегментации 181C на основе двоичного дерева на два горизонтальных прямоугольных сегмента. Блоки 190D и 190E симметрично сегментируются, чтобы приводить к блокам 190D и 190E, имеющим два сегмента идентичного размера. Между тем, блоки 190F и 190G асимметрично сегментируются, чтобы приводить к блокам 190F и 190G, имеющим два сегмента различных размеров. В связи с этим, остаточный блок, такой как TU, может сегментироваться согласно сегментации на основе 181C двоичного дерева. Сегментация 181D на основе троичного дерева (также называется "сегментацией на основе третичного дерева") представляет собой сегментацию блока на основе троичного дерева 188 (также известного как третичное дерево), при которой квадратная или неквадратная TU сегментируется на три суб-TU, которые получаются посредством сегментации TU или горизонтально или вертикально в двух отдельных местоположениях. Например, блок 190H горизонтально сегментируется согласно сегментации на основе троичного дерева на три горизонтальных прямоугольных сегмента, в то время как блок 190I вертикально сегментируется согласно сегментации на основе троичного дерева на три вертикальных прямоугольных сегмента. В связи с этим, остаточный блок, такой как TU, может сегментироваться согласно сегментации 181D на основе троичного дерева.

[0132] Сегментация на TU может применяться к квадратным или неквадратным TU-блокам. Фиг. 7 иллюстрирует примерную сегментацию квадратных блоков, но технологии также являются применимыми к неквадратным блокам, так что прямоугольная и в силу этого неквадратная TU может одинаково сегментироваться согласно деревьям сегментации, описанным в ходе этого раскрытия сущности. Например, если квадратная TU сегментируется согласно двоичному дереву на две прямоугольных TU, одна или обе из прямоугольных TU также могут сегментироваться согласно одному из деревьев сегментации. В связи с этим, остаточный блок, такой как TU, может быть квадратным или неквадратным, и квадратные и неквадратные остаточные блоки могут одинаково сегментироваться согласно технологиям, раскрытым в данном документе.

[0133] Для передачи в служебных сигналах информации сегментов, флаг (например, флаг разбиения) может передаваться в служебных сигналах в потоке битов, чтобы определять то, предусмотрено или нет разбиение на TU. Если TU сегментируется (т.е. если флаг разбиения активируется), дополнительная сегментация/информация разбиения может передаваться в служебных сигналах для того, чтобы указывать тип сегментации. Такая дополнительная информация индекса может представлять собой тип дерева (например, разбиение на основе дерева квадрантов, на основе двоичного дерева, на основе троичного дерева и/или на 4 TU).

[0134] Например, видеокодер 200 может определять то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков, и может кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется. Аналогично, видеодекодер может принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования.

[0135] Для данного/передаваемого в служебных сигналах типа дерева, тип сегментации дополнительно может передаваться в служебных сигналах. Например, для случая троичного дерева (например, для сегментации 181D на основе троичного дерева), один бит может использоваться для того, чтобы указывать то, TU горизонтально разбивается, к примеру, в блоке 190H, или вертикально разбивается, к примеру, в блоке 190I. Для случаев двоичного дерева (например, для сегментации 181C на основе двоичного дерева), передача служебных сигналов может указывать то, TU горизонтально разбивается, к примеру, в блоках 190E и 190F, или вертикально разбивается, к примеру, в блоках 190D и 190G, а также то, TU симметрично разбивается, к примеру, в блоках 190D и 190E, или асимметрично разбивается, к примеру, в блоках 190F и 190G.

Например, поток битов, который передает в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, может включать в себя информацию индекса в наборе типов деревьев, и информация набора типов деревьев может включать в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева. Дополнительно, когда информация, указывающая тип дерева сегментации для остаточного блока, указывает то, что тип дерева сегментации представляет собой одно из сегментации на основе двоичного дерева, поток битов дополнительно может передавать в служебных сигналах информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

[0136] В некоторых примерах, с учетом совокупности суб-TU, полученных после сегментации TU, флаги кодированных блоков (называются "cbfs" в VVC) могут логически выводиться и/или ограничиваться в зависимости от режима прогнозирования, типа дерева сегментации, типа сегментации или любой другой вспомогательной информации, которая кодируется в потоке битов. Например, суб-TU, обозначаемая как P1 в блоках 192A и 192B по фиг. 8 может ограничиваться таким образом, что она всегда имеет деактивированный CBF-флаг (флаг=0), так что передача в служебных сигналах cbf не требуется для P1. Аналогичная схема также может использоваться для того, чтобы логически выводить или ограничивать флаги пропуска преобразования для каждой суб-TU.

[0137] В некоторых примерах, с учетом совокупности суб-TU, полученных после сегментации, AMT/MTS-индекс может передаваться в служебных сигналах для каждой суб-TU с тем, чтобы указывать разделимое преобразование, применяемое для этой суб-TU. Таким образом, несколько преобразований могут применяться к каждой суб-TU.

[0138] В некоторых примерах, выбор преобразования, такой как AMT/MTS-индексы и/или флаг, по-прежнему может передаваться в служебных сигналах на TU-уровне, даже если TU разбивается на суб-TU. В этих примерах, каждая суб-TU может использовать выбор передаваемого в служебных сигналах преобразования. В этом случае, служебная информация может сохраняться для каждой суб-TU, и преимущества более точно детализированного преобразования по-прежнему могут использоваться.

[0139] В некоторых примерах, с учетом совокупности суб-TU, полученных после сегментации, ядра преобразования для суб-TU могут ограничиваться или логически выводиться в горизонтальном направлении, в вертикальном направлении или в обоих направлениях. Один пример ограничения или логического вывода задается на основе режима прогнозирования, типа дерева сегментации, типа сегментации либо любой другой вспомогательной информации. В этом случае, AMT/MTS-индекс (или определение преобразования) может ограничиваться или логически выводиться на основе режима прогнозирования, типа дерева сегментации, типа сегментации или любой другой вспомогательной информации.

[0140] В некоторых примерах, вместо ограничения или логического вывода определенного базиса преобразования, контекстное моделирование может применяться на основе правил ограничения/логического вывода. В одном примере, контекст назначается для случаев, когда ограничительное правило применяется, в таком случае, выбор преобразования по-прежнему является возможным (в отличие от того, когда этот выбор преобразования является невозможным вследствие ограничения), но контекст назначается, чтобы передавать в служебных сигналах такой выбор преобразования, поскольку результирующая служебная информация преобразования может более эффективно кодироваться, и все варианты выбора преобразования доступны. Назначенный контекст может представлять собой отличающийся отдельный контекст относительно уже существующего контекста в передаче служебных сигналов выбора преобразования.

[0141] В нижеприведенных примерах ограничения, идентичные правила могут использоваться для контекстного назначения в объеме передачи служебных сигналов выбора преобразования. Примеры таких проектных решений включают в себя следующее.

[0142] С учетом сегментированной на основе дерева квадрантов TU (как проиллюстрировано на фиг. 7 в качестве блока 190A и на фиг. 8 в качестве блока 192C), преобразование суб-TU P0 может ограничиваться таким образом, что DCT-8 используется как вертикально, так и горизонтально, преобразование Суб-TU P1 может ограничиваться таким образом, что DST-7 применяется горизонтально, и DST-8 используется вертикально, преобразование суб-TU P2 может ограничиваться таким образом, что DCT-8 применяется горизонтально, и DST-7 используется оба вертикально, преобразование P3 суб-TU может ограничиваться таким образом, что DST-7 используется как вертикально, так и горизонтально.

[0143] С учетом сегментированной на основе дерева квадрантов TU (как проиллюстрировано на фиг. 7 в качестве блока 190A и на фиг. 8 в качестве блока 192C), все суб-TU (P0, P1, P2 и P3) могут ограничиваться таким образом, что DST-7 используется как вертикально, так и горизонтально. В другом примере, DCT-2 может использоваться вместо DST-7 или DCT-8.

[0144] С учетом сегментированной на основе двоичного дерева TU (как проиллюстрировано на фиг. 7 в качестве блоков 190D-190G и на фиг. 8 в качестве блоков 192D-192G), преобразование суб-TU может логически выводиться/ограничиваться следующим образом. Для горизонтальных разбиений, таких как блок 190E и 190F на фиг. 7 и блоки 192E и 192F на фиг. 8, DCT-2 может использоваться горизонтально, и DCT-8 может использоваться вертикально, чтобы преобразовывать суб-TU P0, и DCT-2 может использоваться горизонтально, и DST-7 может использоваться вертикально, чтобы преобразовывать Суб-TU P1. Для вертикальных разбиений, к примеру, проиллюстрированных на фиг. 7 в качестве блоков 190D и 190G и на фиг. 8 в качестве блоков 192D и 192G, DCT-8 может использоваться горизонтально, и DCT-2 может использоваться вертикально, чтобы преобразовывать суб-TU P0, и DST-7 может использоваться горизонтально, и DCT-2 может использоваться вертикально, чтобы преобразовывать Суб-TU P1. Вместо DCT-2, DST-7 или DCT-8 также могут использоваться в качестве преобразований для вышеуказанных двух случаев.

[0145] Один либо комбинации вышеописанных способов могут использоваться только для внутренне прогнозированных CU. Один либо комбинации вышеописанных способов могут использоваться только для взаимно прогнозированных CU. Один либо комбинации вышеописанных способов могут использоваться как для внутренних, так и для взаимно прогнозированных CU. Один либо комбинации вышеописанных способов могут использоваться для каналов сигнала яркости или сигнала цветности либо для обоих каналов. Сегментация на TU и ассоциированная схема преобразования могут задаваться на основе одного либо комбинаций вышеописанных способов.

[0146] Фиг. 9 является блок-схемой, иллюстрирующей примерный видеокодер 200, который может выполнять технологии этого раскрытия сущности. Фиг. 9 предоставляется для целей пояснения и не должен считаться ограничением технологий, проиллюстрированных и описанных в общих чертах в этом раскрытии сущности. Для целей пояснения, это раскрытие сущности описывает видеокодер 200 в контексте стандартов кодирования видео, таких как стандарт HEVC-кодирования видео и разрабатываемый стандарт кодирования видео H.266. Тем не менее, технологии этого раскрытия сущности не ограничены этими стандартами кодирования видео и являются, в общем, применимыми к кодированию и декодированию видео.

[0147] В примере по фиг. 9, видеокодер 200 включает в себя запоминающее устройство 230 видеоданных, модуль 202 выбора режима, модуль 204 формирования остатков, модуль 206 обработки преобразования, модуль 208 квантования, модуль 210 обратного квантования, модуль 212 обработки обратного преобразования, модуль 214 восстановления, модуль 216 фильтрации, буфер 218 декодированных кадров (DPB) и модуль 220 энтропийного кодирования. Любое из запоминающего устройства 230 видеоданных, модуля 202 выбора режима, модуля 204 формирования остатков, модуля 206 обработки преобразования, модуля 208 квантования, модуля 210 обратного квантования, модуля 212 обработки обратного преобразования, модуля 214 восстановления, модуля 216 фильтрации, DPB 218 и модуля 220 энтропийного кодирования может реализовываться в одном или более процессоров либо в схеме обработки. Например, модули видеокодера 200 могут реализовываться как одна или более схем или логических элементов в качестве части аппаратной схемы или в качестве части процессора, ASIC, FPGA. Кроме того, видеокодер 200 может включать в себя дополнительные или альтернативные процессоры либо схему обработки для того, чтобы выполнять эти и другие функции.

[0148] Запоминающее устройство 230 видеоданных может сохранять видеоданные, которые должны кодироваться посредством компонентов видеокодера 200. Видеокодер 200 может принимать видеоданные, сохраненные в запоминающем устройстве 230 видеоданных, например, из видеоисточника 104 (фиг. 1). DPB 218 может выступать в качестве запоминающего устройства опорных кадров, которое сохраняет опорные видеоданные для использования при прогнозировании последующих видеоданных посредством видеокодера 200. Запоминающее устройство 230 видеоданных и DPB 218 могут формироваться посредством любых из множества запоминающих устройств, к примеру, как динамическое оперативное запоминающее устройство (DRAM), включающее в себя синхронное DRAM (SDRAM), магниторезистивное RAM (MRAM), резистивное RAM (RRAM) или другие типы запоминающих устройств. Запоминающее устройство 230 видеоданных и DPB 218 могут предоставляться посредством идентичного запоминающего устройства или отдельных запоминающих устройств. В различных примерах, запоминающее устройство 230 видеоданных может быть внутримикросхемным с другими компонентами видеокодера 200, как проиллюстрировано, или внемикросхемным относительно этих компонентов.

[0149] В этом раскрытии сущности, ссылка на запоминающее устройство 230 видеоданных не должна интерпретироваться как ограниченная запоминающим устройством, внутренним для видеокодера 200, если не описывается конкретно в таком качестве, или запоминающим устройством, внешним для видеокодера 200, если не описывается конкретно в таком качестве. Наоборот, ссылка на запоминающее устройство 230 видеоданных должна пониматься как опорное запоминающее устройство, которое сохраняет видеоданные, которые видеокодер 200 принимает для кодирования (например, видеоданные для текущего блока, который должен кодироваться). Запоминающее устройство 106 по фиг. 1 также может предоставлять временное хранение выводов из различных модулей видеокодера 200.

[0150] Различные модули по фиг. 9 проиллюстрированы для того, чтобы помогать в понимании операций, выполняемых посредством видеокодера 200. Модули могут реализовываться как фиксированные функциональные схемы, программируемые схемы либо комбинация вышеозначенного. Фиксированные функциональные схемы означают схемы, которые предоставляют конкретную функциональность и предварительно установлены в отношении операций, которые могут выполняться. Программируемые схемы означают схемы, которые могут программироваться с возможностью выполнять различные задачи и предоставлять гибкую функциональность в операциях, которые могут выполняться. Например, программируемые схемы могут выполнять программное обеспечение или микропрограммное обеспечение, которое инструктирует программируемым схемам работать способом, заданным посредством инструкций программного обеспечения или микропрограммного обеспечения. Фиксированные функциональные схемы могут выполнять программные инструкции (например, чтобы принимать параметры или выводить параметры), но типы операций, которые выполняют фиксированные функциональные схемы, в общем, являются неизменными. В некоторых примерах, один или более модулей могут представлять собой различные схемные блоки (фиксированные функциональные или программируемые), и в некоторых примерах, один или более модулей могут представлять собой интегральные схемы.

[0151] Видеокодер 200 может включать в себя арифметико-логические устройства (ALU), элементарные функциональные модули (EFU), цифровые схемы, аналоговые схемы и/или программируемые ядра, сформированные из программируемых схем. В примерах, в которых операции видеокодера 200 выполняются с использованием программного обеспечения, выполняемого посредством программируемых схем, запоминающее устройство 106 (фиг. 1) может сохранять инструкции (объектный код) программного обеспечения, которое видеокодер 200 принимает и выполняет, или другое запоминающее устройство в видеокодере 200 (не показано) может сохранять такие инструкции.

[0152] Запоминающее устройство 230 видеоданных выполнено с возможностью сохранять принимаемые видеоданные. Видеокодер 200 может извлекать кадр видеоданных из запоминающего устройства 230 видеоданных и предоставлять видеоданные в модуль 204 формирования остатков и модуль 202 выбора режима. Видеоданные в запоминающем устройстве 230 видеоданных могут представлять собой необработанные видеоданные, которые должны кодироваться.

[0153] Модуль 202 выбора режима включает в себя модуль 222 оценки движения, модуль 224 компенсации движения и модуль 226 внутреннего прогнозирования. Модуль 202 выбора режима может включать в себя дополнительные функциональные модули, чтобы выполнять прогнозирование видео в соответствии с другими режимами прогнозирования. В качестве примера, модуль 202 выбора режима может включать в себя модуль палитровой обработки, модуль внутриблочного копирования (который может представлять собой часть модуля 222 оценки движения и/или модуля 224 компенсации движения), модуль аффинной обработки, модуль обработки на основе линейной модели (LM) и т.п.

[0154] Модуль 202 выбора режима, в общем, координирует несколько проходов кодирования, чтобы тестировать комбинации параметров кодирования и результирующих значений искажения в зависимости от скорости передачи для таких комбинаций. Параметры кодирования могут включать в себя сегментацию CTU на CU, режимы прогнозирования для CU, типы преобразования для остаточных данных CU, параметры квантования для остаточных данных CU и т.д. Модуль 202 выбора режима в конечном счете может выбирать комбинацию параметров кодирования, имеющих значения искажения в зависимости от скорости передачи, которые лучше других тестированных комбинаций.

[0155] Видеокодер 200 может сегментировать кадр, извлеченный из запоминающего устройства 230 видеоданных, на последовательность CTU и инкапсулировать одну или более CTU в срезе. Модуль 202 выбора режима может сегментировать CTU кадра в соответствии с древовидной структурой, такой как QTBT-структура или структура в виде дерева квадрантов HEVC, описанного выше. Как описано выше, видеокодер 200 может формировать одну или более CU из сегментации CTU согласно древовидной структуре. Такая CU также, в общем, может называться "видеоблоком" или "блоком".

[0156] В общем, модуль 202 выбора режима также управляет своими компонентами (например, модулем 222 оценки движения, модулем 224 компенсации движения и модулем 226 внутреннего прогнозирования) таким образом, чтобы формировать прогнозный блок для текущего блока (например, текущей CU либо, в HEVC, перекрывающейся части PU и TU). Для взаимного прогнозирования текущего блока, модуль 222 оценки движения может выполнять поиск движения для того, чтобы идентифицировать один или более тесно совпадающих опорных блоков в одном или более опорных кадров (например, в одном или более ранее кодированных кадров, сохраненных в DPB 218). В частности, модуль 222 оценки движения может вычислять значение, представляющее то, насколько аналогичным является потенциальный опорный блок относительно текущего блока, например, согласно сумме абсолютных разностей (SAD), сумме квадратов разности (SSD), средней абсолютной разности (MAD), среднеквадратическим разностям (MSD) и т.п. Модуль 222 оценки движения, в общем, может выполнять эти вычисления с использованием последовательных выборочных разностей между текущим блоком и рассматриваемым опорным блоком. Модуль 222 оценки движения может идентифицировать опорный блок, имеющий наименьшее значение, получающееся в результате этих вычислений, указывающее опорный блок, который наиболее тесно совпадает с текущим блоком.

[0157] Модуль 222 оценки движения может формировать один или более векторов движения (MV), которые задают позиции опорных блоков в опорных кадрах относительно позиции текущего блока в текущем кадре. Модуль 222 оценки движения затем может предоставлять векторы движения в модуль 224 компенсации движения. Например, для однонаправленного взаимного прогнозирования, модуль 222 оценки движения может предоставлять один вектор движения, тогда как для двунаправленного взаимного прогнозирования, модуль 222 оценки движения может предоставлять два вектора движения. Модуль 224 компенсации движения затем может формировать прогнозный блок с использованием векторов движения. Например, модуль 224 компенсации движения может извлекать данные опорного блока с использованием вектора движения. В качестве другого примера, если вектор движения имеет точность в дробную часть выборки, модуль 224 компенсации движения может интерполировать значения для прогнозного блока согласно одному или более интерполяционных фильтров. Кроме того, для двунаправленного взаимного прогнозирования, модуль 224 компенсации движения может извлекать данные для двух опорных блоков, идентифицированных посредством соответствующих векторов движения, и комбинировать извлеченные данные, например, посредством последовательного выборочного усреднения или усреднения со взвешиванием.

[0158] В качестве другого примера, для внутреннего прогнозирующего кодирования или внутреннего прогнозирующего кодирования, модуль 226 внутреннего прогнозирования может формировать прогнозный блок из выборок, соседних с текущим блоком. Например, для направленных режимов, модуль 226 внутреннего прогнозирования, в общем, может математически комбинировать значения соседних выборок и заполнять эти вычисленные значения в заданном направлении для текущего блока, чтобы формировать прогнозный блок. В качестве другого примера, для DC-режима, модуль 226 внутреннего прогнозирования может вычислять среднее соседних выборок по отношению к текущему блоку и формировать прогнозный блок, который включает в себя это результирующее среднее для каждой выборки прогнозного блока.

[0159] Модуль 202 выбора режима предоставляет прогнозный блок в модуль 204 формирования остатков. Модуль 204 формирования остатков принимает необработанную некодированную версию текущего блока из запоминающего устройства 230 видеоданных и прогнозный блок из модуля 202 выбора режима. Модуль 204 формирования остатков вычисляет последовательные выборочные разности между текущим блоком и прогнозным блоком. Результирующие последовательные выборочные разности задают остаточный блок для текущего блока. В некоторых примерах, модуль 204 формирования остатков также может определять разности между выборочными значениями в остаточном блоке, чтобы формировать остаточный блок с использованием остаточной дифференциальной импульсно-кодовой модуляции (RDPCM). В некоторых примерах, модуль 204 формирования остатков может формироваться с использованием одной или более схем вычитателя, которые выполняют двоичное вычитание.

[0160] В примерах, в которых модуль 202 выбора режима сегментирует CU на PU, каждая PU может быть ассоциирована с единицей прогнозирования сигналов яркости и соответствующими единицами прогнозирования сигналов цветности. Видеокодер 200 и видеодекодер 300 могут поддерживать PU, имеющие различные размеры. Как указано выше, размер CU может означать размер блока кодирования сигналов яркости CU, и размер PU может означать размер единицы прогнозирования сигналов яркости PU. При условии, что размер конкретной CU составляет 2Nx2N, видеокодер 200 может поддерживать PU-размеры в 2Nx2N или NxN для внутреннего прогнозирования и симметричные PU-размеры в 2Nx2N, 2NxN, Nx2N, NxN или аналогичные для взаимного прогнозирования. Видеокодер 200 и видеодекодер 300 также могут поддерживать асимметричное сегментирование для PU-размеров в 2NxnU, 2NxnD, nLx2N и nRx2N для взаимного прогнозирования.

[0161] В примерах, в которых модуль 202 выбора режима дополнительно не сегментирует CU на PU, каждая CU может быть ассоциирована с блоком кодирования сигналов яркости и соответствующими блоками кодирования сигналов цветности. Как описано выше, размер CU может означать размер блока кодирования сигналов яркости CU. Видеокодер 200 и видеодекодер 300 могут поддерживать CU-размеры в 2Nx2N, 2NxN или Nx2N.

[0162] Для других технологий кодирования видео, таких как кодирование в режиме внутриблочного копирования, кодирование в аффинном режиме и кодирование в режиме на основе линейной модели (LM), в качестве нескольких примеров, модуль 202 выбора режима, через соответствующие модули, ассоциированные с технологиями кодирования, формирует прогнозный блок для кодируемого текущего блока. В некоторых примерах, таких как кодирование в палитровом режиме, модуль 202 выбора режима может не формировать прогнозный блок и вместо этого формировать синтаксические элементы, которые указывают способ, которым следует восстанавливать блок на основе выбранной палитры. В таких режимах, модуль 202 выбора режима может предоставлять эти синтаксические элементы в модуль 220 энтропийного кодирования для кодирования.

[0163] Как описано выше, модуль 204 формирования остатков принимает видеоданные для текущего блока и соответствующего прогнозного блока. Модуль 204 формирования остатков затем формирует остаточный блок для текущего блока. Чтобы формировать остаточный блок, модуль 204 формирования остатков вычисляет последовательные выборочные разности между прогнозным блоком и текущим блоком.

[0164] В соответствии с технологиями этого раскрытия сущности, в качестве части формирования остаточного блока (т.е. единицы преобразования) для текущего блока, модуль 204 формирования остатков может сегментировать остаточный блок для текущего блока на множество остаточных субблоков (т.е. единиц преобразования) согласно типу дерева сегментации. Модуль 204 формирования остатков может выполнять такую сегментацию для квадратных остаточных блоков, а также неквадратных остаточных блоков (например, прямоугольных остаточных блоков) для того, чтобы формировать квадратные, а также неквадратные остаточные субблоки, и модуль 204 формирования остатков также может сегментировать один или более остаточных субблоков.

[0165] Как пояснено выше, блок сегментов может сегментироваться на остаточные субблоки согласно родному или более из следующего: сегментация на основе дерева квадрантов, сегментация на основе двоичного дерева, сегментация на основе троичного дерева или сегментация на 4 TU, к примеру, как показано на фиг. 7 и 8. В некоторых примерах, блок сегментов может сегментироваться на остаточные субблоки согласно одному или более из следующего: сегментация на основе дерева квадрантов или сегментация на основе двоичного дерева.

[0166] Когда модуль 204 формирования остатков сегментирует остаточный блок согласно сегментации на основе двоичного дерева, сегментации на основе троичного дерева или сегментации на 4 TU, модуль 204 формирования остатков может горизонтально разбивать остаточный блок или вертикально разбивать остаточный блок. Например, блоки 190C, 190E, 190F и 190H по фиг. 7 иллюстрируют примеры горизонтального разбиения, в то время как блоки 190B, 190D, 190G и 190I по фиг. 7 иллюстрируют примеры вертикального разбиения.

[0167] Когда модуль 204 формирования остатков сегментирует остаточный блок согласно сегментации на основе двоичного дерева или сегментации на основе троичного дерева, чтобы горизонтально разбивать или вертикально разбивать остаточный блок, модуль 204 формирования остатков может симметрично разбивать остаточный блок или может асимметрично разбивать остаточный блок. Например, блоки 190D и 190E по фиг. 7 иллюстрируют примеры симметричного разбиения, в то время как блоки 190F и 190G по фиг. 7 иллюстрируют примеры асимметричного разбиения.

[0168] Модуль 206 обработки преобразования применяет одно или более преобразований к остаточному блоку для того, чтобы формировать блок коэффициентов преобразования (называется в данном документе "блоком коэффициентов преобразования"). Модуль 206 обработки преобразования может применять различные преобразования к остаточному блоку для того, чтобы формировать блок коэффициентов преобразования. Например, модуль 206 обработки преобразования может применять дискретное косинусное преобразование (DCT), направленное преобразование, преобразование Карунена-Лоэва (KLT) или концептуально аналогичное преобразование к остаточному блоку. В некоторых примерах, модуль 206 обработки преобразования может выполнять несколько преобразований для остаточного блока, например, первичное преобразование и вторичное преобразование, такое как вращательное преобразование. В некоторых примерах, модуль 206 обработки преобразования не применяет преобразования к остаточному блоку.

[0169] В некоторых примерах, модуль 206 обработки преобразования может применять несколько преобразований из схемы множественного преобразования (MT) к остаточному блоку для текущего блока, что включает в себя применение множества преобразований MT-схемы к каждому из множества остаточных субблоков, получающихся в результате сегментации остаточного блока. MT-схема может задавать, например, первичное преобразование и вторичное преобразование, которые должны применяться к остаточному блоку. Дополнительно или альтернативно, MT-схема может задавать горизонтальное преобразование и вертикальное преобразование, к примеру, как показано на фиг. 5A и 5B, как пояснено выше. В любом случае, модуль 206 обработки преобразования может применять каждое преобразование MT-схемы к остаточному блоку для того, чтобы формировать коэффициенты преобразования из блока коэффициентов преобразования.

[0170] Например, модуль 206 обработки преобразования может выбирать преобразование для каждого из множества остаточных субблоков, причем выбор преобразования для соответствующего остаточного блока множества остаточных субблоков представляет собой индекс множественного выбора преобразования (MTS) для соответствующего остаточного блока. Таким образом, множественное преобразование может выбираться для каждого остаточного субблока.

[0171] В другом примере, модуль 206 обработки преобразования может выбирать преобразование для остаточного блока, которое применяется к каждому из множества остаточных субблоков, получающихся в результате сегментации остаточного блока. Например, множественное преобразование может выбираться для остаточного блока, которое применяется к каждому остаточному субблоку, получающемуся в результате сегментации остаточного блока. В примере блока 192C на фиг. 8, выбранное множественное преобразование для блока 192C может применяться к каждому из остаточных субблоков P0, P1, P2 и P3.

[0172] В соответствии с технологиями настоящего раскрытия сущности, модуль 206 обработки преобразования может определять флаг кодированного блока (cbf) и/или флаг пропуска преобразования для каждого из множества остаточных субблоков. Флаг кодированного блока может передавать в служебных сигналах информацию относительно того, передается или нет, по меньшей мере, один уровень преобразования ненулевых коэффициентов для остаточного субблока. Флаг пропуска преобразования может передавать в служебных сигналах информацию относительно того, пропускается или нет преобразование для остаточного субблока.

[0173] В соответствии с технологиями настоящего раскрытия сущности, модуль 206 обработки преобразования может определять ядра преобразования для множества остаточных субблоков, получающихся в результате сегментации остаточного блока, по меньшей мере, частично на основе одного из следующего: тип дерева сегментации для остаточного блока или тип сегментации для остаточного блока.

[0174] В соответствии с технологиями настоящего раскрытия сущности, модуль 206 обработки преобразования может определять контекстные назначения для множества остаточных субблоков, по меньшей мере, частично на основе одного из следующего: тип дерева сегментации для остаточного блока или тип сегментации для остаточного блока. В некоторых примерах, модуль 206 обработки преобразования может определять контекстные назначения для множества остаточных субблоков для компонентов сигнала яркости текущего блока и/или компонентов сигнала цветности текущего блока.

[0175] В одном примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 206 обработки преобразования может определять то, что DCT-8 используется в качестве как горизонтального преобразования, так и вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, то, что DST-7 используется в горизонтальном преобразовании, и DST-8 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков, то, что DCT-8 используется в горизонтальном преобразовании, и DST-7 используется в качестве вертикального преобразования для третьего остаточного субблока из множества остаточных субблоков, и то, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для четвертого остаточного субблока из множества остаточных субблоков.

[0176] В другом примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 206 обработки преобразования может определять то, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для каждого из множества остаточных субблоков.

[0177] В другом примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 206 обработки преобразования может определять то, что DCT-2 используется в качестве, по меньшей мере, одного из: горизонтального преобразования или вертикального преобразования для одного или более из множества остаточных субблоков. Таким образом, например, DCT-2 может использоваться в качестве горизонтального преобразования, и DST-7 или DCT-8 может использоваться в качестве вертикального преобразования для одного или более из множества остаточных субблоков, и DCT-2 может использоваться в качестве вертикального преобразования, и DST-7 или DCT-8 может использоваться в качестве горизонтального преобразования для одного или более из множества остаточных субблоков.

[0178] В другом примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, и то, что тип сегментации для остаточного блока представляет собой горизонтальное разбиение, модуль 206 обработки преобразования может определять то, что DCT-2 используется в качестве горизонтального преобразования, и DCT-8 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и то, что DCT-2 используется в качестве горизонтального преобразования, и DST-7 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0179] В другом примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, и то, что тип сегментации для остаточного блока представляет собой вертикальное разбиение, модуль 206 обработки преобразования может определять то, что DCT-8 используется в качестве горизонтального преобразования, и DCT-2 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и то, что DST-7 используется в качестве горизонтального преобразования, и DCT-2 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0180] В другом примере, когда модуль 206 обработки преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, модуль 206 обработки преобразования может определять то, что одно из: DST-7 или DCT-8 используется в качестве, по меньшей мере, одного из: горизонтального преобразования или вертикального преобразования для одного или более из множества остаточных субблоков. Использование DST-7 или DCT-8 может осуществляться вместо DCT-2 в примерах сегментации на основе двоичного дерева, описанных выше.

[0181] В некоторых примерах, модуль 206 обработки обратного преобразования может определять контекстные назначения для остаточного блока, по меньшей мере, частично на основе размера остаточного блока. Например, когда остаточный блок имеет небольшой размер, к примеру, меньший или равный 16 выборкам (например, блок 4×4, который имеет размер 16 выборок), и когда остаточный блок сегментируется согласно сегментации на основе двоичного дерева, модуль 206 обработки обратного преобразования может определять контекстные назначения для множества остаточных субблоков таким образом, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для каждого из множества остаточных субблоков.

[0182] В другом примере, когда остаточный блок имеет большой размер, к примеру, больший или равный 16 выборкам (например, блок 4×8, который имеет размер 32 выборок), и когда остаточный блок сегментируется согласно сегментации на основе двоичного дерева, модуль 206 обработки преобразования может определять контекстные назначения для множества остаточных субблоков таким образом, что DCT-2 используется в качестве горизонтального преобразования, и DST-7 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и таким образом, что DCT-2 используется в качестве вертикального преобразования, и DST-7 используется в качестве горизонтального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0183] В другом примере, когда остаточный блок имеет размер по горизонтали или размер по вертикали, который меньше или равен 2 выборкам (например, блок 2×8), модуль 206 обработки преобразования может определять то, что преобразование не должно применяться ко множеству остаточных субблоков.

[0184] В некоторых примерах, модуль 206 обработки преобразования может определять контекстные назначения для множества остаточных субблоков на основе того, что текущий блок представляет собой внутренне прогнозированный блок. В некоторых примерах, модуль 206 обработки преобразования может определять контекстные назначения для множества остаточных субблоков на основе того, что текущий блок представляет собой взаимно прогнозированный блок.

[0185] Модуль 208 квантования может квантовать коэффициенты преобразования в блоке коэффициентов преобразования, чтобы формировать блок квантованных коэффициентов преобразования. Модуль 208 квантования может квантовать коэффициенты преобразования блока коэффициентов преобразования согласно значению параметра квантования (QP), ассоциированному с текущим блоком. Видеокодер 200 (например, через модуль 202 выбора режима) может регулировать степень квантования, применяемую к блокам коэффициентов преобразования, ассоциированным с текущим блоком, посредством регулирования QP-значения, ассоциированного с CU. Квантование может вводить потери информации, и в силу этого квантованные коэффициенты преобразования могут иметь меньшую точность, чем исходные коэффициенты преобразования, сформированные посредством модуля 206 обработки преобразования.

[0186] Модуль 210 обратного квантования и модуль 212 обработки обратного преобразования могут применять обратное квантование и обратные преобразования к блоку квантованных коэффициентов преобразования, соответственно, для того чтобы восстанавливать остаточный блок из блока коэффициентов преобразования. Модуль 214 восстановления может формировать восстановленный блок, соответствующий текущему блоку (хотя потенциально с определенной степенью искажения) на основе восстановленного остаточного блока и прогнозного блока, сформированного посредством модуля 202 выбора режима. Например, модуль 214 восстановления может суммировать выборки восстановленного остаточного блока с соответствующими выборками из прогнозного блока, сформированного посредством модуля 202 выбора режима, чтобы формировать восстановленный блок.

[0187] Модуль 216 фильтрации может выполнять одну или более операций фильтрации для восстановленных блоков. Например, модуль 216 фильтрации может выполнять операции удаления блочности, чтобы уменьшать артефакты блочности вдоль краев CU. Операции модуля 216 фильтрации могут пропускаться в некоторых примерах.

[0188] Видеокодер 200 сохраняет восстановленные блоки в DPB 218. Например, в примерах, в которых операции модуля 216 фильтрации не требуются, модуль 214 восстановления может сохранять восстановленные блоки в DPB 218. В примерах, в которых операции модуля 216 фильтрации необходимы, модуль 216 фильтрации может сохранять фильтрованные восстановленные блоки в DPB 218. Модуль 222 оценки движения и модуль 224 компенсации движения могут извлекать опорный кадр из DPB 218, сформированного из восстановленных (и потенциально фильтрованных) блоков для того, чтобы взаимно прогнозировать блоки последующих кодированных кадров. Помимо этого, модуль 226 внутреннего прогнозирования может использовать восстановленные блоки в DPB 218 текущего кадра, чтобы внутренне прогнозировать другие блоки в текущем кадре.

[0189] В общем, модуль 220 энтропийного кодирования может энтропийно кодировать синтаксические элементы, принимаемые из других функциональных компонентов видеокодера 200. Например, модуль 220 энтропийного кодирования может энтропийно кодировать блоки квантованных коэффициентов преобразования из модуля 208 квантования. В качестве другого примера, модуль 220 энтропийного кодирования может энтропийно кодировать синтаксические элементы прогнозирования (например, информацию движения для взаимного прогнозирования или информацию внутреннего режима для внутреннего прогнозирования) из модуля 202 выбора режима. Модуль 220 энтропийного кодирования может выполнять одну или более операций энтропийного кодирования для синтаксических элементов, которые представляют собой другой пример видеоданных, чтобы формировать энтропийно кодированные данные. Например, модуль 220 энтропийного кодирования может выполнять операцию контекстно-адаптивного кодирования переменной длины (CAVLC), CABAC-операцию, операцию кодирования переменно-переменной (V2V) длины, операцию синтаксического контекстно-адаптивного двоичного арифметического кодирования (SBAC), операцию энтропийного кодирования на основе сегментирования на интервалы вероятности (PIPE), операцию экспоненциального кодирования кодом Голомба или другой тип операции энтропийного кодирования для данных. В некоторых примерах, модуль 220 энтропийного кодирования может работать в обходном режиме, в котором синтаксические элементы не подвергаются энтропийному кодированию.

[0190] В соответствии с технологиями этого раскрытия сущности, модуль 220 энтропийного кодирования, для остаточного блока, может энтропийно кодировать информацию сегментации, ассоциированную с остаточным блоком. Такая информация сегментации, ассоциированная с остаточным блоком, может указывать то, сегментируется или нет остаточный блок. Если остаточный блок сегментируется, энтропийно кодированная информация сегментации дополнительно может указывать тип дерева сегментации для остаточного блока. Тип дерева сегментации может представлять собой одно из следующего: сегментация на основе дерева квадрантов, сегментация на основе двоичного дерева, сегментация на основе троичного дерева или сегментация на 4 TU. Чтобы указывать тип дерева сегментации, энтропийно кодированная информация сегментации может включать в себя индекс в списке возможных типов сегментации. Если тип дерева сегментации представляет собой одно из следующего: сегментация на основе двоичного дерева, сегментация на основе троичного дерева или сегментация на 4 TU, энтропийно кодированная информация сегментации дополнительно может передавать в служебных сигналах информацию, указывающую тип сегментации для остаточного блока, который указывает то, остаточный блок горизонтально разбивается или вертикально разбивается. Дополнительно, если тип дерева сегментации для остаточного блока представляет собой сегментацию на основе двоичного дерева или сегментацию на основе троичного дерева, энтропийно кодированная информация дополнительно может передавать в служебных сигналах информацию, указывающую то, TU симметрично разбивается или асимметрично разбивается.

[0191] Модуль 220 энтропийного кодирования также может, для остаточного блока, энтропийно кодировать другую информацию, ассоциированную с остаточным блоком. Например, модуль 220 энтропийного кодирования может кодировать индикатор преобразования, которое выбирается для каждого из множества остаточных субблоков, получающихся в результате сегментации остаточного блока, к примеру, MTS-индекс для каждого из соответствующих остаточных субблоков. В другом примере, модуль 220 энтропийного кодирования может кодировать индикатор преобразования, которое выбирается для остаточного блока, при этом выбранное преобразование применяется к каждому из множества остаточных субблоков, получающихся в результате сегментации остаточного блока.

[0192] В соответствии с некоторыми аспектами этого раскрытия сущности, модуль 220 энтропийного кодирования может отказываться от кодирования информации, ассоциированной с контекстными назначениями для множества остаточных субблоков, получающихся в результате сегментации остаточного блока или ядер преобразования для множества остаточных субблоков. Вместо этого, видеодекодер 300 может логически выводить эту информацию относительно остаточного блока на основе другой информации, ассоциированной с остаточным блоком, который кодируется посредством модуля 220 энтропийного кодирования, к примеру, на основе того, сегментируется или нет остаточный блок, типа дерева сегментации, согласно которому сегментирован остаточный блок, типа сегментации остаточного блока, а также другой вспомогательной информации, энтропийно кодированной посредством модуля 220 энтропийного кодирования.

[0193] Видеокодер 200 может выводить поток битов, который включает в себя энтропийно кодированные синтаксические элементы, требуемые для того, чтобы восстанавливать блоки среза или кадра. В частности, модуль 220 энтропийного кодирования может выводить поток битов, включающий в себя, например, энтропийно кодированную информацию сегментации, ассоциированную с остаточным блоком, согласно технологиям этого раскрытия сущности. В связи с этим, после того как кодер 200 определяет то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков, модуль 220 энтропийного кодирования может кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется.

[0194] Операции, описанные выше, описываются относительно блока. Такое описание должно пониматься как операции для блока кодирования сигналов яркости и/или блоков кодирования сигналов цветности. Как описано выше, в некоторых примерах, блок кодирования сигналов яркости и блоки кодирования сигналов цветности представляют собой компоненты сигнала яркости и сигнала цветности CU. В некоторых примерах, блок кодирования сигналов яркости и блоки кодирования сигналов цветности представляют собой компоненты сигнала яркости и сигнала цветности PU.

[0195] В некоторых примерах, операции, выполняемые относительно блока кодирования сигналов яркости, не должны повторяться для блоков кодирования сигналов цветности. В качестве одного примера, операции для того, чтобы идентифицировать вектор движения (MV) и опорный кадр для блока кодирования сигналов яркости, не должны повторяться для идентификации MV и опорного кадра для блоков сигналов цветности. Наоборот, MV для блока кодирования сигналов яркости может масштабироваться с возможностью определять MV для блоков сигналов цветности, и опорный кадр может быть идентичным. В качестве другого примера, процесс внутреннего прогнозирования может быть идентичным для блока кодирования сигналов яркости и блоков кодирования сигналов цветности.

[0196] Видеокодер 200 представляет пример устройства, выполненного с возможностью кодировать видеоданные, включающего в себя запоминающее устройство, выполненное с возможностью сохранять видеоданные, и один или более модулей обработки, реализованных в схеме и выполненных с возможностью определять то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков, и кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока.

[0197] Фиг. 10 является блок-схемой, иллюстрирующей примерный видеодекодер 300, который может выполнять технологии этого раскрытия сущности. Фиг. 10 предоставляется для целей пояснения и не является ограничением технологий, проиллюстрированных и описанных в общих чертах в этом раскрытии сущности. Для целей пояснения, это раскрытие сущности описывает видеодекодер 300 согласно технологиям JEM, VVC и HEVC. Тем не менее, технологии этого раскрытия сущности могут выполняться посредством устройств кодирования видео, которые сконфигурированы для других стандартов кодирования видео.

[0198] В примере по фиг. 10, видеодекодер 300 включает в себя буферное запоминающее устройство 320 кодированных кадров (CPB), модуль 302 энтропийного декодирования, модуль 304 обработки прогнозирования, модуль 306 обратного квантования, модуль 308 обработки обратного преобразования, модуль 310 восстановления, модуль 312 фильтрации и буфер 314 декодированных кадров (DPB). Любое из запоминающего CPB-устройства 320, модуля 302 энтропийного декодирования, модуля 304 обработки прогнозирования, модуля 306 обратного квантования, модуля 308 обработки обратного преобразования, модуля 310 восстановления, модуля 312 фильтрации и DPB 314 может реализовываться в одном или более процессоров или в схеме обработки. Например, модули видеодекодера 300 могут реализовываться как одна или более схем или логических элементов в качестве части аппаратной схемы или в качестве части процессора, ASIC, FPGA. Кроме того, видеодекодер 300 может включать в себя дополнительные или альтернативные процессоры либо схему обработки для того, чтобы выполнять эти и другие функции.

[0199] Модуль 304 обработки прогнозирования включает в себя модуль 316 компенсации движения и модуль 318 внутреннего прогнозирования. Модуль 304 обработки прогнозирования может включать в себя дополнительные модули для того, чтобы выполнять прогнозирование в соответствии с другими режимами прогнозирования. В качестве примера, модуль 304 обработки прогнозирования может включать в себя модуль палитровой обработки, модуль внутриблочного копирования (который может составлять часть модуля 316 компенсации движения), модуль аффинной обработки, модуль обработки на основе линейной модели (LM) и т.п. В других примерах, видеодекодер 300 может включать в себя большее, меньшее число или другие функциональные компоненты.

[0200] Запоминающее CPB-устройство 320 может сохранять видеоданные, такие как кодированный поток видеобитов, который должен декодироваться посредством компонентов видеодекодера 300. Видеоданные, сохраненные в запоминающем CPB-устройстве 320, могут получаться, например, из машиночитаемого носителя 110 (фиг. 1). Запоминающее CPB-устройство 320 может включать в себя CPB, который сохраняет кодированные видеоданные (например, синтаксические элементы) из кодированного потока видеобитов. Кроме того, запоминающее CPB-устройство 320 может сохранять видеоданные, отличные от синтаксических элементов кодированного кадра, такие как временные данные, представляющие выводы из различных модулей видеодекодера 300. DPB 314, в общем, сохраняет декодированные кадры, которые видеодекодер 300 может выводить и/или использовать в качестве опорных видеоданных при декодировании последующих данных или кадров кодированного потока видеобитов. Запоминающее CPB-устройство 320 и DPB 314 могут формироваться посредством любого из множества запоминающих устройств, таких как DRAM, включающих в себя SDRAM, MRAM, RRAM или другие типы запоминающих устройств. Запоминающее CPB-устройство 320 и DPB 314 могут предоставляться посредством идентичного запоминающего устройства или отдельных запоминающих устройств. В различных примерах, запоминающее CPB-устройство 320 может быть внутримикросхемным с другими компонентами видеодекодера 300 или внемикросхемным относительно этих компонентов.

[0201] Дополнительно или альтернативно, в некоторых примерах, видеодекодер 300 может извлекать кодированные видеоданные из запоминающего устройства 120 (фиг. 1). Таким образом, запоминающее устройство 120 может сохранять данные, как пояснено выше для запоминающего CPB-устройства 320. Аналогично, запоминающее устройство 120 может сохранять инструкции, которые должны выполняться посредством видеодекодера 300, когда часть или вся функциональность видеодекодера 300 реализуется в программном обеспечении для выполнения посредством схемы обработки видеодекодера 300. В связи с этим, запоминающее CPB-устройство 320, наряду с другими компонентами видеодекодера 300 по фиг. 10, представляет примеры средств для приема потока битов.

[0202] Различные модули, показанные на фиг. 10, проиллюстрированы для того, чтобы помогать в понимании операций, выполняемых посредством видеодекодера 300. Модули могут реализовываться как фиксированные функциональные схемы, программируемые схемы либо комбинация вышеозначенного. Аналогично фиг. 9, фиксированные функциональные схемы означают схемы, которые предоставляют конкретную функциональность и предварительно установлены в отношении операций, которые могут выполняться. Программируемые схемы означают схемы, которые могут программироваться с возможностью выполнять различные задачи и предоставлять гибкую функциональность в операциях, которые могут выполняться. Например, программируемые схемы могут выполнять программное обеспечение или микропрограммное обеспечение, которое инструктирует программируемым схемам работать способом, заданным посредством инструкций программного обеспечения или микропрограммного обеспечения. Фиксированные функциональные схемы могут выполнять программные инструкции (например, чтобы принимать параметры или выводить параметры), но типы операций, которые выполняют фиксированные функциональные схемы, в общем, являются неизменными. В некоторых примерах, один или более модулей могут представлять собой различные схемные блоки (фиксированные функциональные или программируемые), и в некоторых примерах, один или более модулей могут представлять собой интегральные схемы.

[0203] Видеодекодер 300 может включать в себя ALU, EFU, цифровые схемы, аналоговые схемы и/или программируемые ядра, сформированные из программируемых схем. В примерах, в которых операции видеодекодера 300 выполняются посредством программного обеспечения, выполняющегося в программируемых схемах, внутримикросхемное или внемикросхемное запоминающее устройство может сохранять инструкции (например, объектный код) программного обеспечения, которые принимает и выполняет видеодекодер 300.

[0204] Модуль 302 энтропийного декодирования может принимать кодированные видеоданные из CPB и энтропийно декодировать видеоданные, чтобы воспроизводить синтаксические элементы. Модуль 304 обработки прогнозирования, модуль 306 обратного квантования, модуль 308 обработки обратного преобразования, модуль 310 восстановления и модуль 312 фильтрации могут формировать декодированные видеоданные на основе синтаксических элементов, извлеченных из потока битов.

[0205] В общем, видеодекодер 300 восстанавливает кадр на поблочной основе. Видеодекодер 300 может выполнять операцию восстановления для каждого блока отдельно (причем блок, в данный момент восстанавливаемый, т.е. декодируемый, может называться "текущим блоком").

[0206] Модуль 302 энтропийного декодирования может энтропийно декодировать синтаксические элементы, задающие квантованные коэффициенты преобразования блока квантованных коэффициентов преобразования, а также информацию преобразования, такую как параметр квантования (QP) и/или индикатор(ы) режима преобразования.

[0207] В соответствии с технологиями этого раскрытия сущности, видеодекодер 300 может принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования. Информация, указывающая то, сегментируется или нет остаточный блок, и информация, указывающая тип дерева сегментации для остаточного блока, может представлять собой синтаксические элементы, которые передают в служебных сигналах то, сегментируется или нет остаточный блок, и если да, тип дерева сегментации для остаточного блока.

[0208] В некоторых примерах, информация, указывающая тип дерева сегментации для остаточного блока, может представлять собой информацию индекса в наборе типов деревьев, и модуль 302 энтропийного декодирования может определять тип дерева сегментации на основе принимаемой информации индекса. Например, информация набора типов деревьев может включать в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева,

[0209] В некоторых примерах, поток битов, принимаемый посредством видеодекодера 300, дополнительно может включать в себя информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается, и/или то, остаточный блок симметрично разбивается или асимметрично разбивается.

[0210] Например, поток битов может включать в себя, для остаточного блока, флаг, передающий в служебных сигналах то, сегментируется или нет остаточный блок. Если флаг активируется, поток битов может включать в себя индекс в списке типов деревьев сегментации, чтобы указывать тип дерева сегментации для сегментации остаточного блока, к примеру, через несколько битов в индексе для списка следующих типов деревьев сегментации: сегментация на основе дерева квадрантов, сегментация на основе двоичного дерева, сегментация на основе троичного дерева и сегментация на 4 TU. Поток битов затем может также включать в себя, при необходимости, флаги, передающие в служебных сигналах то, остаточный блок горизонтально разбивается или вертикально разбивается, и то, остаточный блок симметрично разбивается или асимметрично разбивается.

[0211] Модуль 302 энтропийного декодирования может энтропийно декодировать информацию сегментации, ассоциированную с остаточным блоком для текущего блока данных, декодируемого из потока битов. В частности, модуль 302 энтропийного декодирования может декодировать информацию сегментации, чтобы определять то, сегментируется или нет остаточный блок. Если информация сегментации для остаточных данных в потоке битов передает в служебных сигналах то, что остаточный блок сегментируется, модуль 302 энтропийного декодирования дополнительно может декодировать информацию сегментации, чтобы определять тип дерева сегментации для остаточного блока. В зависимости от типа дерева сегментации для остаточного блока, модуль 302 энтропийного декодирования может декодировать информацию сегментации для остаточного блока в потоке битов, чтобы определять то, остаточный блок горизонтально разбивается или вертикально разбивается, а также то, остаточный блок симметрично разбивается или асимметрично разбивается. В связи с этим, модуль 302 энтропийного декодирования, наряду с другими компонентами видеодекодера 300 по фиг. 10, представляет примеры средств для определения того, что остаточный блок сегментируется согласно типу дерева сегментации на множество остаточных субблоков.

[0212] Помимо этого, в некоторых примерах, модуль 302 энтропийного декодирования также может, для остаточного блока для текущего блока данных, энтропийно декодировать другую информацию, ассоциированную с остаточным блоком. Например, модуль 302 энтропийного декодирования может декодировать индикатор преобразования, которое выбирается для каждого из множества остаточных субблоков, получающихся в результате сегментации остаточного блока, к примеру, MTS-индекс для каждого из соответствующих остаточных субблоков.

[0213] В другом примере, модуль 302 энтропийного декодирования может декодировать индикатор преобразования, которое выбирается для остаточного блока, при этом выбранное преобразование применяется к каждому из множества остаточных субблоков, получающихся в результате сегментации остаточного блока. Такое преобразование, которое выбирается для остаточного блока, может передаваться в служебных сигналах в потоке битов на уровне остаточного блока, в силу этого сокращая объем служебной информации по необходимости указывать отдельные преобразования для каждого из остаточных субблоков при сохранении способности сегментации остаточного блока на множество остаточных субблоков.

[0214] В соответствии с технологиями настоящего раскрытия сущности, модуль 302 энтропийного декодирования может логически выводить или ограничивать флаг кодированного блока (cbf) и/или флаг пропуска преобразования для каждого из множества остаточных субблоков на основе такой информации, как режим прогнозирования для текущего блока, тип дерева сегментации для остаточного блока, тип сегментации для остаточного блока или любая другая вспомогательная информация, включенная в поток битов. Флаг кодированного блока может передавать в служебных сигналах информацию относительно того, передается или нет, по меньшей мере, один уровень преобразования ненулевых коэффициентов для остаточного субблока. Флаг пропуска преобразования может передавать в служебных сигналах информацию относительно того, пропускается или нет преобразование для остаточного субблока. Например, модуль 302 энтропийного декодирования может ограничивать остаточный субблок таким образом, что он всегда имеет деактивированный флаг кодированного блока (флаг=0), так что передача служебных сигналов cbf не требуется для остаточного субблока.

[0215] Модуль 302 энтропийного декодирования может предоставлять эту информацию, ассоциированную с остаточным блоком, в модуль 308 обработки обратного преобразования. Таким образом, после того, как модуль 306 обратного квантования формирует блок коэффициентов преобразования, модуль 308 обработки обратного преобразования может использовать эту информацию, ассоциированную с остаточным блоком наряду с одним или более блоков коэффициентов преобразования, предоставленных посредством модуля 306 обратного квантования для того, чтобы формировать остаточный блок, ассоциированный с текущим блоком.

[0216] Модуль 306 обратного квантования может использовать QP, ассоциированный с блоком квантованных коэффициентов преобразования, чтобы определять степень квантования и, аналогично, степень обратного квантования для модуля 306 обратного квантования, которая должна применяться. Модуль 306 обратного квантования, например, может выполнять операцию побитового сдвига влево, чтобы обратно квантовать квантованные коэффициенты преобразования. Модуль 306 обратного квантования в силу этого может формировать блок коэффициентов преобразования, включающий в себя коэффициенты преобразования.

[0217] После того, как модуль 306 обратного квантования формирует блок коэффициентов преобразования, модуль 308 обработки обратного преобразования может применять одно или более обратных преобразований к блоку коэффициентов преобразования, чтобы формировать остаточный блок, ассоциированный с текущим блоком. Например, модуль 308 обработки обратного преобразования может применять обратное DCT, обратное целочисленное преобразование, обратное преобразование Карунена-Лоэва (KLT), обратное вращательное преобразование, обратное направленное преобразование или другое обратное преобразование к блоку коэффициентов преобразования. В связи с этим, модуль 308 обработки обратного преобразования, наряду с другими компонентами видеодекодера 300 по фиг. 10, представляет примеры средств для формирования остаточных данных для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков.

[0218] В соответствии с технологиями этого раскрытия сущности, модуль 308 обработки обратного преобразования может принимать информацию сегментации, ассоциированную с остаточным блоком для текущего блока данных, из модуля 302 энтропийного декодирования, и может определять сегментацию остаточного блока на множество остаточных субблоков. Как пояснено выше, модуль 302 энтропийного декодирования может декодировать информацию сегментации для остаточного блока текущего блока, которая указывает то, сегментируется или нет остаточный блок, то, остаточный блок горизонтально разбивается или вертикально разбивается, и то, остаточный блок симметрично разбивается или асимметрично разбивается. Модуль 308 обратной обработки может использовать эту информацию для того, чтобы определять множество остаточных субблоков, получающихся в результате сегментации остаточного блока для текущих блочных данных.

[0219] Модуль 308 обработки обратного преобразования может применять одно или более обратных преобразований к одному или более блоков коэффициентов преобразования, по меньшей мере, частично на основе информации сегментации, чтобы формировать остаточный блок для текущего блока видеоданных, что включает в себя формирование множества остаточных субблоков, получающихся в результате сегментации остаточного блока для текущих блочных данных. Таким образом, модуль 308 обработки обратного преобразования формирует остаточные данные для текущего блока видеоданных.

[0220] В некоторых примерах, модуль 308 обработки обратного преобразования может применять одно или более обратных преобразований, указываемых посредством информации, декодированной из потока битов посредством модуля 302 энтропийного декодирования. Например, если поток битов включает в себя информацию, которая указывает преобразование, которое выбирается для каждого из множества остаточных субблоков, получающихся в результате сегментации остаточного блока, к примеру, MTS-индекс для каждого из соответствующих остаточных субблоков, в таком случае модуль 308 обработки обратного преобразования может применять выбранные преобразования ко множеству остаточных субблоков. В другом примере, если поток битов включает в себя информацию, которая указывает преобразование, которое выбирается для остаточного блока, в таком случае модуль 308 обработки обратного преобразования может применять выбранное преобразование к каждому из множества остаточных субблоков в остаточном блоке.

[0221] В некоторых примерах, модуль 308 обработки обратного преобразования может логически выводить или ограничивать ядра преобразования для множества остаточных субблоков, по меньшей мере, в одном из: горизонтального направления или вертикального направления, по меньшей мере, частично на основе информации сегментации для остаточного блока, которая включается в поток битов, и/или другой вспомогательной информации. Логический вывод или ограничение ядер преобразования для множества остаточных субблоков включает в себя логический вывод или ограничение MTS-индекса или определения преобразования для множества остаточных субблоков, по меньшей мере, частично на основе информации сегментации для остаточного блока, которая включается в поток битов, и/или другой вспомогательной информации.

[0222] Логический вывод или ограничение ядер преобразования означает то, что ядра преобразования явно не передаются в служебных сигналах в потоке битов. Вместо этого, ядра преобразования могут логически выводиться или ограничиваться, по меньшей мере, частично на основе другой информации в потоке битов. В одном примере, ядра преобразования могут логически выводиться или ограничиваться на основе типа дерева сегментации остаточного блока, передаваемого в служебных сигналах посредством потока битов, к примеру, на основе того, сегментируется остаточный блок согласно сегментации на основе двоичного дерева, сегментации на 4 TU или сегментации на основе троичного дерева, на основе типа сегментации остаточного блока, к примеру, на основе того, остаточное дерево горизонтально разбивается или вертикально разбивается, и/или на основе любой другой вспомогательной информации, передаваемой в служебных сигналах в потоке битов. Модуль 308 обработки обратного преобразования может применять одно или более обратных преобразований к одному или более блоков коэффициентов преобразования, по меньшей мере, частично на основе логически выведенных или ограниченных ядер преобразования для множества остаточных субблоков, чтобы формировать остаточный блок для текущего блока видеоданных.

[0223] В некоторых примерах, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков, по меньшей мере, частично на основе информации сегментации для остаточного блока, которая включается в поток битов, и/или другой вспомогательной информации, и модуль 308 обработки обратного преобразования может применять одно или более обратных преобразований к одному или более блоков коэффициентов преобразования, по меньшей мере, частично на основе логически выведенных или ограниченных контекстных назначений для множества остаточных субблоков, чтобы формировать остаточный блок для текущего блока видеоданных.

[0224] Когда контекстные назначения логически выводятся или ограничиваются, выбор преобразования для множества остаточных субблоков по-прежнему может быть возможным, при этом контексты назначаются для того, чтобы передавать в служебных сигналах такие выборы преобразования. Назначенный контекст может представлять собой отличающийся отдельный контекст относительно уже существующего контекста в передаче служебных сигналов выбора преобразования. Как результат, служебная информация преобразования может более эффективно кодироваться, и все варианты выбора преобразования могут быть доступными.

[0225] Логический вывод или ограничение контекстных назначений для множества остаточных субблоков означает то, что контекстные назначения явно не передаются в служебных сигналах в потоке битов. Вместо этого, контекстные назначения могут логически выводиться или ограничиваться, по меньшей мере, частично на основе другой информации в потоке битов. В одном примере, контекстные назначения могут логически выводиться или ограничиваться на основе типа дерева сегментации остаточного блока, передаваемого в служебных сигналах посредством потока битов, к примеру, на основе того, сегментируется остаточный блок согласно сегментации на основе дерева квадрантов, сегментации на основе двоичного дерева, сегментации на 4 TU или сегментации на основе троичного дерева, на основе типа сегментации остаточного блока, к примеру, на основе того, остаточное дерево горизонтально разбивается или вертикально разбивается, и/или на основе любой другой вспомогательной информации, передаваемой в служебных сигналах в потоке битов. В некоторых примерах, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков для компонентов сигнала яркости текущего блока и/или компонентов сигнала цветности текущего блока.

[0226] В одном примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DCT-8 используется в качестве как горизонтального преобразования, так и вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, таким образом, что DST-7 используется в горизонтальном преобразовании, и DST-8 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков, таким образом, что DCT-8 используется в горизонтальном преобразовании, и DST-7 используется в качестве вертикального преобразования для третьего остаточного субблока из множества остаточных субблоков, и таким образом, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для четвертого остаточного субблока из множества остаточных субблоков;.

[0227] В другом примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для каждого из множества остаточных субблоков.

[0228] В другом примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе дерева квадрантов на четыре остаточных субблока, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DCT-2 используется в качестве, по меньшей мере, одного из: горизонтального преобразования или вертикального преобразования для одного или более из множества остаточных субблоков. Таким образом, например, DCT-2 может логически выводиться или ограничиваться в качестве горизонтального преобразования, и DST-7 или DCT-8 может логически выводиться или ограничиваться в качестве вертикального преобразования для одного или более из множества остаточных субблоков, и DCT-2 может логически выводиться или ограничиваться в качестве вертикального преобразования, и DST-7 или DCT-8 может логически выводиться или ограничиваться в качестве горизонтального преобразования для одного или более из множества остаточных субблоков.

[0229] В другом примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, и то, что тип сегментации для остаточного блока представляет собой горизонтальное разбиение, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DCT-2 используется в качестве горизонтального преобразования, и DCT-8 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и таким образом, что DCT-2 используется в качестве горизонтального преобразования, и DST-7 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0230] В другом примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, и то, что тип сегментации для остаточного блока представляет собой вертикальное разбиение, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DCT-8 используется в качестве горизонтального преобразования, и DCT-2 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и таким образом, что DST-7 используется в качестве горизонтального преобразования, и DCT-2 используется в качестве вертикального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0231] В другом примере, когда модуль 308 обработки обратного преобразования определяет то, что остаточный блок сегментируется согласно сегментации на основе двоичного дерева на два остаточных субблока, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества субблоков сегмента таким образом, что одно из: DST-7 или DCT-8 используется в качестве, по меньшей мере, одного из: горизонтального преобразования или вертикального преобразования для одного или более из множества остаточных субблоков. Использование DST-7 или DCT-8 может осуществляться вместо DCT-2 в примерах сегментации на основе двоичного дерева, описанных выше.

[0232] В некоторых примерах, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для остаточного блока, по меньшей мере, частично на основе размера остаточного блока. Например, когда остаточный блок имеет небольшой размер, к примеру, меньший или равный 16 выборкам (например, блок 4×4, который имеет размер 16 выборок), и когда остаточный блок сегментируется согласно сегментации на основе двоичного дерева, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DST-7 используется в качестве как горизонтального преобразования, так и вертикального преобразования для каждого из множества остаточных субблоков.

[0233] В другом примере, когда остаточный блок имеет большой размер, к примеру, больший или равный 16 выборкам (например, блок 4×8, который имеет размер 32 выборок), и когда остаточный блок сегментируется согласно сегментации на основе двоичного дерева, модуль 308 обработки обратного преобразования может логически выводить или ограничивать контекстные назначения для множества остаточных субблоков таким образом, что DCT-2 используется в качестве горизонтального преобразования, и DST-7 используется в качестве вертикального преобразования для первого остаточного субблока из множества остаточных субблоков, и таким образом, что DCT-2 используется в качестве вертикального преобразования, и DST-7 используется в качестве горизонтального преобразования для второго остаточного субблока из множества остаточных субблоков.

[0234] В другом примере, когда остаточный блок имеет размер по горизонтали или размер по вертикали, который меньше или равен 2 выборкам (например, блок 2×8), модуль 308 обработки обратного преобразования может логически выводить или ограничивать то, что преобразование не должно применяться ко множеству остаточных субблоков.

[0235] В некоторых примерах, модуль 308 обработки обратного преобразования может логически выводить контекстные назначения для множества остаточных субблоков на основе того, что текущий блок представляет собой внутренне прогнозированный видеоблок. В других примерах, модуль 308 обработки обратного преобразования может логически выводить контекстные назначения для множества остаточных субблоков на основе того, что текущий блок представляет собой взаимно прогнозированный видеоблок. В другом примере, модуль 308 обработки обратного преобразования может логически выводить контекстные назначения для множества остаточных субблоков на основе того, что текущий блок представляет собой взаимно прогнозированный видеоблок или внутренне прогнозированный видеоблок.

[0236] Кроме того, модуль 304 обработки прогнозирования формирует прогнозный блок согласно синтаксическим элементам с информацией прогнозирования, которые энтропийно декодированы посредством модуля 302 энтропийного декодирования. Например, если синтаксические элементы с информацией прогнозирования указывают то, что текущий блок взаимно прогнозируется, модуль 316 компенсации движения может формировать прогнозный блок. В этом случае, синтаксические элементы с информацией прогнозирования могут указывать опорный кадр в DPB 314, из которого можно извлекать опорный блок, а также вектор движения, идентифицирующий местоположение опорного блока в опорном кадре относительно местоположения текущего блока в текущем кадре. Модуль 316 компенсации движения, в общем, может выполнять процесс взаимного прогнозирования таким способом, который является практически аналогичным способу, описанному относительно модуля 224 компенсации движения (фиг. 9).

[0237] В качестве другого примера, если синтаксические элементы с информацией прогнозирования указывают то, что текущий блок внутренне прогнозируется, модуль 318 внутреннего прогнозирования может формировать прогнозный блок согласно режиму внутреннего прогнозирования, указываемому посредством синтаксических элементов с информацией прогнозирования. С другой стороны, модуль 318 внутреннего прогнозирования, в общем, может выполнять процесс внутреннего прогнозирования таким способом, который является практически аналогичным способу, описанному относительно модуля 226 внутреннего прогнозирования (фиг. 9). Модуль 318 внутреннего прогнозирования может извлекать данные соседних выборок по отношению к текущему блоку из DPB 314.

[0238] Модуль 310 восстановления может восстанавливать текущий блок с использованием прогнозного блока и остаточного блока. Например, модуль 310 восстановления может суммировать выборки остаточного блока с соответствующими выборками прогнозного блока, чтобы восстанавливать текущий блок. В связи с этим, модуль 310 восстановления, наряду с другими компонентами видеодекодера 300 по фиг. 10, представляет примеры средств для декодирования текущего блока с использованием остаточных данных.

[0239] Модуль 312 фильтрации может выполнять одну или более операций фильтрации для восстановленных блоков. Например, модуль 312 фильтрации может выполнять операции удаления блочности, чтобы уменьшать артефакты блочности вдоль краев восстановленных блоков. Операции модуля 312 фильтрации не обязательно выполняются во всех примерах.

[0240] Видеодекодер 300 может сохранять восстановленные блоки в DPB 314. Например, в примерах, в которых операции модуля 312 фильтрации не выполняются, модуль 310 восстановления может сохранять восстановленные блоки в DPB 314. В примерах, в которых операции модуля 312 фильтрации выполняются, модуль 312 фильтрации может сохранять фильтрованные восстановленные блоки в DPB 314. Как пояснено выше, DPB 314 может предоставлять ссылочную информацию, такую как выборки текущего кадра для внутреннего прогнозирования и ранее декодированных кадров для последующей компенсации движения, в модуль 304 обработки прогнозирования. Кроме того, видеодекодер 300 может выводить декодированные кадры (например, декодированное видео) из DPB 314 для последующего представления на устройстве отображения, таком как устройство 118 отображения по фиг. 1.

[0241] Таким образом, видеодекодер 300 представляет пример устройства декодирования видео, включающего в себя запоминающее устройство, выполненное с возможностью сохранять видеоданные, и один или более модулей обработки, реализованных в схеме и выполненных с возможностью принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования; определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множество остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации; формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков; и декодировать текущий блок с использованием остаточных данных.

[0242] Фиг. 11 является блок-схемой последовательности операций, иллюстрирующей примерный способ для кодирования текущего блока. Текущий блок может содержать текущую CU. Хотя описывается относительно видеокодера 200 (фиг. 1 и 9), следует понимать, что другие устройства могут быть выполнены с возможностью выполнять способ, аналогичный способу по фиг. 11.

[0243] В этом примере, видеокодер 200 первоначально прогнозирует текущий блок (350). Например, видеокодер 200 может формировать блок прогнозирования для текущего блока. Видеокодер 200 затем может вычислять остаточный блок для текущего блока (352). Чтобы вычислять остаточный блок, видеокодер 200 может вычислять разность между исходным, некодированным блоком и блоком прогнозирования для текущего блока. В качестве части вычисления остаточного блока, видеокодер 200 может сегментировать остаточный блок на множество остаточных субблоков согласно, по меньшей мере, одному из следующего: сегментация на основе дерева квадрантов или сегментация на основе двоичного дерева. Если видеокодер 200 сегментирует остаточный блок согласно сегментации на основе двоичного дерева, видеокодер 200 может горизонтально сегментировать или вертикально сегментировать остаточный блок. Дополнительно, если видеокодер 200 сегментирует остаточный блок согласно сегментации на основе двоичного дерева, видеокодер 200 может симметрично сегментировать или асимметрично сегментировать остаточный блок.

[0244] Видеокодер 200 затем может преобразовывать и квантовать коэффициенты остаточного блока (354). Затем, видеокодер 200 может сканировать квантованные коэффициенты преобразования остаточного блока (356). В ходе сканирования или после сканирования, видеокодер 200 может энтропийно кодировать коэффициенты преобразования (358). Например, видеокодер 200 может кодировать коэффициенты преобразования с использованием CAVLC или CABAC. Видеокодер 200 затем может выводить энтропийно кодированные данные блока (360). Видеокодер 200 может выводить энтропийно кодированные данные блока в качестве потока битов. Поток битов может передавать в служебных сигналах для остаточного блока то, сегментируется или нет остаточный блок, тип дерева сегментации, используемый для того, чтобы сегментировать остаточный блок, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется.

[0245] Фиг. 12 является блок-схемой последовательности операций, иллюстрирующей примерный способ для декодирования текущего блока видеоданных. Текущий блок может содержать текущую CU. Хотя описывается относительно видеодекодера 300 (фиг. 1 и 10), следует понимать, что другие устройства могут быть выполнены с возможностью выполнять способ, аналогичный способу по фиг. 12.

[0246] Видеодекодер 300 может принимать энтропийно кодированные данные для текущего блока, такие как поток битов, который включает в себя энтропийно кодированную информацию прогнозирования и энтропийно кодированные данные для коэффициентов остаточного блока, соответствующего текущему блоку (370). Видеодекодер 300 может энтропийно декодировать энтропийно кодированные данные для того, чтобы определять информацию прогнозирования для текущего блока и воспроизводить коэффициенты остаточного блока (372). Видеодекодер 300 может определять то, включает или нет поток битов, для остаточного блока для текущего блока, в себя информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока.

[0247] Видеодекодер 300 может прогнозировать текущий блок (374), например, с использованием режима внутреннего или взаимного прогнозирования, как указано посредством информации прогнозирования для текущего блока, чтобы вычислять блок прогнозирования для текущего блока. Видеодекодер 300 затем может обратно сканировать воспроизведенные коэффициенты (376), чтобы создавать блок квантованных коэффициентов преобразования. Видеодекодер 300 затем может обратно квантовать и обратно преобразовывать коэффициенты для того, чтобы формировать остаточный блок (378). Видеодекодер 300 может использовать эту информацию относительно сегментации остаточного блока, чтобы логически выводить или ограничивать контекстное назначение и выбор преобразования для остаточного блока, чтобы обратно преобразовывать коэффициенты преобразования, чтобы формировать остаточный блок. Видеодекодер 300 может, в конечном счете, декодировать текущий блок посредством комбинирования блока прогнозирования и остаточного блока (380).

[0248] Фиг. 13 является блок-схемой последовательности операций, иллюстрирующей примерный способ для декодирования текущего блока данных, имеющих остаточный блок, который сегментируется согласно типу дерева сегментации. Хотя описывается относительно видеодекодера 300 (фиг. 1 и 10), следует понимать, что другие устройства могут быть выполнены с возможностью осуществлять способ, аналогичный способу по фиг. 13. В некоторых примерах, видеодекодер 300 может включать в себя одно или более из камеры, компьютера, мобильного устройства, широковещательного приемного устройства или абонентской приставки. В некоторых примерах, видеодекодер 300 включает в себя, по меньшей мере, одно из следующего: интегральная схема, микропроцессор или устройство беспроводной связи. В некоторых примерах, видеодекодер 300 включает в себя дисплей, выполненный с возможностью отображать декодированные видеоданные.

[0249] Видеодекодер 300 может принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом остаточный блок указывает разность между текущим блоком и блоком прогнозирования (400).

[0250] В некоторых примерах, прием информации, указывающей тип дерева сегментации может включать в себя прием информации индекса в наборе типов деревьев, и видеодекодер 300 может определять тип дерева сегментации на основе принимаемой информации индекса. В некоторых примерах, информация набора типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева. В некоторых примерах, определение типа дерева сегментации может включать в себя определение того, что тип дерева сегментации представляет собой одно из сегментации на основе двоичного дерева, и видеодекодер 300 может принимать информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

[0251] Видеодекодер 300 может определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, множество остаточных субблоков, на которые остаточный блок сегментируется согласно типу дерева сегментации (402).

[0252] Видеодекодер 300 может формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков (404). В некоторых примерах, видеодекодер 300 может логически выводить, из потока битов, ядра преобразования для множества остаточных субблоков, по меньшей мере, в одном из: горизонтального направления или вертикального направления, по меньшей мере, частично на основе одного из следующего: тип дерева сегментации для остаточного блока или тип сегментации для остаточного блока, при этом формирование остаточных данных для текущего блока дополнительно может включать в себя формирование остаточных данных, по меньшей мере, частично на основе ядер преобразования для множества остаточных субблоков.

[0253] Видеодекодер 300 может декодировать текущий блок с использованием остаточных данных (406).

[0254] В некоторых примерах, чтобы декодировать текущий блок с использованием остаточных данных, видеодекодер 300 может декодировать данные, представляющие режим прогнозирования для текущего блока, формировать блок прогнозирования для текущего блока с использованием режима прогнозирования и комбинировать блок прогнозирования с остаточными данными, чтобы воспроизводить текущий блок.

[0255] В некоторых примерах, текущий блок взаимно прогнозируется или внутренне прогнозируется. В некоторых примерах, текущий блок содержит блок сигналов яркости единицы кодирования (CU). В некоторых примерах, текущий блок представляет собой единицу кодирования (CU) или блок CU, остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU, и множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

[0256] Фиг. 14 является блок-схемой последовательности операций, иллюстрирующей примерный способ для кодирования текущего блока данных, имеющих остаточный блок, который сегментируется согласно типу дерева сегментации. Хотя описывается относительно видеокодера 200 (фиг. 1 и 9), следует понимать, что другие устройства могут быть выполнены с возможностью осуществлять способ, аналогичный способу по фиг. 14. В некоторых примерах, видеокодер 200 может включать в себя, по меньшей мере, одно из следующего: интегральная схема, микропроцессор или устройство беспроводной связи. В некоторых примерах, видеокодер 200 может включать в себя камеру, выполненную с возможностью захватывать видеоданные. В некоторых примерах, видеокодер 200 может включать в себя одно или более из камеры, компьютера, мобильного устройства, широковещательного приемного устройства или абонентской приставки.

[0257] Видеокодер 200 может определять то, что остаточный блок для текущего блока видеоданных сегментируется согласно типу дерева сегментации на множество остаточных субблоков (450). Видеокодер 200 может кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется (452).

[0258] В некоторых примерах, поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется. В некоторых примерах, информация набора типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева. В некоторых примерах, когда информация, указывающая тип дерева сегментации для остаточного блока, указывает то, что тип дерева сегментации представляет собой одно из сегментации на основе двоичного дерева, поток битов дополнительно может передавать в служебных сигналах информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

[0259] В некоторых примерах, текущий блок представляет собой единицу кодирования (CU) или блок CU, остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU, и множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

[0260] Следует признавать то, что в зависимости от примера, определенные этапы или события любой из технологий, описанных в данном документе, могут выполняться в другой последовательности, могут добавляться, объединяться или вообще исключаться (например, не все описанные этапы или события требуются для практической реализации технологий). Кроме того, в определенных примерах, этапы или события могут выполняться одновременно, например, посредством многопоточной обработки, обработки прерывания или посредством нескольких процессоров, а не последовательно.

[0261] В одном или более примеров, описанные функции могут реализовываться в аппаратных средствах, программном обеспечении, микропрограммном обеспечении или в любой комбинации вышеозначенного. При реализации в программном обеспечении, функции могут сохраняться или передаваться, в качестве одной или более инструкций или кода, по машиночитаемому носителю и выполняться посредством аппаратного модуля обработки. Машиночитаемые носители могут включать в себя машиночитаемые носители хранения данных, которые соответствуют материальному носителю, такие как носители хранения данных, или среды связи, включающие в себя любую среду, которая упрощает перенос компьютерной программы из одного места в другое, например, согласно протоколу связи. Таким образом, машиночитаемые носители, в общем, могут соответствовать (1) материальному машиночитаемому носителю хранения данных, который является энергонезависимым, или (2) среде связи, такой как сигнал или несущая. Носители хранения данных могут представлять собой любые доступные носители, к которым может осуществляться доступ посредством одного или более компьютеров или одного или более процессоров, с тем чтобы извлекать инструкции, код и/или структуры данных для реализации технологий, описанных в этом раскрытии сущности. Компьютерный программный продукт может включать в себя машиночитаемый носитель.

[0262] В качестве примера, а не ограничения, эти машиночитаемые носители хранения данных могут содержать RAM, ROM, EEPROM, CD-ROM или другое устройство хранения данных на оптических дисках, устройство хранения данных на магнитных дисках или другие магнитные устройства хранения, флэш-память либо любой другой носитель, который может использоваться для того, чтобы сохранять требуемый программный код в форме инструкций или структур данных, и к которому можно осуществлять доступ посредством компьютера. Кроме того, любое соединение корректно называть машиночитаемым носителем. Например, если инструкции передаются из веб-узла, сервера или другого удаленного источника с помощью коаксиального кабеля, оптоволоконного кабеля, "витой пары", цифровой абонентской линии (DSL) или беспроводных технологий, таких как инфракрасные, радиопередающие и микроволновые среды, то коаксиальный кабель, оптоволоконный кабель, "витая пара", DSL или беспроводные технологии, такие как инфракрасные, радиопередающие и микроволновые среды, включаются в определение носителя. Тем не менее, следует понимать, что машиночитаемые носители хранения данных и носители хранения данных не включают в себя соединения, несущие, сигналы или другие энергозависимые носители, а вместо этого направлены на энергонезависимые материальные носители хранения данных. Диск (disk) и диск (disc) при использовании в данном документе включают в себя компакт-диск (CD), лазерный диск, оптический диск, универсальный цифровой диск (DVD), гибкий диск и диск Blu-Ray, при этом диски (disk) обычно воспроизводят данные магнитно, тогда как диски (disc) обычно воспроизводят данные оптически с помощью лазеров. Комбинации вышеперечисленного также следует включать в число машиночитаемых носителей.

[0263] Инструкции могут выполняться посредством одного или более процессоров, например, одного или более процессоров цифровых сигналов (DSP), микропроцессоров общего назначения, специализированных интегральных схем (ASIC), программируемых пользователем вентильных матриц (FPGA) либо других эквивалентных интегральных или дискретных логических схем. Соответственно, термины "процессор" и "схема обработки", при использовании в данном документе могут означать любую из вышеприведенных структур или любую другую структуру, подходящую для реализации технологий, описанных в данном документе. Помимо этого, в некоторых аспектах функциональность, описанная в данном документе, может предоставляться в рамках специализированных аппаратных и/или программных модулей, выполненных с возможностью кодирования или декодирования либо встроенных в комбинированный кодек. Кроме того, технологии могут полностью реализовываться в одной или более схем или логических элементов.

[0264] Технологии этого раскрытия сущности могут реализовываться в широком спектре устройств или оборудования, в том числе в беспроводном переносном телефоне, в интегральной схеме (IC), или в наборе IC (к примеру, в наборе микросхем). Различные компоненты, модули или блоки описываются в этом раскрытии сущности для того, чтобы подчеркивать функциональные аспекты устройств, выполненных с возможностью осуществлять раскрытые технологии, но необязательно требуют реализации посредством различных аппаратных модулей. Наоборот, как описано выше, различные модули могут комбинироваться в аппаратный модуль кодека или предоставляться посредством набора взаимодействующих аппаратных модулей, включающих в себя один или более процессоров, как описано выше, в сочетании с надлежащим программным обеспечением и/или микропрограммным обеспечением.

[0265] Выше описаны различные примеры. Эти и другие примеры находятся в пределах объема прилагаемой формулы изобретения.

Изобретение относится к средствам для кодирования видео. Технический результат заключается в повышении эффективности кодирования видео. Логически выводят остаточный блок для текущего блока видеоданных согласно типу дерева сегментации на множество остаточных субблоков. Определяют, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков, типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления. Кодируют поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется, при этом информация, указывающая тип дерева сегментации связана только с остаточным блоком. 6 н. и 32 з.п. ф-лы, 17 ил.

1. Способ декодирования видеоданных, при этом способ содержит этапы, на которых:

принимают, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом информация, указывающая тип дерева сегментации связана только с остаточным блоком, и при этом остаточный блок указывает на разницу между текущим блоком и блоком прогнозирования;

определяют, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, сегментацию остаточного блока на множество остаточных субблоков согласно типу дерева сегментации;

логически выводят, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков и без приема в потоке битов для остаточного блока, синтаксический элемент, определенно указывающий типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

формируют остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков и использования логически выведенного ядра преобразования; и

декодируют текущий блок с использованием остаточных данных.

2. Способ по п. 1, в котором прием информации, указывающей тип дерева сегментации, содержит этап, на котором принимают информацию индекса в наборе типов деревьев, при этом способ дополнительно содержит этап, на котором определяют тип дерева сегментации на основе принимаемой информации индекса.

3. Способ по п. 2, в котором набор типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева.

4. Способ по п. 2, в котором определение типа дерева сегментации содержит определение того, что тип дерева сегментации представляет собой сегментацию на основе двоичного дерева, при этом способ дополнительно содержит этап, на котором принимают информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

5. Способ по п. 1, в котором текущий блок взаимно прогнозируется или внутренне прогнозируется.

6. Способ по п. 1, в котором текущий блок содержит блок сигналов яркости единицы кодирования (CU).

7. Способ по п. 1, в котором:

текущий блок представляет собой единицу кодирования (CU) или блок CU;

остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU; и

множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

8. Способ по п. 1, в котором декодирование текущего блока содержит этапы, на которых:

декодируют данные, представляющие режим прогнозирования для текущего блока;

формируют блок прогнозирования для текущего блока с использованием режима прогнозирования; и

комбинируют блок прогнозирования с остаточными данными, чтобы воспроизводить текущий блок.

9. Устройство для декодирования видеоданных, при этом устройство содержит:

запоминающее устройство, выполненное с возможностью сохранять видеоданные; и

процессор, реализованный в схеме и выполненный с возможностью:

принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом информация, указывающая тип дерева сегментации, связана только с остаточным блоком, и при этом остаточный блок указывает на разницу между текущим блоком и блоком прогнозирования;

определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, сегментацию остаточного блока на множество остаточных субблоков согласно типу дерева сегментации;

логически выводить, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков и без приема в потоке битов для остаточного блока, синтаксический элемент, определенно указывающий типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков и использования логически выведенного ядра преобразования; и

декодировать текущий блок с использованием остаточных данных.

10. Устройство по п. 9, в котором:

процессор, выполненный с возможностью принимать информацию, указывающую тип дерева сегментации, дополнительно выполнен с возможностью принимать информацию индекса в наборе типов деревьев; и

процессор дополнительно выполнен с возможностью определять тип дерева сегментации на основе принимаемой информации индекса.

11. Устройство по п. 10, в котором набор типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева.

12. Устройство по п. 10, в котором:

процессор, выполненный с возможностью определять тип дерева сегментации, дополнительно выполнен с возможностью определять то, что тип дерева сегментации представляет собой сегментацию на основе двоичного дерева; и

процессор дополнительно выполнен с возможностью принимать информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

13. Устройство по п. 9, в котором текущий блок взаимно прогнозируется или внутренне прогнозируется.

14. Устройство по п. 9, в котором текущий блок содержит блок сигналов яркости единицы кодирования (CU).

15. Устройство по п. 9, в котором:

текущий блок представляет собой единицу кодирования (CU) или блок CU;

остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU; и

множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

16. Устройство по п. 9, в котором процессор, выполненный с возможностью декодировать текущий блок, дополнительно выполнен с возможностью:

декодировать данные, представляющие режим прогнозирования для текущего блока;

формировать блок прогнозирования для текущего блока с использованием режима прогнозирования; и

комбинировать блок прогнозирования с остаточными данными, чтобы воспроизводить текущий блок.

17. Устройство по п. 9, дополнительно содержащее дисплей, выполненный с возможностью отображать декодированный текущий блок.

18. Устройство по п. 9, при этом устройство содержит одно или более из камеры, компьютера, мобильного устройства, широковещательного приемного устройства или абонентской приставки.

19. Устройство по п. 9, при этом устройство содержит по меньшей мере одно из следующего:

интегральная схема;

микропроцессор; или

устройство беспроводной связи.

20. Энергонезависимый машиночитаемый носитель хранения данных, имеющий сохраненные инструкции, которые при выполнении инструктируют процессору:

принимать, в потоке битов, который содержит кодированное представление видеоданных, информацию, указывающую то, сегментируется или нет остаточный блок, и информацию, указывающую тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом информация, указывающая тип дерева сегментации, связана только с остаточным блоком, и при этом остаточный блок указывает на разницу между текущим блоком и блоком прогнозирования;

определять, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, сегментацию остаточного блока на множество остаточных субблоков согласно типу дерева сегментации;

логически выводить, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков и без приема в потоке битов для остаточного блока, синтаксический элемент, определенно указывающий типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

формировать остаточные данные для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков и использования логически выведенного ядра преобразования; и

декодировать текущий блок с использованием остаточных данных.

21. Устройство для декодирования видеоданных, при этом устройство содержит:

средство для приема, в потоке битов, который содержит кодированное представление видеоданных, информации, указывающей то, сегментируется или нет остаточный блок, и информации, указывающей тип дерева сегментации для остаточного блока, на основе сегментации остаточного блока, при этом информация, указывающая тип дерева сегментации, связана только с остаточным блоком, и при этом остаточный блок указывает на разницу между текущим блоком и блоком прогнозирования;

средство для определения, на основе принимаемой информации касательно того, что остаточный блок сегментируется, и типа дерева сегментации для остаточного блока, сегментацию остаточного блока на множество остаточных субблоков согласно типу дерева сегментации;

средство для логического выведения, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков и без приема в потоке битов для остаточного блока, синтаксического элемента, определенно указывающего типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

средство для формирования остаточных данных для текущего блока, по меньшей мере, частично на основе сегментации остаточного блока согласно типу дерева сегментации на множество остаточных субблоков и использования логически выведенного ядра преобразования; и

средство для декодирования текущего блока с использованием остаточных данных.

22. Способ кодирования видеоданных, при этом способ содержит этапы, на которых:

логически выводят остаточный блок для текущего блока видеоданных согласно типу дерева сегментации на множество остаточных субблоков; и

определяют, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков, типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

кодируют поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется, при этом информация, указывающая тип дерева сегментации, связана только с остаточным блоком, и при этом поток битов кодируется без индекса, передаваемого в служебных сигналах, для типов преобразования для множества остаточных субблоков.

23. Способ по п. 22, в котором

поток битов, который передает в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, включает в себя информацию индекса в наборе типов деревьев.

24. Способ по п. 23, в котором набор типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева.

25. Способ по п. 23, в котором,

когда информация, указывающая тип дерева сегментации для остаточного блока, указывает то, что тип дерева сегментации представляет собой сегментацию на основе двоичного дерева, поток битов дополнительно передает в служебных сигналах информацию, указывающую то, остаточный блок горизонтально разбивается или вертикально разбивается.

26. Способ по п. 22, в котором:

текущий блок представляет собой единицу кодирования (CU) или блок CU;

остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU; и

множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

27. Устройство для кодирования видеоданных, при этом устройство содержит:

запоминающее устройство, выполненное с возможностью сохранять видеоданные; и

процессор, реализованный в схеме и выполненный с возможностью:

логически выводить остаточный блок для текущего блока видеоданных согласно типу дерева сегментации на множество остаточных субблоков; и

определять, основываясь на определенной сегментации остаточного блока на множество остаточных субблоков, типы преобразования ядра преобразования для множества остаточных субблоков в по меньшей мере одном из горизонтального направления или вертикального направления;

кодировать поток битов в качестве кодированного представления видеоданных, которые передают в служебных сигналах информацию, указывающую то, сегментируется или нет остаточный блок, и дополнительно передают в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, который сегментируется, при этом информация, указывающая тип дерева сегментации, связана только с остаточным блоком, и при этом поток битов кодируется без индекса, передаваемого в служебных сигналах, для типов преобразования для множества остаточных субблоков.

28. Устройство по п. 27, в котором

поток битов, который передает в служебных сигналах информацию, указывающую тип дерева сегментации для остаточного блока, включает в себя информацию индекса в наборе типов деревьев.

29. Устройство по п. 28, в котором набор типов деревьев включает в себя одно или более из сегментации на основе дерева квадрантов и сегментации на основе двоичного дерева.

30. Устройство по п. 29, в котором,

когда поток битов передает в служебных сигналах то, что тип дерева сегментации для остаточного блока представляет собой сегментацию на основе двоичного дерева, поток битов дополнительно передает в служебных сигналах тип сегментации для остаточного блока, который указывает то, остаточный блок горизонтально разбивается или вертикально разбивается.

31. Устройство по п. 27, в котором:

текущий блок представляет собой единицу кодирования (CU) или блок CU;

остаточный блок для текущего блока представляет собой единицу преобразования (TU) или блок TU; и

множество остаточных субблоков представляют собой неквадратные суб-TU и имеют размер, отличающийся от размера CU.

32. Устройство по п. 27, дополнительно содержащее камеру, выполненную с возможностью захватывать видеоданные.

33. Устройство по п. 27, при этом устройство содержит одно или более из камеры, компьютера, мобильного устройства, широковещательного приемного устройства или абонентской приставки.

34. Устройство по п. 27, при этом устройство содержит по меньшей мере одно из следующего:

интегральная схема;

микропроцессор; или

устройство беспроводной связи.

35. Способ по п. 1, в котором типы преобразования включают в себя DST-7, DCT-8 или DCT-2.

36. Устройство по п. 9, в котором типы преобразования включают в себя DST-7, DCT-8 или DCT-2.

37. Способ по п. 22, в котором типы преобразования включают в себя DST-7, DCT-8 или DCT-2.

38. Устройство по п. 27, в котором типы преобразования включают в себя DST-7, DCT-8 или DCT-2.