РЕГИСТРАЦИЯ МЕДИЦИНСКОГО АТЛАСА Российский патент 2021 года по МПК G06T7/00 

ОБЛАСТЬ ТЕХНИКИ

[001] Настоящее изобретение относится к системе и способу обеспечения регистрации атласа при медицинской визуализации. Кроме того, настоящее изобретение относится к рабочей станции, содержащей систему. Кроме того, настоящее изобретение относится к компьютерочитаемому носителю, содержащему инструкции, вызывающие выполнение способа процессорной системой.

УРОВЕНЬ ТЕХНИКИ

[002] Известно обеспечение графической аннотации или сегментации медицинского изображения пациента путем регистрации медицинского атласа с указанным медицинским изображением. Например, медицинский атлас может содержать геометрическое описание органов, например контуров их границ, для конкретного поля обзора. Однако медицинские изображения полученные у разных пациентов, могут существенным образом отличаться вследствие того, что пациенты имеют органы разных форм и размеров. Таким образом, регистрацию медицинского атласа с медицинским изображением рассматривают как весьма непростую задачу.

[003] С математической точки зрения, регистрация медицинского атласа может быть описана как задача оптимизации, согласно которой должен быть определен набор значений параметра модели, которые определяют трансформацию или набор трансформаций медицинского атласа, который обеспечивает наилучшую регистрацию медицинского изображения, согласно функции совпадения. Было обнаружено, что одна из основных трудностей при такой регистрации медицинского атласа вызвана тем, что в большинстве функций совпадения идеальное совпадение получают лишь при идеальном соответствии между медицинским атлас и медицинским изображением. Постепенные улучшения могут вводить в заблуждение. А именно, задача оптимизации в целом не является выпуклой. Таким образом, оптимизаторы по методу градиентного спуска, вероятно, окажутся «застрявшими» в локальном минимуме. В то же время, оценка всех возможных (последовательностей отдельных) трансформаций нецелесообразна, поскольку это является трудноразрешимой с точки зрения математики задачей.

[004] Возможное решение вышеуказанной задачи описано в работе «Сегментация частей тела в частотной области применительно к магнитно-резонансным изображениям верхних дыхательных путей в режиме реального времени», Эрик Брешч и др., Труды IEEE по Медицинской визуализации, 28.3 (2009): 323-338 (“Region segmentation in the frequency domain applied to upper airway real-time magnetic resonance images" by Erik Bresch et al., Medical Imaging, IEEE Transactions on 28.3 (2009): 323-338). В этой работе описан способ регистрации атласа для сканированного изображения, полученным при помощи МРТ-сканирования, средней сагиттальной области голосового аппарата человека, в котором используют иерархию ограниченных трансформаций атласа. При этом, сначала выполняют грубые крупномасштабные выравнивания до тех пор, пока не может быть достигнуто какое-либо совпадение, и только потом выполняют более мелкомодульную деформацию. В работе используют последовательность из четырех различных, все менее и менее ограниченных операций деформации. Утверждается, что данное временное ограничение пространства трансформации приводит к сглаживанию энергетического ландшафта задачи оптимизации, что, в свою очередь, снижает риск «застревания» в локальном минимуме.

[005] Однако предложенное в вышеуказанной работе решение разработано лишь для данного конкретного атласа, причем эвристические составляющие обоснованы лишь эмпирическим путем. Применение подобных подходов к проблемам сопоставления разных атласов представляет собой медленную и трудоемкую операцию.

[006] В разделе 3.5 магистерской диссертации «Неопределенность при вероятностной регистрации изображений» Тайбех Лотфи Махьяри (“Uncertainty in Probabilistic Image Registration” by Tayebeh Lotfi Mahyari) описано использование обучения с подкреплением для управления итеративной процедурой регистрации изображений. Кроме того, в публикации «Улучшение вероятностной регистрации изображений посредством обучения с подкреплением и оценки неопределенности» Тайбех Лотфи и др. (“Improving Probabilistic Image Registration via Reinforcement Learning and Uncertainty Evaluation” by Tayebeh Lofti et al.) описан фреймворк для вероятностной регистрации изображений, который включает присвоение вероятностных распределений в пространственных трансформациях.

[007] Техническая база по глубоким нейронным сетям может быть взята из работы «Глубокие нейронные сети для анатомической сегментации головного мозга» Де Бребиссон Александре и др., 7 июня 2015 г. (“Deep neural networks for anatomical brain segmentation” by De Brebisson Alexandre et al, 7 June 2015). Техническая база по автоэнкодерам может быть взята из работы «Мультимодальная сегментация ткани головного мозга с использованием пакетированных шумоподавляющих автокодировщиков» авторства Ваидхья Киран и др., 5 октября 2015 г. (“Multi-modal Brain Tumor Segmentation Using Stacked Denoising Autoencoders” by Vaidhya Kiran et al., 5 October 2015). Техническая база по (глубокому) обучению с подкреплением может быть взята из публикации «Управление на уровне человека через глубокое обучение с подкреплением» в журнале «Nature», 26 февраля 2015 г. (“Human-level control through deep reinforcement learning” in Nature, 26 February 2015), и из руководства «Обучение с подкреплением: учебный объем руководства», 1 января 1996 г. (“Reinforcement Learning: A Tutorial Scope of Tutorial”, 1 January 1996).

РАСКРЫТИЕ СУЩНОСТИ ИЗОБРЕТЕНИЯ

[008] Было бы желательно располагать улучшенной системой или способом генерирования модели для регистрации атласа при медицинской визуализации.

[009] В первом аспекте настоящего изобретения представлена система для обеспечения регистрации атласа при медицинской визуализации, при этом указанная регистрация атласа включает сопоставление медицинского атласа с медицинским изображением, а система содержит:

первый входной интерфейс для получения доступа к данным атласа, определяющим медицинский атлас;

второй входной интерфейс для получения доступа к данным медицинских изображений;

процессор, выполненный с возможностью:

выполнения алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением;

определения пространства состояний для алгоритма обучения с подкреплением исходя из набора признаков, извлеченных из i) данных атласа и ii) данных изображения. Еще в одном аспекте настоящего изобретения представлена рабочая станция, содержащая систему.

Еще в одном аспекте настоящего изобретения представлен компьютерочитаемый носитель, содержащий кратковременные или некратковременные данные, представляющие модель для регистрации атласа при медицинской визуализации, сгенерированную системой.

[0010] Еще в одном аспекте настоящего изобретения представлен способ обеспечения регистрации атласа при медицинской визуализации, при этом указанная регистрация атласа включает этап сопоставления медицинского атласа с медицинским изображением, включающий:

получение доступа к данным атласа, определяющим медицинский атлас;

получение доступа к данным медицинских изображений;

выполнение алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением, и

определение пространства состояний для алгоритма обучения с подкреплением на основе набора признаков, извлеченных из i) данных атласа и ii) данных изображения.

[0011] Еще в одном аспекте настоящего изобретения представлен компьютерочитаемый носитель, содержащий кратковременные или некратковременные данные, представляющие инструкции, вызывающие выполнение способа процессорной системой.

[0012] Указанные выше меры включают получение доступа к данным изображения медицинского изображения пациента, полученного с помощью метода медицинской визуализации, такого как компьютерная томография (КТ), магнитно-резонансная томография (МРТ), ультразвуковое исследование (УЗИ), позитронно-эмиссионная томография (ПЭТ) и т.д. Кроме того, получают доступ к данным атласа, которые определяют медицинский атлас. Такое определение может быть в некотором роде само по себе известно в области регистрации медицинского атласа. Например, данные атласа могут содержать геометрическое описание контуров границ органов. Еще один пример заключается в том, что медицинский атлас может представлять собой шаблонное изображение, при этом данные атласа представляют собой данные о шаблонном изображении.

[0013] Модель для сопоставления медицинского атласа с медицинским изображением обучают с использованием алгоритма обучения с подкреплением (ОП). Алгоритмы обучения с подкреплением сами по себе известны из области машинного обучения, а также известно, что они используют обучающую модель, содержащую набор состояний среды, определяющий пространство состояний, и набор действий, определяющий пространство действий. В качестве выхода получают обученную модель, называемую математическим выражением или алгоритмом, параметры которой были обучены во время тренировки и которая выполнена с возможностью вычисления значения каждого возможного действия при заданном конкретном состоянии системы. Такие действия могут включать действия по трансформации, такие как сдвиги, вращения, деформации и т.д., которые могут быть ограничены, например, по диапазону, по амплитуде, по расстоянию и т.д. После генерирования модели ей может быть направлен запрос, например, с использованием алгоритма «исследуй-используй», значений по каждому действию трансформации при заданном конкретном состоянии. Например, наивысшее значение может представлять наивысшее вознаграждение и, таким образом, «наилучшее» действие по трансформации, в соответствии с функцией вознаграждения.

[0014] Функция вознаграждения, используемая в алгоритме ОП, может количественно выражать степень совпадения между трансформированным изображением медицинского атласа и медицинским изображением. Например, если изображения медицинского атласа представляют собой шаблонные изображения, функция вознаграждения может быть суммой абсолютных отличий (САО) между значениями пикселов медицинского изображения и трансформированного изображения медицинского атласа. В целом, функция вознаграждения может быть выбрана для сопоставления типа медицинского атласа, например, того, представлен ли медицинский атлас в виде изображений и/или же он представлен в виде геометрических данных.

[0015] Авторами настоящего изобретения было выявлено, что обучение с подкреплением (ОП) может быть направлено на решение задачи регистрации медицинского атласа, поскольку ОП хорошо подходит для моделирования так называемых отсроченных вознаграждений. А именно, совместное наличие глобального минимума вслед за одним или более локальными минимумами при регистрации медицинского атласа может представлять такие отсроченные вознаграждения, при этом вознаграждение (например, достигающее глобального минимума) может быть достигнуто только после отсрочки (например, уменьшения немедленного вознаграждения при переходе от локального минимума к глобальному минимуму).

[0016] Однако авторами настоящего изобретения дополнительно было выявлено, что ОП не может быть применен непосредственно в отношении задачи регистрации медицинского атласа, поскольку пространство состояний имеет слишком высокую размерность для известных алгоритмов ОП. А именно, пространство состояний, как правило, будет включать содержимое медицинского атласа и медицинских изображений, например, все его значения пикселов, что будет давать пространство состояний слишком большого размера и которое не будет подходить для ОП.

[0017] В соответствии с указанными выше мерами, пространство состояний определяют на основе признаков более высокого уровня вместе использования непосредственно данных атласа или данных изображения более низкого уровня. А именно, из данных атласа и данных изображения извлекают набор признаков. Таким образом, извлекают признаки, которые должны быть информативными и неповторяющимися, например, с использованием известных алгоритмов извлечения признаков, тем самым получая уменьшенное представление данных о медицинском атласе и изображении. Такое уменьшенное представление обеспечивает пространство состояний с более низкой размерностью. По сути, достигают уменьшения размерности пространства состояний.

[0018] Указанные выше меры обладают эффектом, заключающимся в получении модели для регистрации атласа при медицинской визуализации без использования или с уменьшенным использованием эвристического подхода. А именно, за счет использования подхода, основанного на машинном обучении, решение легко может быть применено для различных задач сопоставления атласов, например, при различных типах медицинских атласов и/или медицинских изображений. В частности, указанные выше меры обеспечивают возможность использования обучения с подкреплением в качестве алгоритма машинного обучения, который особенно хорошо подходит для задачи регистрации атласа и который может быть применен для этой задачи по меньшей мере на основе подходящего уменьшения пространства состояний.

[0019] Кроме того, процессор может быть выполнен с возможностью определения пространства действий для алгоритма обучения с подкреплением на основе заданного набора действий трансформации, которые доступны для применения к медицинскому атласу. Обучение с подкреплением может быть применено при регистрации атласа за счет обеспечения трансформаций в качестве действий. В настоящем документе термин «действие трансформации» может относиться к трансформации, которая представляет собой часть общей трансформации медицинского атласа в медицинское изображение. Например, действие трансформации может быть связано с выбранным контуром границы и применено только к нему. Еще один пример заключается в том, что одно действие трансформации может определять сдвиг выбранного контура границы, тогда как другое действие трансформации может определять вращение выбранного контура границы. Путем повторного направления запросов модели и выбора действий трансформации может быть получена последовательность действий трансформации, которая, при применении к медицинскому атласу, деформирует медицинский атлас таким образом, чтобы он совпал с медицинским изображением, тем самым получая регистрацию медицинского атласа с медицинским изображением. Пространство действий для алгоритма обучения с подкреплением может быть определено исходя из заданного набора действий трансформации, которые доступны для применения к медицинскому атласу. Например, набор действий трансформации может быть частью определения медицинского атласа. Конкретный пример заключается в том, что в дополнение к медицинскому атласу, определяющему контур или набор контуров, может быть определен набор возможных трансформаций этого контура или набора контуров посредством медицинского атласа и/или данных атласа.

[0020] Пространство действий может быть структурировано на разные уровни, где каждый из разных уровней содержит поднабор действий трансформации и где разные уровни формируют иерархию действий трансформации, в которой выбор последовательности действий трансформации алгоритмом обучения с подкреплением ограничен до снижающейся прогрессии в иерархии. Подобно пространству состояний, пространство действий также, вероятно, будет слишком большим для непосредственного применения к ОП. Авторами настоящего изобретения было выявлено, что иерархическое структурирование трансформаций, как описано в указанной выше работе «Сегментация частей тела в частотной области, применяемая к магнитно-резонансным изображениям верхних дыхательных путей в режиме реального времени», включенной в настоящий документ посредством ссылки касательно указанного иерархического структурирования, как описано в разделе IV.C «Процедура иерархического градиентного спуска», как правило, дает уменьшение размера пространства действий, поскольку количество последовательностей действий трансформации может быть уменьшено каждым из уровней, содержащим только поднабор всех доступных действий трансформации. Например, иерархия может идти от менее ограничивающих действий трансформации к более ограничивающим действиям трансформации. В конкретном примере наивысший уровень иерархии может содержать только действия глобальной или региональной трансформации, тогда как следующий уровень иерархии может содержать только действия локальной трансформации. В настоящем документе термины глобальный, региональный и локальный могут относиться к снижающейся пространственной степени, к которой применяют действия трансформации. Например, действие глобальной трансформации может применяться ко всем контурам границ на изображениях медицинского атласа, тогда как действие локальной трансформации может применяться только к выбранному контуру границы. В данном примере в сопроводительном пространстве действий после действия локальной трансформации не может следовать действие глобальной трансформации. Эффект от обеих мер заключается в том, что набор действий трансформации, который доступен в любой момент времени, например, при любом состоянии в пространстве состояний, поддается управлению для алгоритма ОП.

[0021] При необходимости, процессор выполнен с возможностью изучения набора признаков, подлежащих извлечению из данных атласа и данных изображения, с использованием алгоритма машинного обучения. Например, процессор может быть выполнен с возможностью применения сверточной нейронной сети (СНС) или автоэнкодера к данным атласа и данным изображения для определения набора признаков. СНС может представлять собой глубокую СНС. Автоэнкодер может представлять собой глубокий автоэнкодер. Было обнаружено, что подходы глубокого обучения, такие как глубокая СНС (которая подобна подходу «Deep Q Network», описанному в работе «Управление на уровне человека через глубокое обучение с подкреплением» в работе «Nature 518», 529-533, 26 февраля 2015 г.) и алгоритмы глубокого автоэнкодера, хорошо подходят для извлечения признаков из данных атласа и данных изображения. Следует отметить, что для глубокого автоэнкодера модель представления пространства состояний (автоэнкодера) может быть обучена независимо от алгоритма ОП. Если глубокая СНС используется непосредственно для запроса значения каждого действия при заданном состоянии, обучение глубокой СНС может быть выполнено посредством алгоритма ОП.

[0022] При необходимости, пространство действий содержит одно или более действий перехода, определяющих переходы между разными уровнями. За счет добавления действий перехода к одному или более уровням, агент для обучения с подкреплением в алгоритме ОП может оценивать действия на некотором уровне или переключаться на другой уровень для оценки действий другого уровня. При необходимости, процессор выполнен с возможностью осуществления указанного иерархического структурирования пространства действий с использованием алгоритма машинного обучения или с использованием заданных эвристических подходов.

[0023] При необходимости, процессор выполнен с возможностью определения пространства состояний для алгоритма обучения с подкреплением также на основе текущего уровня в пространстве действий. Текущий уровень в пространстве действий одновременно определяет текущее состояние в пространстве состояний. Это может обеспечить возможность обучения алгоритма ОП для трансформации медицинского атласа иерархическим способом, например, следуя от глобальных трансформаций к локальным трансформациям. Например, переменная текущего уровня может быть «прикреплена» к понятию медицинского атласа в случае глубокой СНС. В случае глубокого автоэнкодера, эта переменная может быть прикреплена к состоянию. В обоих случаях значение переменной текущего уровня может быть использовано в качестве ввода для агента ОП, что, в свою очередь, может обеспечить возможность ограничения количества действий трансформации, которые доступны в текущем состоянии.

[0024] При необходимости, процессор выполнен с возможностью определения пространства состояний для алгоритма обучения с подкреплением также на основе данных об опознавательных точках, определяющих опознавательные точки на медицинском атласе. В медицинском атласе могут быть представлены данные об опознавательных точках, определяющих опознавательные точки на изображении медицинского атласа, относящиеся к анатомическим структурам, которые могут быть использованы в качестве точек ориентации для расположения других анатомических структур. Такие опознавательные точки могут быть использованы непосредственно или опосредованно в качестве признаков для определения пространства состояний алгоритма обучения с подкреплением.

[0025] При необходимости, набор действий трансформации, который доступен для применения к медицинскому атласу, определен данными атласа.

[0026] При необходимости, алгоритм обучения с подкреплением представляет собой алгоритм глубокого обучения с подкреплением.

[0027] Специалистам в данной области техники будет ясно, что два или более из вышеуказанных вариантов реализации, вариантов осуществления и/или необязательных аспектов настоящего изобретения могут быть скомбинированы любым образом, считающимся полезным.

[0028] Модификации и вариации способа и/или компьютерной программы, которые соответствуют описанным модификациям и вариациями системы, могут быть осуществлены специалистом в данной области техники на основе настоящего описания.

[0029] Специалисту в данной области техники будет ясно, что система и способ могут быть применены к данным о многомерном изображении, например, к двухмерным (2D), трехмерным (3D) или четырехмерным (4D) изображениям, полученным с помощью различных средств получения, таких как, без ограничения, стандартная рентгеновская визуализация, компьютерная томография (КТ), магнитно-резонансная томография (МРТ), ультразвуковое исследование (УЗИ), позитронно-эмиссионная томография (ПЭТ), однофотонная эмиссионная компьютерная томография (ОЭКТ) и ядерная медицина (ЯМ).

КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ

[0030] Эти и другие аспекты настоящего изобретения станут очевидны и будут объяснены со ссылкой на вариант(ы) реализации, описанный(е) в качестве примера в представленном ниже описании и со ссылкой на сопроводительные чертежи, на которых:

[0031] на ФИГ. 1 показана система для обеспечения регистрации атласа при медицинской визуализации;

[0032] на ФИГ. 2А показаны анатомические структуры в речевом тракте человека;

[0033] на ФИГ. 2В показан медицинский атлас для речевого тракта человека;

[0034] на ФИГ. 2С показана модель изображения медицинского атласа;

[0035] на ФИГ. 3А показано медицинское изображение речевого тракта пациента-человека;

[0036] на ФИГ. 3В показано изображение медицинского атласа, наложенное на медицинское изображение, при этом медицинский атлас не был зарегистрирован с медицинским изображением или был зарегистрирован с ним лишь глобально;

[0037] на ФИГ. 3С показан медицинский атлас, который был зарегистрирован с медицинским изображением, в соответствии с моделью, обученной посредством обучения с подкреплением;

[0038] на ФИГ. 4 изображен способ оптимизации регистрации медицинского атласа;

[0039] на ФИГ. 5 показан способ обеспечения регистрации атласа при медицинской визуализации и

[0040] на ФИГ. 6 изображен компьютерочитаемый носитель, содержащий инструкции, вызывающие выполнение способа процессорной системой.

[0041] Следует отметить, что фигуры являются лишь схематичными и не подлежат масштабированию. Элементы на фигурах, которые соответствуют уже описанным элементам, имеют одинаковые ссылочные обозначения.

Перечень ссылочных обозначений

[0042] Следующий перечень ссылочных обозначений приведен для упрощения интерпретации чертежей и его не следует рассматривать в качестве ограничения пунктов формулы изобретения.

020 репозиторий данных атласа

022 данные атласа, определяющие медицинский атлас

040 репозиторий данных изображения

042 данные медицинских изображений

062 данные о модели, представляющие модель

100 система для обеспечения регистрации атласа

120 первый входной интерфейс

140 второй входной интерфейс

160 процессор

200 способ обеспечения регистрации атласа

210 получение доступа к данным атласа

220 получение доступа к данным изображения

230 определение пространства состояний

240 определение пространства действий

250 выполнение алгоритма ОП

260 компьютерочитаемый носитель

270 инструкции, хранящиеся в виде некратковременных данных

300 (незарегистрированный) медицинский атлас

302 зарегистрированный медицинский атлас

310 модель изображения медицинского атласа

320 медицинское изображение

ОСУЩЕСТВЛЕНИЕ ИЗОБРЕТЕНИЯ

[0043] На ФИГ. 1 показана система 100 для обеспечения регистрации атласа при медицинской визуализации. Показанная система 100 содержит первый входной интерфейс 120 для получения доступа к данным 022 атласа, определяющим медицинский атлас, и второй входной интерфейс 140 для получения доступа к данным 042 медицинских изображений. В примере по ФИГ. 1 показано, что доступ к обоим типам данных получают из отдельных репозиториев, а именно из репозитория 020 данных атласа и репозитория 040 данных изображения. Например, репозиторий 020 данных атласа и/или репозиторий 040 изображений может представлять собой или может являться частью системы архивации и передачи изображений (САПИ) больничной информационной системы (БИС), с которой может быть соединена система 100 или в которой она может содержаться. Следовательно, система 100 может получать доступ к данным 020 атласа и/или данным 040 изображения через БИС. В качестве альтернативы, доступ к данным 020 атласа и/или данным 040 изображения может быть получен из внутреннего хранилища данных, содержащегося в системе 100. В целом, каждый или оба типа входных интерфейсов 120, 140 может/могут принимать различные формы, такие как сетевой интерфейс для локальной или глобальной вычислительной сети, например, сети Интернет, интерфейс хранения для внутреннего или внешнего хранилища данных и т.д.

[0044] Кроме того, показанная система 100 содержит процессор 160, который соединен с соответствующими входными интерфейсами 120, 140 для получения доступа к данным 020 атласа и данным 040 изображения. Процессор 160 выполнен с возможностью выполнения алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением, во время работы системы. Более того, перед указанным выполнением или в качестве его части, процессор 160 может определять пространство состояний для алгоритма обучения с подкреплением исходя из набора признаков, извлеченных из i) данных атласа и ii) данных изображения, и определять пространство действий для алгоритма обучения с подкреплением исходя из набора действий трансформации, доступных для применения к медицинскому атласу. Таким образом, алгоритм обучения с подкреплением может быть выполнен исходя из определенного пространства состояний и пространства действий. В качестве выхода процессор 160 может выдать данные 062 о модели, представляющие обученную модель. Несмотря на то, что это явным образом не показано на ФИГ. 1, данные 062 о модели могут быть сохранены, например, в базе данных, используемой системой 100 для выполнения регистрации атласа, могут быть предоставлены другой системе или аппарату для выполнения регистрации атласа и т.д.

[0045] Следует отметить, что различные варианты работы системы 100, в том числе различные аспекты ее работы, будут разъяснены далее со ссылкой на ФИГ. 2A-4.

[0046] Система 100 может быть реализована в качестве автономного устройства или аппарата, такого как персональный компьютер, рабочая станция, сервер или аппарат для визуализации, или в нем. Устройство или аппарат может содержать один или более микропроцессоров, которые выполняют соответствующее программное обеспечение. Программное обеспечение может быть загружено и/или сохранено в соответствующем запоминающем устройстве, например, энергозависимом запоминающем устройстве, таком как ОЗУ, или энергонезависимом запоминающем устройстве, таком как флеш-накопитель. В качестве альтернативы, функциональные блоки системы, например, первый входной интерфейс, второй входной интерфейс и процессор, могут быть реализованы в устройстве или аппарате в форме программируемой логической схемы, например, в качестве программируемой пользователем вентильной матрицы (ППВМ). В целом, каждый функциональный блок системы может быть реализован в форме схемы. Следует отметить, что система 100 также может быть реализована распространенным образом, например, с привлечением различных устройств или аппаратов. Например, распространение может быть выполнено в соответствии с моделью клиент-сервер.

[0047] На ФИГ. 2А показаны анатомические структуры в речевом тракте человека, который используется на данной и следующих далее фигурах в качестве примера области применения регистрации атласа. В частности, на ФИГ. 2А показан выбор анатомических структур на срединном сагиттальном срезе речевого тракта человека, в том числе языка, твердого неба, надгортанника) голосовой щели и стенки глотки.

[0048] На ФИГ. 2В показан медицинский атлас 300 для речевого тракта человека. В данном примере атлас содержит геометрическое описание анатомических структур на срединном сагиттальном срезе речевого тракта человека, при этом данные об атласе атласа определяют контуры границ анатомических структур. В частности, показано, что атлас 300 содержит границы трех разных исследуемых областей R1, R2, R3. Более того, вдоль контуров границ были определены различные опознавательные точки, например, в форме данных об опознавательных точках, что также обозначено Px на ФИГ. 2В.

[0049] На ФИГ. 2С показана модель 310 изображения медицинского атласа, которая, при необходимости, может сопровождаться геометрическим описанием медицинского атласа и которое может связывать топографическую информацию, представленную на ФИГ. 2В, с изображением общей ожидаемой интенсивности, источником которого может являться изображение, полученное при помощи МРТ. Показан идеальный вариант модели 310 изображения, при котором она имеет три равные области интенсивности, представляющие ткань, напротив черного фона, представляющего воздух.

[0050] На ФИГ. 3А показано медицинское изображение 320 речевого тракта пациента-человека. На данном медицинском изображении 320 представлено приблизительно то же поле обзора (ПО) речевого тракта человека, что и на медицинском атласе 300, показанном на ФИГ. 2В, и, следовательно, показана та же общая структура анатомических образований. Однако при более подробном рассмотрении, точная форма и положение анатомических структур отличается от представления на медицинском атласе. Следовательно, простое применение медицинского атласа к медицинскому изображению 320 не представляется возможным. А именно, результат такого применения показан на ФИГ. 3В, на которой можно увидеть, что граничные контуры границ на изображении медицинского атласа 300 не совпадают с фактическими контурами анатомических структур, показанных на медицинском изображении 320. Следует отметить, что глобальная регистрация также не даст желаемого совпадения.

[0051] На ФИГ. 3С показан медицинский атлас, который был зарегистрирован с медицинским изображением, в соответствии с моделью, обученной посредством обучения с подкреплением. Качество совпадения может быть подобно полученному методом регистрации, описанным в работе «Сегментация частей тела в частотной области, применяемая к магнитно-резонансным изображениям верхних дыхательных путей в режиме реального времени» авторства Эрик Брешч и др., Медицинская визуализация, Ученые записки по 28.3 (2009): 323-338. Однако предложенное в вышеуказанной работе решение разработано лишь для данного конкретного атласа, причем эвристические составляющие обоснованы лишь эмпирическим путем. Обучение с подкрепления обеспечивает возможность обучения модели для разных задач сопоставления атласа, например, при разных анатомических структурах, разных частях тела, разных типах атласов, разных методов медицинской визуализации и т.д.

[0052] А именно, авторами настоящего изобретения была сформулирована задача регистрации атласа в рамках обучения с подкреплением, заключающаяся в применении принципиального подхода для обучения оптимальной последовательности действий трансформации путем исследования. Однако авторами настоящего изобретения было выявлено, что может быть две существенные трудности при формировании регистрации атласа в виде задачи обучения с подкреплением. А именно, вводом для алгоритма ОП являются медицинское изображение и медицинский атлас, при этом последний представляет собой, как правило, геометрическое описание и/или шаблонное изображение. Использование данного ввода в качестве состояния для алгоритма ОП приводит к первой трудности, заключающейся в том, что высокая размерность данных изображения и данных атласа не подходит для использования непосредственно в качестве состояния для ОП. Следовательно, из данных атласа и данных изображения извлекают набор признаков. Набор признаков может быть определен вручную. В качестве альтернативы, набор признаков, подлежащих извлечению, может быть изучен с использованием алгоритма машинного обучения. В частности, для генерирования высокоуровневого представления пространства состояний может быть использована модель глубокой сверточной нейронной сети с использованием данных изображения и данных атласа в качестве ввода. Данное высокоуровневое пространство состояний, как правило, имеет управляемый размер и будет обеспечивать эффективное обучение с подкреплением.

[0053] Другая трудность формирования регистрации атласа в качестве задачи обучения с подкрепления заключается в том, что, как правило, все возможные трансформации в атлас должны быть определены в качестве действий во фреймворке ОП. Однако существует, как правило, большое количество доступных трансформаций, что делает пространство действий слишком большим. Для решения данной задачи действия трансформации могут быть иерархически структурированы. Иерархическое структурирование трансформаций в атлас является известным подходом в области регистрации атласа, который обеспечивает возможность эффективного эвристического исполнения, например, как описано в указанной выше работе авторства Эрик Брешч и др. Данный подход может быть применен в пределах фреймворка ОП, тем самым обеспечивая фреймворку ОП возможность управления набором доступных действий трансформации в любой момент времени.

[0054] Иерархическое структурирование, описанное в разделе IV.C «Процедура иерархического градиентного спуска», указанной выше работы авторства Эрик Брешч и др., включена в настоящий документ посредством ссылки в качестве примера того, каким образом пространство состояний может быть иерархически структурировано. А именно, описанная модель речевого тракта человека может быть оптимизирована посредством действий трансформации, которые иерархически структурированы на четыре уровня:

• Уровень 1: Обеспечение возможности только сдвига и вращения геометрии всей 3-областной модели в качестве действий трансформации, тем самым компенсируя движение головы субъекта в плоскости.

• Уровень 2: Обеспечение возможности только сдвига и вращения каждой границы области в качестве действий трансформации, тем самым грубо подгоняя модель к текущему положению речевого тракта.

• Уровень 3: Обеспечение возможности только жестких трансформаций, например, сдвига, вращения и шкалирования каждой анатомической области в качестве действий трансформации, исполняя специфические к области усиливающие факторы, указанные в таблице III-таблице V указанной выше работы.

• Уровень 4: Обеспечение возможности независимого движения всех отдельных вершин всех областей в качестве действий трансформации.

[0055] Таким образом, в данном подходе предпринимается попытка найти сперва надежное глобальное совпадение, а затем выполняется углубление в оптимизацию меньших деталей. Таким образом, алгоритм ОП может быть ограничен его действиями в том смысле, что после этих действий более высокого уровня могут следовать лишь действия более низкого уровня, а не наоборот. Следует понимать, что представленный выше пример не является ограничивающим и что специалисту в данной области техники будут ясны альтернативные способы иерархического структурирования пространства состояний, например, для разных типов медицинских изображений, разных типов медицинских атласов и т.д.

[0056] Ссылаясь далее на предложенное применение обучения с подкреплением при регистрации медицинского атласа, следует отметить следующее. Общая модель системы может содержать агента, который может выполнять действия в среде, при этом он может получать информацию о текущем состоянии среды, а также ее текущем вознаграждении. Задача агента может заключаться в выборе действий, которые максимизируют вознаграждение в будущем, даже если это означает временный выбор субоптимальных действий. Однако какому надежному набору правил должен следовать агент и как такой набор правил может быть реализован? Брешч и Нараян (Bresch & Narayanan) ранее реализовали набор правил с фиксированным распорядком, который был разработан человеком методом проб и ошибок. Более принципиальный и адаптивный подход берет свое начало из теории обучения с подкреплением. Ядром системы является агент обучения с подкреплением (АОП), который, как правило, реализован в виде машины состояний. В общем случае, агент может решать марковский процесс принятия решений (МППР) путем нахождения оптимальной последовательности этапов, который переведут систему в желаемое состояние.

[0057] В предпочтительном варианте реализации заявленного изобретения АОП может быть способен выполнять действия, которые деформируют медицинский атлас, и принимать решения (например, путем решения уравнения Беллмана) в отношении того, каким образом следует трансформировать медицинский атласа на основе информации о текущем вознаграждении и на основе информации «Q», которая может быть сгенерирована посредством глубокой нейронной сети из входной сенсорной информации: Q=f(входное изображение, атлас, действие). Q-информация может обеспечить АОП возможность вычисления оценки ожидаемого вознаграждения (в будущем) для любого возможного действия, и поэтому АОП может окончательно использовать доступные возможности трансформации и делать верный выбор действия. Кроме того, АОП может изучать исход вознаграждения от действий и сохранять эту изученную информацию в глубокой нейронной сети. С этой целью, АОП также может управлять обновлениями глубокой нейронной сети. Изначально, глубокая нейронная сеть может быть случайным образом инициализирована или она может быть уже заранее обучена исходя из регистрации предыдущих изображений. Таким образом, специфическими к области элементами в данной системе могут быть:

функция вознаграждения, являющаяся, например, энергией разницы между медицинским изображением и зарегистрированным на данном этапе медицинским атласом, и

атлас, описание его параметров и его специфический набор действий трансформации.

[0058] На ФИГ. 4 изображен способ оптимизации регистрации медицинского атласа. В нем медицинское изображение 320 (обозначенное, как «ИЗОБРАЖЕНИЕ» на ФИГ. 4) и медицинский атлас 300, а также сопроводительную модель 310 изображения, используют в качестве ввода. В частности, медицинский атлас 300 и сопроводительную модель 310 изображения используют после того, как они были трансформированы набором P параметров модели (обозначен «АТЛАС(Р)»), который может представлять собой примененные на данном этапе действия трансформации. Между медицинским изображением 320 и моделью 310 изображения может быть определена разница, обеспечивая изображение разницы (обозначенное «ИЗОБРАЖЕНИЕ_РАЗН»). После этого может быть определена энергия изображения разницы посредством функции энергии (обозначенная «ЭНЕРГИЯ(ИЗОБР_РАЗН»)), которая может представлять количественным образом выраженную степень несоответствия между медицинским изображением 320 и зарегистрированной на данном этапе моделью 310 изображения. По сути, минимизация энергии изображения разницы может представлять собой вознаграждение. Обучение с подкреплением может использовать подходящим образом сконфигурированную функцию вознаграждения, например, такую, которая выдает вознаграждение для минимизации энергии изображения разницы. После этого, набор Р параметров может быть отрегулирован алгоритмом ОП (что обозначено «РЕГУЛИРОВКА_Р»). Описанный выше способ может быть повторен до тех пор, пока энергия изображения разницы не будет минимизирована.

[0059] На ФИГ. 5 показан способ 200 обеспечения регистрации атласа при медицинской визуализации. Следует отметить, что способ 200 может, но не обязательно, соответствовать работе системы 100, описанной со ссылкой на ФИГ. 1.

[0060] Способ 200 может включать получение 210 доступа к данным атласа, определяющим медицинский атлас, на операции под названием «ПОЛУЧЕНИЕ ДОСТУПА К ДАННЫМ атласа». Кроме того, способ 200 может включать получение 220 доступа к данным медицинских изображений на операции под названием «ПОЛУЧЕНИЕ ДОСТУПА К ДАННЫМ ИЗОБРАЖЕНИЯ». Кроме того, способ 200 может включать определение 230 пространства состояний для алгоритма обучения с подкреплением исходя из набора признаков, извлеченных из i) данных атласа и ii) данных изображения, на операции под названием «ОПРЕДЕЛЕНИЕ ПРОСТРАНСТВА СОСТОЯНИЙ». Кроме того, способ 200 может включать определение 240 пространства действий для алгоритма обучения с подкреплением исходя из набора действий трансформации, доступных для применения к медицинскому атласу, на операции под названием «ОПРЕДЕЛЕНИЕ ПРОСТРАНСТВА ДЕЙСТВИЙ». Кроме того, способ 200 может включать выполнение 250 алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением на операции под названием «ВЫПОЛНЕНИЕ АЛГОРИТМА ОП», причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением. Следует понимать, что вышеуказанные операции могут быть выполнены в любом подходящем порядке, например, последовательно, одновременно или в комбинации, с соблюдением, где применимо, конкретного необходимого порядка, например, с помощью соотношений вход-выход.

[0061] Способ 200 может быть реализован на компьютере в качестве реализуемого с помощью компьютера способа, в виде аппаратного обеспечения специального назначения, или в виде их комбинации. Как также изображено на ФИГ. 6, инструкции для компьютера, например, выполняемый код, могут храниться на компьютерочитаемом носителе 260, например, в форме ряда 270 машиночитаемых физических меток и/или в виде ряда элементов, обладающих различными электрическими, например, магнитными, или оптическими свойствами или величинами. Выполнимый код может храниться кратковременным или некратковременным образом. Примеры компьютерочитаемых носителей включают запоминающие устройства, оптические запоминающие устройства, интегральные схемы, серверы, программное обеспечение, работающие в режиме онлайн, и т.д. На ФИГ. 6 показан оптический диск 260.

[0062] Следует понимать, что в соответствии с рефератом настоящей заявки, может быть предусмотрена система и способ обеспечения регистрации атласа при медицинской визуализации, причем указанная регистрация атласа включает сопоставление медицинского атласа с медицинским изображением. Система и способ могут выполнять алгоритм обучения с подкреплением (ОП) для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением. Пространство состояний алгоритма ОП может быть определено исходя из набора признаков, извлеченных из i) данных атласа и ii) данных изображения. Более того, пространство действий для алгоритма ОП может быть определено исходя из набора действий трансформации, доступных для применения к медицинскому атласу. Таким образом, может быть получена модель для регистрации атласа при медицинской визуализации без использования или с уменьшенным использованием эвристического подхода. За счет использования подхода, основанного на машинном обучении, решение легко может быть применено для различных задач сопоставления атласов, например, при различных типах медицинских атласов и/или медицинских изображений.

[0063] Следует понимать, что сопоставление медицинского атласа с медицинским изображением также включает сопоставление медицинского изображения с медицинским атласом.

[0064] Примеры, варианты реализации или необязательные признаки, указаны ли они в качестве неограничивающих или нет, не следует рассматривать в качестве ограничения заявленного изобретения.

[0065] Следует понимать, что настоящее изобретение также применимо к компьютерным программам, в частности, компьютерным программам на носителе или в нем, выполненным с возможностью реализации настоящего изобретения на практике. Программа может быть в форме исходного кода, объектного кода, промежуточного источника кода и объектного кода, как в частично компилированной форме, или в любой другой форме, подходящей для использования при реализации способа в соответствии с настоящим изобретением. Следует также понимать, что такая программа может иметь много различных архитектурных исполнений. Например, программный код, реализующий функционал способа или системы в соответствии с настоящим изобретением, может быть подразделен на одну или более подпрограмм. Специалисту в данной области техники будет ясно множество различных путей распространения функционала по данным подпрограммам. Подпрограммы могут храниться вместе в одном выполняемом файле для формирования независимой программы. Такой выполняемый файл может содержать выполняемые с помощью компьютера инструкции, например, инструкции процессора и/или инструкции интерпретатора (например, инструкции интерпретатора языка Java). В качестве альтернативы, одна или более, или все подпрограммы могут храниться по меньшей мере в одном файле внешней библиотеки и связаны с основной программой статическим или динамическим образом, например, по времени счета. Основная программа содержит по меньшей мере один вызов по меньшей мере одной из подпрограмм. Кроме того, подпрограммы могут содержать вызовы функции друг друга. Вариант реализации, относящийся к компьютерному программному продукту, содержит исполняемые с помощью компьютера инструкции, соответствующие каждой стадии обработки по меньшей мере одного из способов, изложенных в настоящем документе. Эти инструкции могут быть подразделены на подпрограммы и/или могут храниться в одном или более файлов, которые могут быть связаны статическим или динамическим образом. Еще один вариант реализации, относящийся к компьютерному программному продукту, содержит выполняемые с помощью компьютера инструкции, соответствующие каждому средству по меньшей мере одной из систем и/или продуктов, изложенных в настоящем документе. Эти инструкции могут быть подразделены на подпрограммы и/или могут храниться в одном или более файлов, которые могут быть связаны статическим или динамическим образом.

[0066] Носитель компьютерной программы может представлять собой единицу или устройство, выполненное с возможностью хранения программы. Например, носитель может включать хранилище данных, такое как ПЗУ, например, компакт-диск, или полупроводниковое ПЗУ, или магнитный носитель, например жесткий диск. Кроме того, носитель может представлять собой передаваемый носитель, такой как электрический или оптический сигнал, который может передаваться по электрическому или оптическому кабелю или по радиосвязи или по другим средствам. При реализации программы в виде такого сигнала, носитель может представлять собой такой кабель или другое устройство или средство. В качестве альтернативы, носитель может представлять собой интегральную схему, в которую встроена программа, при этом интегральная схема выполнена с возможностью осуществления релевантного способа или используется при его выполнении.

[0067] Следует отметить, что вышеуказанные варианты реализации иллюстрируют, а не ограничивают настоящее изобретение, и специалист в данной области техники сможет реализовать широкий ряд альтернативных вариантов реализации без выхода за рамки объема прилагаемой формулы изобретения. В пунктах формулы изобретения, любые ссылочные обозначения, заключенные в скобки, не следует считать ограничением пункта формулы изобретения. Использование глагола «содержит» и его спряжений не исключает наличия элементов или стадий, отличных от указанных в пункте формулы изобретения. Грамматический показатель единственного числа перед элементов не исключает наличия множества таких элементов. Настоящее изобретения может быть реализовано посредством аппаратного обеспечения, содержащего несколько разных элементов, а также посредством подходящим образом запрограммированного компьютера. В пункте формулы изобретения на устройство, в котором перечислено несколько средств, несколько из этих средств могут быть реализованы одним и тем же элементом аппаратного обеспечения. Сам по себе тот факт, что некоторые меры перечислены во взаимно отличающихся зависимых пунктах, не указывает на то, что комбинация этих мер не может быть с успехом использована.

Изобретение относится к системе и способу для обеспечения регистрации атласа при медицинской визуализации, рабочей станции и компьютерочитаемому носителю. Технический результат заключается в оптимизации регистрации медицинского атласа. Система содержит: первый входной интерфейс для получения доступа к данным атласа; второй входной интерфейс для получения доступа к данным медицинских изображений; процессор, предназначенный для: осуществления алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением; определения пространства состояний для алгоритма обучения с подкреплением на основе набора признаков, извлеченных из данных атласа и данных изображения; определения пространства действий для алгоритма обучения с подкреплением на основе заданного набора действий трансформации, которые доступны для применения к медицинскому атласу, причем пространство действий структурировано на разные уровни, причем каждый из указанных разных уровней содержит поднабор действий трансформации, и эти разные уровни формируют иерархию действий трансформации, в которой выбор последовательности действий трансформации алгоритмом обучения с подкреплением ограничен до снижающейся прогрессии в иерархии. 4 н. и 8 з.п. ф-лы, 10 ил.

1. Система (100) для обеспечения регистрации атласа при медицинской визуализации, при этом указанная регистрация атласа включает сопоставление медицинского атласа (300, 302) с медицинским изображением (320), а система содержит:

- первый входной интерфейс (120) для получения доступа к данным (022) атласа, определяющим медицинский атлас;

- второй входной интерфейс (140) для получения доступа к данным (042) медицинских изображений;

- процессор (160), выполненный с возможностью:

- осуществления алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением;

- определения пространства состояний для алгоритма обучения с подкреплением на основе набора признаков, извлеченных из i) данных атласа и ii) данных изображения; и

- определения пространства действий для алгоритма обучения с подкреплением на основе заданного набора действий трансформации, которые доступны для применения к медицинскому атласу, причем пространство действий структурировано на разные уровни,

причем каждый из указанных разных уровней содержит поднабор действий трансформации, и эти разные уровни формируют иерархию действий трансформации, в которой выбор последовательности действий трансформации алгоритмом обучения с подкреплением ограничен до снижающейся прогрессии в иерархии.

2. Система (100) по п. 1, в которой процессор (160) выполнен с возможностью изучения набора признаков, подлежащих извлечению из данных (022) атласа и данных (042) изображения, с использованием алгоритма машинного обучения.

3. Система (100) по п. 2, в которой процессор (160) выполнен с возможностью применения сверточной нейронной сети или автокодировщика к данным (022) атласа и данным (042) изображения для определения набора признаков.

4. Система (100) по п. 1, в которой пространство состояний иерархически структурировано для обеспечения содержания менее ограничивающих действий трансформации выше по иерархии и более ограничивающих действий трансформации ниже по указанной иерархии.

5. Система (100) по п. 1 или 4, в которой процессор (160) выполнен с возможностью осуществления указанного иерархического структурирования пространства действий с использованием алгоритма машинного обучения или с использованием заданных эвристических подходов.

6. Система (100) по одному из пп. 1, 4 и 5, в которой процессор (160) выполнен с возможностью определения пространства состояний в алгоритме обучения с подкреплением дополнительно на основе текущего уровня в иерархии действий трансформации.

7. Система (100) по одному из пп. 1 и 4-6, в которой заданный набор действий трансформации, который доступен для применения к медицинскому атласу (300, 302), определен данными (022) атласа.

8. Система (100) по одному из вышеуказанных пунктов, в которой процессор (160) выполнен с возможностью определения пространства состояний для алгоритма обучения с подкреплением дополнительно на основе данных об опознавательных точках, определяющих опознавательные точки на медицинском атласе (300, 302).

9. Система (100) по любому из вышеуказанных пунктов, в которой алгоритм обучения с подкреплением представляет собой алгоритм глубокого обучения с подкреплением.

10. Рабочая станция, содержащая систему по одному из пп. 1-9.

11. Способ (200) обеспечения регистрации атласа при медицинской визуализации, при этом указанная регистрация атласа включает сопоставление медицинского атласа с медицинским изображением, включающий:

- получение (210) доступа к данным атласа, определяющим медицинский атлас;

- получение (220) доступа к данным медицинских изображений;

- выполнение (250) алгоритма обучения с подкреплением для обучения модели для сопоставления медицинского атласа с медицинским изображением, причем указанное обучение основано на функции вознаграждения, количественно определяющей степень совпадения между медицинским атласом и медицинским изображением;

- определение (230) пространства состояний для алгоритма обучения с подкреплением на основе набора признаков, извлеченных из i) данных атласа и ii) данных изображения; и

- определение пространства действий для алгоритма обучения с подкреплением на основе заданного набора действий трансформации, которые доступны для применения к медицинскому атласу, причем пространство действий структурировано на разные уровни,

причем каждый из указанных разных уровней содержит поднабор действий трансформации, и эти разные уровни формируют иерархию действий трансформации, в которой выбор последовательности действий трансформации алгоритмом обучения с подкреплением ограничен до снижающейся прогрессии в иерархии.

12. Компьютерочитаемый носитель (260), содержащий кратковременные или некратковременные данные, представляющие инструкции (270), вызывающие выполнение способа по п. 11 процессорной системой.