Изменения

Перейти к: навигация, поиск

Компьютерное зрение в микроскопии

262 байта добавлено, 19:27, 4 сентября 2022
м
rollbackEdits.php mass rollback
== Классификация клеток ==
[[Файл:Dividing Cell Fluorescence-ru.jpg|left|300px|thumb|Рисунок 1. Пример клетки с различными флуоресцентными маркерами<ref>[https://ru.wikipedia.org/wiki/%D0%A4%D0%BB%D1%83%D0%BE%D1%80%D0%B5%D1%81%D1%86%D0%B5%D0%BD%D1%86%D0%B8%D1%8F_%D0%B2_%D0%B1%D0%B8%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D1%85_%D0%B8%D1%81%D1%81%D0%BB%D0%B5%D0%B4%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D1%8F%D1%85 Википедия: Флуоресценция в биологических исследованиях]</ref>.]]
Классификация клеток является базовой задачей микроскопии. Обычно для этого используются изображения, полученные на флуоресцентных микроскопах(рисунок 1), так как классификаторы для изображений с обычных оптических микроскопов не способны отразить биологическое разнообразие различных типов клеток. Клетки можно делить по фазе в клеточном цикле, типу (повержденные или нет, раковые или нормальные), физиологическому состоянию, виду и другим признакам. Для большинства задач классификации уже существуют готовые архитектуры сверточных сетей<ref>[https://uu.diva-portal.org/smash/get/diva2:1334417/FULLTEXT01.pdf Håkan Öhrn {{---}} General image classifier for fluorescence microscopy using transfer learning , 2019]</ref><ref name="phase">[https://www.nature.com/articles/s41467-017-00623-3#supplementary-information Philipp Eulenberg {{---}} Reconstructing cell cycle and disease progression using deep learning, 2017]</ref><ref name="cancer">[https://pubmed.ncbi.nlm.nih.gov/30865716/ Ronald Wihal Oei {{---}} Convolutional neural network for cell classification using microscope images of intracellular actin networks, 2019]</ref><ref name="blood">[https://www.nature.com/articles/s41598-020-59215-9 Ahmed T. Sahlol {{---}} Efficient Classification of White Blood Cell Leukemia with Improved Swarm Optimization of Deep Features, 2020]</ref><ref>[https://www.biorxiv.org/content/10.1101/817544v1.full Samuel Berryman {{---}} Image-based Cell Phenotyping Using Deep Learning, 2019]</ref><ref>[http://www.mva-org.jp/Proceedings/2017USB/papers/06-01.pdf Nan Meng {{---}} Computational single-cell classification using deep learning on bright-field and phase images, 2017]</ref><ref>[https://arxiv.org/pdf/1806.01313.pdf Sachin Mehta {{---}} Y-Net: Joint Segmentation and Classification for Diagnosis of Breast Biopsy Images, 2018]</ref>.
=== Определение фазы клеточного цикла ===
Одним из признаков, по которым можно разделить клетки, является определение фазы клеточного цикла, в которой находится клетка. Эта задача имеет практическое применение для обнаружения поврежденных клеток, которые при визуализации будут кластеризоваться отдельно от остальных. Сверточная сеть для решения задачи изображена на рисунке 2. Она обучается на изображениях с флуоресцентными метками, о которых было сказано ранее, и дает на выходе не только классификацию каждой клетки, а также визуализирует процесс клеточного цикла, используя нелинейное уменьшение размерности<ref name="phase"/>. Классификация и визуализация являются всего лишь различными способами интерпретации результатов, поэтому строятся на основе одних и тех же выведенных закономерностей.
=== Подсчет клеток на основе сверточных сетей ===
[[Файл:FCRN-A_and_FCRN_B.png|425px|thumb|right|Рисунок 6. Архитекутры полносверточных регрессионных сетей FCRN-A и FCRN-B для построения карт плотности<refname="fcrn">[https://www.robots.ox.ac.uk/~vgg/publications/2016/Xie16/xie16.pdf Weidi Xie {{---}} Microscopy cell counting and detection with fully convolutional regression networks, 2016]</ref>.]]
К автоматическому подсчету клеток можно подойти с разных сторон. Первый подход основан на детекции с предварительной сегментацией изображения. Процесс сегментации сам по себе сложен и существует более эффективный способ. В его основе лежит регрессия и оценка плотности без непосредственной детекции и сегментации. По карте плотности можно с хорошей точностью оценить количество клеток.
Особенностью изображений микроскопии является то, что клетки в большинстве случаев имеют размер значительно меньший, чем размер изображения, то есть нет необходимости использовать сложные глубокие сети, которые способны выучить высоко семантическую информацию. Поэтому используются полносверточные регрессионные сети с архитектурой FCRN-A или (англ. Fully Convolutional Regression Networks, FCRN-B)<ref name="fcrn"/>. Различия в архитектурах состоят в размерах ядер и количестве слоев(рисунок 6). Такие сети на выходе дают карту плотности клеток.
Такой подход позволяет проводить непрерывное обучение с изображениями произвольных размеров, что важно в том числе для покадровой съемки и изучения длительных процесоов. Он также обеспечивает интуитивное понимание представлений функций из FCRN, визуализируя, в какой степени информация была закодирована на разных уровнях.
=== Распознавание перекрывающихся объектов на основе деревьев экстремальных областей ===
[[Файл:Extremal Region Trees.png|left|250px|thumb|Рисунок 7. Получающаяся древовидная структура<refname="tree">[http://sites.skoltech.ru/app/data/uploads/sites/25/2014/11/MIA15.pdf Carlos Arteta {{---}} Detecting Overlapping Instances in Microscopy Images Using Extremal Region Trees, 2016]</ref>.]]
Клетки на изображениях микроскопии могут быть распределены неравномерно, группироваться, перекрываться, что затрудняет подсчет количества клеток и их дальнейшее изучение, так как стандартные методы применимы либо к изображениям с высокой плотностью объектов и не пытаются их разделить, либо наоборот эффективно работают только с изображениями с низкой плотностью.
Чтобы учесть все особенности изображения используется метод, основанный на древовидной дискретной графической модели, которая позволяет выбрать и промаркировать набор непересекающихся участков изображения с помощью глобальной оптимизации<ref name="tree"/>. Каждый регион маркируется в соответствии с количеством объектов, которые он содержит. В условиях низкой плотности объектов метод, как правило, находит и выделяет отдельные клетки, а в местах, где клетки перекрываются, предложенный метод выделяет группы клеток (рисунок 7). Подобное адаптивное поведение, управляемое оптимизационным процессом, является уникальным для данного метода.
Нужно также отметить, что вывод модели эффективен с точки зрения вычислений и требует всего нескольких сотен оценок классификатора, за которыми следует динамическое программирование на поддеревьях.
== Склеивание изображений ==
Не всегда изучаемый объект полностью помещается на один снимок микроскопа. В связи с этим стоит задача склеивания изображений для дальнейшего исследования целых клеточных культур, используя различные методы визуализации. Эту задачу может решить инструмент для сшивания изображений микроскопии (англ. Microscopy Image Stitching Tool, MIST)<ref>[https://ieeexplore.ieee.org/document/7359951 Joe Chalfoun {{---}} MIST: Microscopy Image Stitching Tool, 2015]</ref>. Программа предназначена для быстрого и точного склеивания больших двумерных сеток перекрывающихся изображений покадровых снимков микроскопа. В основе работы MIST лежит оценка параметров модели на основе вычисленных попарных перемещений, а затем минимизация ошибок склеивания путем оптимизации перемещений в пределах квадратной области.
[[Файл:MIST.jpg|left|450px|thumb|Рисунок 8. Примеры изображений, склеенных с помощью MIST<refname="mist">[https://www.nature.com/articles/s41598-017-04567-y Joe Chalfoun {{---}} MIST: Accurate and Scalable Microscopy Image Stitching Tool with Stage Modeling and Error Minimization, 2017]</ref>.]]
Алгоритм MIST состоит из четырех шагов<ref name="mist"/>. Сначала вычисляются всевозможные перемещения между соседними покадровыми изображениями. После чего, если параметры модели не указаны пользователем, оценивается модель механического предметного столика на основе вычисленных перемещений. Затем оптимизируются перемещения между изображениями для уменьшения ошибок склеивания и составляется полученное изображение (рисунок 8).
Необходимо помнить, что MIST был разработан для склеивания микроскопических изображений, полученных с помощью механического предметного столика, который перемещает образец по повторяющейся сетке, так что это накладывает ограничение на его использование.
== Улучшение качества изображений ==
[[Файл:Autofocus cnn.png|leftright|400px|thumb|Рисунок 9. (a) Архитектура сверточной нейронной сети для предсказывания предсказания положения фокуса микроскопа.
(b) Примеры изображений с разным фокусным расстоянием<ref name="focus">[https://www.nature.com/articles/s41598-018-25458-w/ Ling Wei {{---}} Reconstructing cell cycle and disease progression using deep learning, 2018]</ref>.]]
Зачастую изображения, полученные с помощью микроскопии, не имеют достаточно хорошее для дальнейшей работы качество. Есть разные способы борьбы с этим. Можно улучшать качество двумерных изображений стандартными методами, не имеющих отличий, связанных со специфичностью данных, или же заранее пытаться получить высококачественное изображение, предсказывая положение фокуса.
=== Предсказывание Предсказание положения фокуса ===
При покадровой съемке длительного непрерывного процесса необходимо постоянно следить за положением фокуса микроскопа, чтобы не получать размытые изображения. Процесс выставления фокуса можно автоматизировать, построив сеть, которая будет предсказывать нужное положение. Эту задачу можно свести к задаче классификации изображений по фокусному расстоянию во время съемки. Для ее решения используется сверточная сеть (рисунок 9), которая состоит из двух блоков свертки и двух полносвязных блоков для классификации<ref name="focus"/>.
=== Восстановление рассеянных трехмерных изображений ===
[[Файл:3d restoration net.jpeg|right|400px|thumb|Рисунок 10. Схема работы архитектуры ScatNet<refname="scatnet">[https://www.osapublishing.org/oe/fulltext.cfm?uri=oe-28-20-30234&id=439993 Le Xiao {{---}} Deep learning-enabled efficient image restoration for 3D microscopy of turbid biological specimens, 2020]</ref>.]]Трехмерная флуоресцентная микроскопия является важным инструментом для современных исследований, но ее более широкому применению препятствует рассеяние света биологическими образцами. В основе подхода, который способен восстановить размытое и рассеянное светом трехмерное изображение глубоких тканей, лежит сеть ScatNet<ref>[https://www.di.ens.fr/data/software/scatnet/ ScatNet: homepage of the project for license, documentation, tutorials, bug reports]</ref>.
В течение каждой эпохи обучения ScatNet учится, как лучше восстанавливать высококачественные изображения из размытых входных данных. Сгенерированный промежуточный результат для каждой эпохи сравнивается с данными фиксированной метки для оптимизации функции потерь сети<ref name="scatnet"/>. Сверточная сеть Более детальная схема работы представлена на рисунке 10. ScatNet способствует простому и быстрому восстановлению изображений и не требует трудоемких ручных операций.
Такой подход позволяет с помощью вычислений увеличить глубину визуализации изображений трехмерной флуоресцентной микроскопии без добавления сложной оптики или моделей оптического рассеяния, так как основан только на мощных возможностях прогнозирования сверточной нейронной сети.
1632
правки

Навигация