Машинное обучение в медицине

Машинное обучение в медицине начали применять еще в 2000-ых, и сейчас машинное обучение, а в частности, нейронные сети пытаются решать огромное количество задач по диагностике заболеваний и дизайну лекарств. Эти задачи относят к обучению с учителем или с частичным привлечением учителя. Кроме того, машинное обучение стали применять в персонализированной медицине и генерации данных различных исследований для анонимизации данных пациентов. В этих задачах сейчас все больше применяют обучение с подкреплением и обучение без учителя, в частности, генеративные состязательные сети.

Диагностика заболеваний по результатам рентгенологических и УЗИ исследований

Диагностика по изображению

Пример модели, локализирующей опухоль при поиске рака простаты. Источник: https://www.sciencedirect.com/science/article/abs/pii/S1361841517301299

В диагностике заболеваний есть большое количество задач, которые можно решить при помощи машинного обучения, а в частности, при помощи анализа результатов различных исследований, таких как рентген, УЗИ или МРТ. В основном задача любой модели сводится к предсказанию, болен ли человек сейчас (иногда обычная мультиклассовая классификация, иногда — вероятностная классификация).

Для решения таких задач чаще всего используют глубокое обучение. Такие модели на вход получают картинку с рентгенологическим или ультразвуковым исследованием пациента и по ним предсказывают наличие болезни. Обычно внутри таких моделей-классификаторов лежат сверточные нейронные сети, а иногда к ним добавляются механизм внимания. За основу берутся state-of-the-art модели в области сверточных нейронных сетей, такие как GoogleLeNet^[1], при этом точность предсказаний превышает 90%. Такие модели учатся на размеченных тренировочных наборах данных, поэтому их можно отнести к обучению с учителем. Большое распространение такие классификаторы получили в предсказании злокачественности новообразований, классификации заболеваний легких, подборе дозы контраста при проведении МРТ.

Кроме того, есть и другое применение. Многие модели учатся не только определять, есть ли опухоль на данном образце, но и локализировать ее положение. Таким образом, необходимо решить задачу сегментации изображения, то есть выделения каких-то ее наиболее важных частей. Технически задача не сильно отличается от предыдущей и решается все теми же сверточными нейронными сетями.

Применения

Поскольку точность предсказаний у описанных выше моделей достаточно высока, их стали применять на практике. Сейчас ведутся исследования по внедрению таких моделей в УЗИ-аппараты для того, чтобы быстрее и точнее определять местоположение и злокачественность опухоли. Кроме того, такие модели стали применять в направленной лучевой терапии, когда злокачественная опухоль облучается различными видами частиц. Известно, что эти частицы уничтожают не только раковые, но и здоровые клетки. Именно поэтому активно внедряются модели, которые могут подсказать аппарату точное направление облучения. Также сверточные сети стали использовать для определения дозы контрастного вещества при МРТ^[2].

Генерация результатов исследований

Пример сгенерированных изображений 3D МРТ результатов с патологями. Источник: https://arxiv.org/pdf/1908.02498.pdf

Сравнение различных моделей для генерации 3D изображений МРТ исследований. Источник: https://arxiv.org/pdf/1908.02498.pdf

Для обучения сверточных нейронных сетей необходимо большое количество данных, которые очень часто достаточно тяжело или даже невозможно получить. Основная проблема — запрет на использование данных исследований даже в анонимном формате без согласия пациента. Поэтому сейчас для получения достаточно больших датасетов стали применять генеративные состязательные сети. Основная проблема, с которой сталкиваются такие модели — необходимость очень точно определеять границы объекта на сгенерированном изображении, а также не допускать размытости. Эти две проблемы долгое время совсем не получалось решить, вследствие чего не было возможным применение сгенерированных изображений на практике. Сильно улучшить поведение моделей удалось путем использования метрики Васерштейна^[3], которая, если провести аналогию с землей, измеряет минимальную стоимость преобразования одного распределения земли в другое, при этом предполагается, что стоимость прямо пропорциональна количеству земли и расстоянию, на которое ее надо перетащить. Использование такой метрики в GAN помогло сильно улучшить поведение моделей при генерации данных МРТ исследований.

Персонализированная медицина

Персонализированная медицина — новая организационная модель построения медицинской помощи пациентам, которая основывается на подборе индивидуальных лечебных, диагностических и превентивных средств, оптимально подходящих по биохимическим, физиологическим и генетическим особенностям организма.

Основная цель нового направления в медицине заключается в персонализации и оптимизации профилактических мероприятий и лечения пациентов для исключения негативных последствий и осложнений, проявляющихся из-за индивидуальных особенностей. Основные отрасли медицины, где применяются новые принципы — онкология, фармация и фармакогеномика. Последняя занимается изучением реакций организма на медицинские препараты в зависимости от индивидуальных наследственных факторов.

Экспрессия генов и анализ транскриптомных данных

Примеры архитектур сверточных сетей, предсказывающих вероятность рака по экспрессии генов. Источник: https://bmcmedgenomics.biomedcentral.com/articles/10.1186/s12920-020-0677-2

Многие модели ориентируются на данные экспрессии генов^[4] (в широком смысле — процесс получения белка из последовательности ДНК). Известно, что от количества некоторых белков напрямую зависит возможность клеток становиться раковыми, а также порождать другие заболевания. Совокупность изменений в большом количестве различных белков может приводить к заболеванию. Именно поэтому модели персонализированной медицины основываются на данных экспрессии. Часто в качестве основы используют сверточные нейронные сети, располагая гены, отвечающие за похожие по своей функции белки, рядом друг с другом.

Транскриптом — совокупность всех молекул РНК, которые присутствовали в клетке после завершения процесса трансрипции (получение РНК с матрицы ДНК).

Прямой анализ экспрессии генов — трудная и дорогостоящая задача, поэтому часто обращаются к транскриптомным данным. Транскриптомные данные чаще всего получают с помощью РНК-секвенирования (RNA-seq) или ДНК-микрочипов (DNA-microarray). С помощью специальных процедур из взятой у пациента пробы выделяют мРНК, которая затем наносится на ДНК-микрочип, где цепочки мРНК зацепляются, образуя двухцепочечные молекулы. Число цепочек мРНК, зацепившихся за определенный участок ДНК-микрочипа, определяет интенсивность свечения этого участка при сканировании. Так косвенно определяют экспрессию каждого из генов. Следующая проблема, с которой сталкиваются исследователи — слишком большое количество генов (например, у человека их около 28000). Вследствие этого очень тяжело обучать модели, поэтому приходится прибегать к уменьшению размерности.

Уменьшение размерности при работе с данными экспрессии генов

Описание алгоритма MeLiF

Для уменьшения размерности в случае биологических данных применяются методы, основным критерием которых становится их скорость. Поскольку количество генов очень велико, чаще всего нет возможности опробовать встраиваемые и оберточные методы. Чаще всего, используют фильтры.

Одним из примеров моделей, основанных на фильтрах является модель MeLiF^[5], которая берет несколько фильтров [math]M_i[/math] с соответствующими функциями измерения релевантности признака [math]\mu_i[/math], после чего строит новую меру значимости как , где — набор вещественных коэффициентов. После получения новой меры значимости происходит оценка модели на [math]t[/math] лучших выбранных признаках. В случае удовлетворительного результата алгоритм завершается, возвращая текущий набор признаков, иначе — возвращается снова к получению новой меры на [math]t+1[/math] признаках.

Медицинская карта

Другая задача — предсказать, заболеет ли человек в будущем. Для этого часто используется электронная медицинская карта пациента, и на вход сети подаются данные о пациенте, результаты исследований, его генеалогическое древо и другая медицинская информация. Основываясь на полученных данных, модель должна предсказать вероятность того, что человек может заболеть каждым болезнью из приведенного набора. Если вероятность хотя бы по одному из маркеров превышает некоторое значение — такая модель рекомендует пациенту обратиться к специалисту и относит его в группу высокого риска по этому параметру. В свою очередь специалист может подтвердить или же опровергнуть опасения модели, отдавая ей результат — права модель или нет. Таким образом, эта проблема относится к классу задач обучения с подкреплением В таких задачах часто используют метод опорных векторов (SVM) или глубокое обучение.

Поиск лекарств

Поиск лекарств (англ. drug discovery, drug design) — процесс поиска новых лекарственных средств, часто основанный на знаниях о биологической мишени. При поиске новых лекарственных средств часто прибегают к помощи машинного обучения в таких задачах, как предсказание молекулярных свойств потенциальной молекулы лекарства, формы какого-либо белка, активности взаимодействия между двумя молекулами и т.д.

Предсказание молекулярных свойств

Молекулярный граф

Пример Morgan Fingerprint для молекулы. Источник: https://www.sciencedirect.com/science/article/abs/pii/S1046202314002631

Одна из главных задач машинного обучения при поиске новых лекарств — сужение круга их поиска. Чаще всего фармацевтические компании имеют на руках библиотеки с огромным количеством веществ, которые они потенциально могут синтезировать и опробовать в качестве лекарства. Но обычно размеры этих библиотек составляют тысячи молекул, поэтому синтезировать и проверить каждую из них не представляется возможным. В этом случае прибегают к предсказанию некоторых свойств этих молекул, которые точно определяют, может ли молекула быть использована как лекарство. Для предсказания свойств молекул обычно используют молекулярный граф — графическое представление молекулы (ее атомов и связей).

Первые нейронные сети для предсказания молекулярных свойств использовали Моргановские фингерпринты (англ. Morgan fingerpints), которые для каждого атома в молекуле выделяли всех его соседей на каком-то определенном расстоянии (которое является гиперпараметром) и смотрели на наличие такой подструктуры в молекуле. Получался аналог некоторого оne-hot кодирования. Впоследствии этот метод был несколько усовершенствован, и стали смотреть не на наличие подструктуры, а на то, сколько раз она встречается в молекуле. Прорыв в этой области случился с появлением сети NeuralFingerprints ^[6], которая является примером одной из первых попыток применения графовых нейронных сетей в этой области.

NeuralFingerprints принимает один гиперпараметр — максимальное расстояние, которое нужно учитывать при просмотре соседей каждого атома. После этого для каждого расстояния для каждого атома суммируются атомные представления его соседей на текущем расстоянии. Таким образом, получается векторное представление текущего атома фиксированной длины, которая равна количеству свойств у одного атома. Каждый элемент такого представления умножается на обучаемый параметр, уникальный для номера свойства и текущего рассматриваемого расстояния. После этого применяется функция активации к полученному ранее вектору, умноженному на вес, отвечающий за текущее расстояние. Полученные результаты для каждого из атомов на каждом из расстояний суммируются и получается результирующий вектор свойств для молекулы. Таким образом, в этой сети обучаемые параметры — веса для каждого из свойств атомов на каждом расстоянии ([math]H^i_j[/math], где [math]i[/math] — индекс номера свойства (в модели их всего 5), [math]j[/math] — индекс для текущего расстояния) и веса для каждого из расстояний ([math]W_j[/math], где [math]j[/math] — индекс для текущего расстояния). Псевдокод представлен ниже.

function neuralFingerptint(molecule, R, H, W): # R - максимальное расстояние, H - матрица весов размера len(molecule)[math]\cdot[/math]R, W - вектор весов размера R
   f = array[len(molecule), 0]
   for a in molecule: 
       r[a] = g(a) # записываем свойства для каждого атома
   for L = 1 to R:
       for a in molecule: 
           neighbors = neighbors(a) # смотрим соседей на расстоянии L от текущего атома a
       v = r[a] + sum(r[i] for i in neighbors) # суммируем вектора соседей и вектор текущего атома
       r[a] = σ(v [math]\cdot[/math]H[a][L]) # изменяем представление текущего атома
       i = softmax(r[a][math]\cdot[/math]W[L]) # получаем вектор для текущего атома и расстояния
       f = f + i  # добавляем его к ответу
   return f

Эта сеть была одной из первых в этой области, и сейчас используется как базовый метод в огромном количестве статей. В основу новых методов сейчас все еще чаще всего ложатся графовые нейронные сети. Подходы графовых нейронных сетей адаптируют под молекулярный граф путем поиска элементов на расстоянии не более, чем N (где N является гиперпараметром), или последовательным рассмотрением каждой вершины и усреднением полученых значений.

Предсказание формы белка

Архитектура AlphaFold2, модели для предсказания пространственной структуры белка. Источник: https://en.wikipedia.org/wiki/AlphaFold

Секвенирование — процесс получения нуклеотидной последовательности из молекулы ДНК. ^[7] Из нуклеотидной последовательности можно получить аминокислотную последовательность, которая в свою очередь кодирует любой белок в организме.

Предсказание формы белка — другая очень важная задача машинного обучения в фармацевтике. С возникновением технологий секвенирования ДНК у сообщества появилась возможность быстро и достаточно качественно прочитывать белковые последовательности, но получать пространственную структуру полученных белков экспериментально все еще очень трудоемко и дорого. Пространственная же структура белка важна для генерации мишеней, поэтому задача предсказания структуры является очень важной. Например, при подборе потенциальной вакцины, необходимо точно знать форму антитела, чтобы понимать сможет ли это соединение захватить свою мишень, не дав ей закрепиться в организме пациента.

Предсказание формы белков основано на нейронных сетях, которые как вход используют очень длинную аминокислотную последовательность (размер алфавита ограничен — всего различных аминокислот 20), а на выходе должны предсказать значения торсионных углов^[8] между аминокислотами. В декабре 2020 года DeepMind (исследовательское подразделение Google) заявили, что решили проблему пространственной структуры белка.^[9] Авторы модели утверждают, что значение метрики глобального расстояния (англ. global distance test) превысило 90%. Метрика глобального расстояния — это метрика, которая вычисляется для каждой аминокислоты как процент атомов углерода из главной цепи белка, которые в сгенерированном белке расположены не более чем на расстоянии какого-то определенного количества ангстрем от соответствующего атома углерода в исходном белке. Обычно это значение берется равным 1, 2, 4 или 8 ангстрем (10^-10м).

Генерация молекулярных структур

Пример генеративной состязательной сети для лекарственных молекул. Сеть RANC (Reinforced Adversarial Neural Computer). Источник: https://pubs.acs.org/doi/10.1021/acs.jcim.7b00690

Еще одна задача, которая есть сейчас в мире машинного обучения — генерировать новые молкулы, которые могут потенциально быть лекарствами. Для этого используют генеративные состязательные сети. Основное преимущество такого подхода заключается в том, что при работе с библиотеками уже синтезированных лекарств есть вероятность "пропустить" важное соединение просто потому, что в этой библиотеке его не было. Поэтому используется абсолютно другой подход — предлагается наоборот генерировать различные молекулы, а уже потом проверять, действительно ли их можно использовать как лекарство и насколько сложно их синтезировать. Часто эти свойства вносят в метрику качества генератора.

SMILES — способ однозначного задания молекулы при помощи строки. Таким образом, задача генератора — сгенерировать такую строку SMILES для молекулы, чтобы дискриминатор не отличил ее от настоящей. Архитектура дискриминатора чаще всего остается очень похожей на архитектуру обычной сети, предсказывающей молекулярные свойства. Таким обрзом, в качестве дискриминатора часто используются графовые или сверточные нейронные сети. Для генератора же часто используют механизм памяти, чтобы сеть помнила, какие части уже были сгенерированны и отталкивалась от них.

См. также

Примечания

Источники информации

[1] Szegedy et al., Going Deeper with Convolutions, 2015. GoogLeNet.

[2] Lundervold et al., An overview of deep learning in medical imaging focusing on MRI, 2019

[3] ttps://ru.wikipedia.org/wiki/%D0%9C%D0%B5%D1%82%D1%80%D0%B8%D0%BA%D0%B0_%D0%92%D0%B0%D1%81%D0%B5%D1%80%D1%88%D1%82%D0%B5%D0%B9%D0%BD%D0%B0%7CВикипедия:Метрика Васерштейна]]

[4] Википедия: Экспрессия генов

[5] Smetannikov et al., MeLiF: Filter Ensemble Learning Algorithm for Gene Selection

[6] Duvenaud et al., Convolutional Networks on Graphs for Learning Molecular Fingerprints, 2015

[7] Википедия: Секвенирование

[8] Торсионные углы

[9] Фундаментальная «проблема белка» решена

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]