Машинное обучение в медицине — различия между версиями
Untitled (обсуждение | вклад) (→Генерация результатов исследований) |
м (rollbackEdits.php mass rollback) |
||
(не показана 141 промежуточная версия 4 участников) | |||
Строка 1: | Строка 1: | ||
− | Машинное обучение в медицине | + | Машинное обучение в медицине используют очень активно, находя все больше областей для его применения. Сейчас в медицине используют почти [[Общие понятия#Классификация задач машинного обучения|все виды машинного обучения]]: обучение с учителем, без учителя, с частичным привлечением учителя, с подкреплением. Наиболее активно машинное обучение в медицине используют для решения проблем по диагностике заболеваний и дизайну лекарств. Эти задачи относят к обучению с учителем или с частичным привлечением учителя. Кроме того, машинное обучение стали применять в персонализированной медицине и генерации данных различных исследований для анонимизации данных пациентов. В этих задачах сейчас все больше применяют обучение с подкреплением и обучение без учителя, в частности, [[Generative Adversarial Nets (GAN)|генеративные состязательные сети]]. Машинное обучение в медицине начали изучать еще в 2000-ых и оно продолжает активно развиваться и в наши дни. |
==Диагностика заболеваний по результатам рентгенологических и УЗИ исследований== | ==Диагностика заболеваний по результатам рентгенологических и УЗИ исследований== | ||
+ | |||
===Диагностика по изображению=== | ===Диагностика по изображению=== | ||
− | [[Файл: | + | [[Файл:Brain tumor mri cnn.jpg|thumb|left|200px|Рисунок 1. Классификация результатов МРТ по наличию опухоли<ref>[https://biomedpharmajournal.org/vol11no3/brain-tumor-classification-using-convolutional-neural-networks/ Seetha J, Raja S. S. Brain Tumor Classification Using Convolutional Neural Networks. Biomed Pharmacol J 2018;11(3).]</ref>.]] |
− | В диагностике заболеваний есть большое количество задач, которые можно решить при помощи машинного обучения, а в частности, при помощи анализа результатов различных исследований, таких как рентген, УЗИ или МРТ. В основном задача любой модели сводится к предсказанию, болен ли человек сейчас ( | + | [[Файл:Covid cnn recognition.png|thumb|400px|Рисунок 2. Пример вероятностной классификации КТ грудной клетки<ref>[https://arxiv.org/ftp/arxiv/papers/2004/2004.04931.pdf CoroNet: A deep neural network for detection and diagnosis of COVID-19 from chest x-ray images, 2020]</ref>.]] |
+ | В диагностике заболеваний есть большое количество задач, которые можно решить при помощи машинного обучения, а в частности, при помощи анализа результатов различных исследований, таких как рентген, УЗИ или МРТ. В основном задача любой модели сводится к предсказанию, болен ли человек сейчас. В зависимости от целей исследования используют разные типы [[Общие понятия#Типы задач|классификации]]: обычную (рис. 1), мультиклассовую или вероятностную (рис. 2). | ||
− | Для решения таких задач чаще всего используют [[глубокое обучение]]. | + | Для решения таких задач чаще всего используют [[глубокое обучение]]. Модели на вход подается картинка с рентгенологическим или ультразвуковым исследованием пациента, и по ним предсказывают наличие болезни. Обычно внутри таких моделей-классификаторов лежат [[сверточные нейронные сети]], а иногда к ним добавляется [[механизм внимания]]. За основу берутся state-of-the-art модели в области сверточных нейронных сетей, такие как GoogLeNet<ref>[https://static.googleusercontent.com/media/research.google.com/ru//pubs/archive/43022.pdf Szegedy et al., Going Deeper with Convolutions, 2015]</ref>, при этом точность предсказаний превышает 90%. Такие модели учатся на размеченных тренировочных наборах данных, поэтому их можно отнести к обучению с учителем. Большое распространение такие классификаторы получили в предсказании злокачественности новообразований, классификации заболеваний легких, подборе дозы контраста при проведении МРТ. |
− | + | ===Применения=== | |
+ | [[Файл:Spine x ray cnn.png|thumb|Рисунок 3. Пример локализации шейного отдела позвоночника на рентгене<ref>[https://lhncbc.nlm.nih.gov/system/files/pub9781.pdf Zhiyun Xue et al., Gender Detection from Spine X-ray Images Using Deep Learning, 2018]</ref>.]] | ||
+ | Многие модели учатся не только определять, есть ли опухоль на данном образце, но и локализировать ее (рис. 3). Таким образом, необходимо решить задачу сегментации изображения, то есть выделения каких-то ее наиболее важных частей. Технически задача не сильно отличается от предыдущей и решается все теми же сверточными нейронными сетями. | ||
− | |||
Поскольку точность предсказаний у описанных выше моделей достаточно высока, их стали применять на практике. Сейчас ведутся исследования по внедрению таких моделей в УЗИ-аппараты для того, чтобы быстрее и точнее определять местоположение и злокачественность опухоли. Кроме того, такие модели стали применять в направленной лучевой терапии, когда злокачественная опухоль облучается различными видами частиц. Известно, что эти частицы уничтожают не только раковые, но и здоровые клетки. Именно поэтому активно внедряются модели, которые могут подсказать аппарату точное направление облучения. Также сверточные сети стали использовать для определения дозы контрастного вещества при МРТ<ref>[https://www.sciencedirect.com/science/article/pii/S0939388918301181 Lundervold et al., An overview of deep learning in medical imaging focusing on MRI, 2019]</ref>. | Поскольку точность предсказаний у описанных выше моделей достаточно высока, их стали применять на практике. Сейчас ведутся исследования по внедрению таких моделей в УЗИ-аппараты для того, чтобы быстрее и точнее определять местоположение и злокачественность опухоли. Кроме того, такие модели стали применять в направленной лучевой терапии, когда злокачественная опухоль облучается различными видами частиц. Известно, что эти частицы уничтожают не только раковые, но и здоровые клетки. Именно поэтому активно внедряются модели, которые могут подсказать аппарату точное направление облучения. Также сверточные сети стали использовать для определения дозы контрастного вещества при МРТ<ref>[https://www.sciencedirect.com/science/article/pii/S0939388918301181 Lundervold et al., An overview of deep learning in medical imaging focusing on MRI, 2019]</ref>. | ||
===Генерация результатов исследований=== | ===Генерация результатов исследований=== | ||
− | + | [[Файл:3d mri models comparison.png|450px|thumb|Рисунок 4. Сравнение различных моделей для генерации 3D изображений МРТ исследований<ref>[https://arxiv.org/pdf/1908.02498.pdf Generation of 3D Brain MRI Using Auto-Encoding Generative Adversarial Networks]</ref>.]] | |
− | + | ||
− | + | Для обучения сверточных нейронных сетей необходимо большое количество данных, которые очень часто достаточно тяжело или даже невозможно получить из-за запрета на использование данных исследований без согласия пациента. Поэтому сейчас для получения достаточно больших датасетов стали применять [[Generative Adversarial Nets (GAN)|генеративные состязательные сети (GAN)]]. | |
− | + | ||
− | + | Задачу таких GAN можно разделить на две: генерация результатов исследований здоровых пациентов и пациентов с патологиями. В случае второй задачи важно, чтобы сгенерированные изображения правильно определялись именно по типу патологии. | |
− | Для обучения сверточных нейронных сетей необходимо большое количество данных, которые очень часто достаточно тяжело или даже невозможно получить | + | |
+ | Основная проблема, с которой сталкиваются такие модели {{---}} необходимость очень точно определять границы объекта на сгенерированном изображении, а также не допускать размытости. Эти две проблемы долгое время не получалось решить без большого количества реальных данных, вследствие чего не было возможным применение сгенерированных изображений на практике. | ||
+ | |||
+ | Сильно улучшить поведение моделей удалось путем использования [[Generative Adversarial Nets (GAN)#Ошибка Вассерштейна|метрики Вассерштейна]]<sup>[на 09.01.21 не создан]</sup>. Интуитивно, если каждая мера измеряет распределение «грунта» по метрическому пространству, то расстояние Вассерштейна измеряет минимальную стоимость преобразования одного распределения грунта в другое, при этом предполагается, что стоимость прямо пропорциональна количеству грунта и расстоянию, на которое его надо перетащить. Использование такой метрики в GAN помогло сильно улучшить поведение моделей при генерации данных МРТ исследований. Одной из моделей, в которых стали применять метрику Вассерштейна для генерации изображений исследований, стала 3D-alpha-WGAN (рис. 4). | ||
==Персонализированная медицина== | ==Персонализированная медицина== | ||
− | Персонализированная медицина {{---}} новая организационная модель построения медицинской помощи пациентам, которая основывается на подборе индивидуальных лечебных, диагностических и превентивных средств, оптимально подходящих по биохимическим, физиологическим и генетическим особенностям организма. | + | Персонализированная медицина (англ. personalized medicine) {{---}} новая организационная модель построения медицинской помощи пациентам, которая основывается на подборе индивидуальных лечебных, диагностических и превентивных средств, оптимально подходящих по биохимическим, физиологическим и генетическим особенностям организма. |
Основная цель нового направления в медицине заключается в персонализации и оптимизации профилактических мероприятий и лечения пациентов для исключения негативных последствий и осложнений, проявляющихся из-за индивидуальных особенностей. | Основная цель нового направления в медицине заключается в персонализации и оптимизации профилактических мероприятий и лечения пациентов для исключения негативных последствий и осложнений, проявляющихся из-за индивидуальных особенностей. | ||
Строка 28: | Строка 34: | ||
===Экспрессия генов и анализ транскриптомных данных=== | ===Экспрессия генов и анализ транскриптомных данных=== | ||
− | [[Файл:Gene expression based cnn.jpg|400px|thumb|Примеры архитектур сверточных сетей, предсказывающих вероятность рака по экспрессии генов | + | [[Файл:Gene expression based cnn.jpg|400px|thumb|Рисунок 5. Примеры архитектур сверточных сетей, предсказывающих вероятность рака по экспрессии генов<ref>[https://bmcmedgenomics.biomedcentral.com/articles/10.1186/s12920-020-0677-2 Convolutional neural network models for cancer type prediction based on gene expression]</ref>.]] |
− | Многие модели ориентируются на данные экспрессии генов<ref>[https://ru.wikipedia.org/wiki/%D0%AD%D0%BA%D1%81%D0%BF%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%D0%B3%D0%B5%D0%BD%D0%BE%D0%B2 Википедия: Экспрессия генов]</ref> (в широком смысле {{---}} процесс получения белка из последовательности ДНК). Известно, что от количества некоторых белков напрямую зависит возможность клеток становиться раковыми, а также порождать другие заболевания. Совокупность изменений в большом количестве различных белков может приводить к заболеванию. Именно поэтому модели персонализированной медицины основываются на данных экспрессии. Часто в качестве основы используют сверточные нейронные сети, располагая гены, отвечающие за похожие по своей функции белки, рядом друг с другом. | + | Многие модели ориентируются на данные экспрессии генов<ref>[https://ru.wikipedia.org/wiki/%D0%AD%D0%BA%D1%81%D0%BF%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%D0%B3%D0%B5%D0%BD%D0%BE%D0%B2 Википедия: Экспрессия генов]</ref> (в широком смысле {{---}} процесс получения белка из последовательности ДНК). Известно, что от количества некоторых белков напрямую зависит возможность клеток становиться раковыми, а также порождать другие заболевания. Совокупность изменений в большом количестве различных белков может приводить к заболеванию. Именно поэтому модели персонализированной медицины основываются на данных экспрессии. Часто в качестве основы используют сверточные нейронные сети (рис. 5), располагая гены, отвечающие за похожие по своей функции белки, рядом друг с другом. |
− | Транскриптом {{---}} совокупность всех молекул РНК, которые присутствовали в клетке после завершения процесса трансрипции (получение РНК с матрицы ДНК). | + | Прямой анализ экспрессии генов {{---}} трудная и дорогостоящая задача, поэтому часто обращаются к транскриптомным данным. Транскриптом {{---}} совокупность всех молекул РНК<ref>[https://ru.wikipedia.org/wiki/%D0%A0%D0%B8%D0%B1%D0%BE%D0%BD%D1%83%D0%BA%D0%BB%D0%B5%D0%B8%D0%BD%D0%BE%D0%B2%D0%B0%D1%8F_%D0%BA%D0%B8%D1%81%D0%BB%D0%BE%D1%82%D0%B0 Википедия: РНК]</ref>, которые присутствовали в клетке после завершения процесса трансрипции (получение РНК с матрицы ДНК). Транскриптом включает в себя матричную РНК (мРНК) {{---}} РНК, с которой впоследствии транслируются белки, и некодирующую РНК, которая, в свою очередь, не используется для получения белков. Транскриптомные данные чаще всего получают с помощью РНК-секвенирования (англ. RNA-seq) или ДНК-микрочипов (англ. DNA-microarray). С помощью специальных процедур из взятой у пациента пробы выделяют мРНК, которая затем наносится на ДНК-микрочип, где цепочки мРНК зацепляются, образуя двухцепочечные молекулы. Число цепочек, зацепившихся за определенный участок ДНК-микрочипа, определяет интенсивность свечения этого участка при сканировании. Так косвенно определяют экспрессию каждого из генов. Следующая проблема, с которой сталкиваются исследователи {{---}} слишком большое количество генов (например, у человека их около 28000). Вследствие этого очень тяжело обучать модели, поэтому приходится прибегать к [[Уменьшение размерности|уменьшению размерности]]. |
− | |||
− | |||
===Уменьшение размерности при работе с данными экспрессии генов=== | ===Уменьшение размерности при работе с данными экспрессии генов=== | ||
− | [[Файл:Melif scheme.png|400px|thumb|Описание алгоритма MeLiF]] | + | [[Файл:Melif scheme.png|400px|thumb|Рисунок 6. Описание алгоритма MeLiF<ref>[http://fppo.ifmo.ru/?page1=16&page2=86&number_file=E63E46A38DD44C84B7B9446996EB225F Сметанников Иван Борисович, Метод и алгоритмы выбора признаков в предсказательном моделировании фенотипических характеристик на основе транскриптомных данных]</ref>.]] |
− | Для уменьшения размерности в случае биологических данных применяются методы, основным критерием которых становится их скорость. Поскольку количество генов очень велико, чаще всего нет возможности опробовать | + | Для уменьшения размерности в случае биологических данных применяются методы, основным критерием которых становится их скорость. Поскольку количество генов очень велико, чаще всего нет возможности опробовать [[Уменьшение размерности#Встроенные методы | встроенные]] и [[Уменьшение размерности#Оберточные методы | оберточные]] методы, поэтому используют [[Уменьшение размерности#Фильтры | фильтры]]. |
− | Одним из примеров моделей, основанных на фильтрах является модель MeLiF<ref>[https://www.researchgate.net/publication/317201206_MeLiF_Filter_Ensemble_Learning_Algorithm_for_Gene_Selection| Smetannikov et al., MeLiF: Filter Ensemble Learning Algorithm for Gene Selection]</ref>, которая берет несколько фильтров <tex>M_i</tex> с соответствующими функциями измерения релевантности признака <tex>\mu_i</tex>, после чего строит новую меру значимости как <tex>\mu=\sum_{i=1}^{|M|} \alpha_{i} \mu_{i}</tex>, где <tex>\left\{\alpha_{i}\right\}_{i=1}^{|M|}</tex> {{---}} набор вещественных коэффициентов. После получения новой меры значимости происходит оценка модели на <tex>t</tex> лучших выбранных признаках. В случае удовлетворительного результата алгоритм завершается, возвращая текущий набор признаков, иначе {{---}} возвращается снова к получению новой меры на <tex>t+1</tex> признаках. | + | Одним из примеров моделей, основанных на фильтрах является модель MeLiF<ref>[https://www.researchgate.net/publication/317201206_MeLiF_Filter_Ensemble_Learning_Algorithm_for_Gene_Selection| Smetannikov et al., MeLiF: Filter Ensemble Learning Algorithm for Gene Selection]</ref> (рис. 6), которая берет несколько фильтров <tex>M_i</tex> с соответствующими функциями измерения релевантности признака <tex>\mu_i</tex>, после чего строит новую меру значимости как <tex>\mu=\sum_{i=1}^{|M|} \alpha_{i} \mu_{i}</tex>, где <tex>\left\{\alpha_{i}\right\}_{i=1}^{|M|}</tex> {{---}} набор вещественных коэффициентов. После получения новой меры значимости происходит оценка модели на <tex>t</tex> лучших выбранных признаках, которая состоит в полном цикле тренировки и тестирования. В случае удовлетворительного результата алгоритм завершается, возвращая текущий набор признаков, иначе {{---}} возвращается снова к получению новой меры на <tex>t+1</tex> признаках. |
===Медицинская карта=== | ===Медицинская карта=== | ||
− | Другая задача {{---}} предсказать, заболеет ли человек в будущем. Для этого часто используется электронная медицинская карта пациента, и на вход сети подаются данные о пациенте, результаты исследований, его генеалогическое древо и другая медицинская информация. Основываясь на полученных данных, модель должна предсказать вероятность того, что человек может заболеть | + | Другая задача {{---}} предсказать, заболеет ли человек в будущем. Для этого часто используется электронная медицинская карта пациента, и на вход сети подаются данные о пациенте, результаты исследований, его генеалогическое древо и другая медицинская информация. Основываясь на полученных данных, модель должна предсказать вероятность того, что человек может заболеть каждой болезнью из приведенного набора. Если вероятность хотя бы по одному из маркеров превышает некоторое значение {{---}} такая модель рекомендует пациенту обратиться к специалисту и относит его в группу высокого риска по этому параметру. В свою очередь специалист может подтвердить или же опровергнуть опасения модели, отдавая ей результат {{---}} права модель или нет. Таким образом, эта проблема относится к классу задач [[Обучение с подкреплением|обучения с подкреплением]]. С точки зрения архитектуры моделей {{---}} в таких задачах часто используют [[метод опорных векторов (SVM)]] или [[глубокое обучение]]. |
==Поиск лекарств== | ==Поиск лекарств== | ||
− | Поиск лекарств (англ. drug discovery, drug design) {{---}} процесс поиска новых лекарственных средств, часто основанный на знаниях о биологической мишени. | + | Поиск лекарств (англ. drug discovery, drug design) {{---}} процесс поиска новых лекарственных средств, часто основанный на знаниях о биологической мишени (целевом белке, с которым должно взаимодействовать лекарственное вещество). |
− | При поиске новых лекарственных средств часто прибегают к помощи машинного обучения в таких задачах, как предсказание молекулярных свойств потенциальной молекулы лекарства, формы какого-либо белка, активности взаимодействия между | + | При поиске новых лекарственных средств часто прибегают к помощи машинного обучения в таких задачах, как предсказание молекулярных свойств потенциальной молекулы лекарства, формы какого-либо белка, активности взаимодействия между веществами. |
− | |||
===Предсказание молекулярных свойств=== | ===Предсказание молекулярных свойств=== | ||
− | [[Файл:MoleculeGNN.PNG|400px|thumb| | + | [[Файл:MoleculeGNN.PNG|400px|thumb|Рисунок 7. Пример молекулярного графа]] |
− | [[Файл:Morgan fingerprint.jpg|400px|thumb|Пример Morgan Fingerprint для молекулы | + | [[Файл:Morgan fingerprint.jpg|400px|thumb|Рисунок 8. Пример Morgan Fingerprint для молекулы<ref>[https://www.sciencedirect.com/science/article/abs/pii/S1046202314002631 Adrià Cereto-Massagué et al., Molecular fingerprint similarity search in virtual screening, 2015]</ref>.]] |
− | Одна из главных задач машинного обучения при поиске новых лекарств {{---}} сужение круга их поиска. Чаще всего фармацевтические компании имеют на руках библиотеки с огромным количеством веществ, которые они потенциально могут синтезировать и опробовать в качестве лекарства. Но обычно размеры этих библиотек составляют тысячи молекул, поэтому синтезировать и проверить каждую из них не представляется возможным. В этом случае прибегают к предсказанию некоторых свойств этих молекул, которые точно определяют, может ли молекула быть использована как лекарство. Для предсказания свойств молекул обычно используют молекулярный граф {{---}} графическое представление молекулы (ее атомов и связей). | + | Одна из главных задач машинного обучения при поиске новых лекарств {{---}} сужение круга их поиска. Чаще всего фармацевтические компании имеют на руках библиотеки с огромным количеством веществ, которые они потенциально могут синтезировать и опробовать в качестве лекарства. Но обычно размеры этих библиотек составляют тысячи молекул, поэтому синтезировать и проверить каждую из них не представляется возможным. В этом случае прибегают к предсказанию некоторых свойств этих молекул, которые точно определяют, может ли молекула быть использована как лекарство. Для предсказания свойств молекул обычно используют молекулярный граф (рис. 7) {{---}} графическое представление молекулы (ее атомов и связей). |
− | Первые нейронные сети для предсказания молекулярных свойств использовали Моргановские фингерпринты (англ. Morgan fingerpints), которые для каждого атома в молекуле выделяли всех его соседей на каком-то определенном расстоянии (которое является гиперпараметром) и смотрели на наличие такой подструктуры в молекуле. Получался аналог | + | Первые нейронные сети для предсказания молекулярных свойств использовали Моргановские фингерпринты (англ. Morgan fingerpints), которые для каждого атома в молекуле выделяли всех его соседей на каком-то определенном расстоянии (которое является [[Настройка гиперпараметров#Гиперпараметры|гиперпараметром]]) и смотрели на наличие такой подструктуры в молекуле (рис. 8). Получался аналог [[Векторное представление слов#One-hot encoding|оne-hot кодирования]]. Впоследствии этот метод был несколько усовершенствован, и стали смотреть не на наличие подструктуры, а на то, сколько раз она встречается в молекуле. Прорыв в этой области случился с появлением сети NeuralFingerprints <ref>[https://arxiv.org/abs/1509.09292 Duvenaud et al., Convolutional Networks on Graphs for Learning Molecular Fingerprints, 2015]</ref>, которая является примером одной из первых попыток применения [[графовые нейронные сети|графовых нейронных сетей]] в предсказании свойств молекул. |
NeuralFingerprints принимает один гиперпараметр {{---}} максимальное расстояние, которое нужно учитывать при просмотре соседей каждого атома. После этого для каждого расстояния для каждого атома суммируются атомные представления его соседей на текущем расстоянии. Таким образом, получается векторное представление текущего атома фиксированной длины, которая равна количеству свойств у одного атома. Каждый элемент такого представления умножается на обучаемый параметр, уникальный для номера свойства и текущего рассматриваемого расстояния. После этого применяется функция активации к полученному ранее вектору, умноженному на вес, отвечающий за текущее расстояние. Полученные результаты для каждого из атомов на каждом из расстояний суммируются и получается результирующий вектор свойств для молекулы. Таким образом, в этой сети обучаемые параметры {{---}} веса для каждого из свойств атомов на каждом расстоянии (<tex>H^i_j</tex>, где <tex>i</tex> {{---}} индекс номера свойства (в модели их всего 5), <tex>j</tex> {{---}} индекс для текущего расстояния) и веса для каждого из расстояний (<tex>W_j</tex>, где <tex>j</tex> {{---}} индекс для текущего расстояния). Псевдокод представлен ниже. | NeuralFingerprints принимает один гиперпараметр {{---}} максимальное расстояние, которое нужно учитывать при просмотре соседей каждого атома. После этого для каждого расстояния для каждого атома суммируются атомные представления его соседей на текущем расстоянии. Таким образом, получается векторное представление текущего атома фиксированной длины, которая равна количеству свойств у одного атома. Каждый элемент такого представления умножается на обучаемый параметр, уникальный для номера свойства и текущего рассматриваемого расстояния. После этого применяется функция активации к полученному ранее вектору, умноженному на вес, отвечающий за текущее расстояние. Полученные результаты для каждого из атомов на каждом из расстояний суммируются и получается результирующий вектор свойств для молекулы. Таким образом, в этой сети обучаемые параметры {{---}} веса для каждого из свойств атомов на каждом расстоянии (<tex>H^i_j</tex>, где <tex>i</tex> {{---}} индекс номера свойства (в модели их всего 5), <tex>j</tex> {{---}} индекс для текущего расстояния) и веса для каждого из расстояний (<tex>W_j</tex>, где <tex>j</tex> {{---}} индекс для текущего расстояния). Псевдокод представлен ниже. | ||
Строка 64: | Строка 67: | ||
neighbors = '''neighbors'''(a) <span style="color:Green"># смотрим соседей на расстоянии L от текущего атома a</span> | neighbors = '''neighbors'''(a) <span style="color:Green"># смотрим соседей на расстоянии L от текущего атома a</span> | ||
v = r[a] + '''sum'''(r[i] for i in neighbors) <span style="color:Green"># суммируем вектора соседей и вектор текущего атома</span> | v = r[a] + '''sum'''(r[i] for i in neighbors) <span style="color:Green"># суммируем вектора соседей и вектор текущего атома</span> | ||
− | r[a] = '''σ'''(v <tex>\cdot</tex>H[a][L]) <span style="color:Green"># изменяем представление текущего атома</span> | + | r[a] = '''σ'''(v <tex>\cdot</tex> H[a][L]) <span style="color:Green"># изменяем представление текущего атома</span> |
− | i = '''softmax'''(r[a]<tex>\cdot</tex>W[L]) <span style="color:Green"># получаем вектор для текущего атома и расстояния</span> | + | i = '''softmax'''(r[a] <tex>\cdot</tex> W[L]) <span style="color:Green"># получаем вектор для текущего атома и расстояния</span> |
f = f + i <span style="color:Green"># добавляем его к ответу</span> | f = f + i <span style="color:Green"># добавляем его к ответу</span> | ||
'''return''' f | '''return''' f | ||
Строка 71: | Строка 74: | ||
− | Эта сеть была одной из первых в этой области, и сейчас используется как базовый метод в | + | Эта сеть была одной из первых в этой области, и сейчас используется как базовый метод в множестве статей. В основу новых методов и сейчас чаще всего ложатся [[графовые нейронные сети]]. Подходы графовых нейронных сетей адаптируют под молекулярный граф путем поиска элементов на расстоянии не более, чем N (где N является гиперпараметром), или последовательным рассмотрением каждой вершины и усреднением полученных значений. |
===Предсказание формы белка=== | ===Предсказание формы белка=== | ||
− | [[Файл:AlphaFold 2 block design.png|400px|thumb|Архитектура AlphaFold2, модели для предсказания пространственной структуры белка | + | [[Файл:AlphaFold 2 block design.png|400px|thumb|Рисунок 9. Архитектура AlphaFold2, модели для предсказания пространственной структуры белка<ref>[https://en.wikipedia.org/wiki/AlphaFold Wikipedia: AlphaFold]</ref>.]] |
− | Секвенирование | + | Секвенирование<ref>[https://en.wikipedia.org/wiki/Sequencing Википедия: Секвенирование]</ref> {{---}} процесс получения нуклеотидной последовательности из молекулы ДНК. |
− | Из нуклеотидной последовательности можно получить аминокислотную последовательность, которая в свою очередь кодирует любой белок в организме. | + | Из нуклеотидной последовательности можно получить аминокислотную последовательность, которая, в свою очередь, кодирует любой белок в организме. |
− | Предсказание формы белка {{---}} другая очень важная задача машинного обучения в фармацевтике. С возникновением технологий секвенирования ДНК у сообщества появилась возможность быстро и достаточно качественно прочитывать белковые последовательности, но получать пространственную структуру полученных белков экспериментально все еще очень трудоемко и дорого. | + | Предсказание формы белка {{---}} другая очень важная задача машинного обучения в фармацевтике. С возникновением технологий секвенирования ДНК у сообщества появилась возможность быстро и достаточно качественно прочитывать белковые последовательности, но получать пространственную структуру полученных белков экспериментально все еще очень трудоемко и дорого. Тем не менее, знать пространственную структура белка очень важно, поскольку от нее сильно зависят типы соединений, которые могут связаться (прореагировать) с этим белком. Например, при подборе потенциальной вакцины, необходимо точно знать форму антитела, чтобы понимать, сможет ли это соединение захватить мишень (вирус, бактерию, белок). |
− | Предсказание формы белков основано на нейронных сетях, которые как вход используют очень длинную аминокислотную последовательность (размер алфавита ограничен {{---}} всего различных аминокислот 20), а на выходе должны предсказать значения торсионных углов<ref>[https://kodomo.fbb.msu.ru/~youthofchemist/projects/Term_1/Protein/phipsi.html Торсионные углы]</ref> между аминокислотами. В декабре 2020 года DeepMind (исследовательское подразделение Google) заявили, что решили проблему пространственной структуры белка | + | Предсказание формы белков основано на нейронных сетях, которые как вход используют очень длинную аминокислотную последовательность (размер алфавита ограничен {{---}} всего различных аминокислот 20), а на выходе должны предсказать значения торсионных углов<ref>[https://kodomo.fbb.msu.ru/~youthofchemist/projects/Term_1/Protein/phipsi.html Торсионные углы]</ref> между аминокислотами. В декабре 2020 года DeepMind (исследовательское подразделение Google) заявили, что решили проблему пространственной структуры белка<ref>[https://meduza.io/feature/2020/12/13/fundamentalnaya-problema-belka-reshena-uchenye-bilis-nad-ney-polveka-no-vse-sdelali-programmisty-google-i-eto-mozhet-byt-ochen-vazhno-dlya-meditsiny Фундаментальная «проблема белка» решена]</ref>. Авторы модели утверждают, что значение метрики глобального расстояния (англ. global distance test) в их сети AlphaFold2 (рис. 9) превысило 90%. Метрика глобального расстояния {{---}} это метрика, которая вычисляется для каждой аминокислоты как процент атомов углерода из главной цепи белка, которые в сгенерированном белке расположены не более чем на расстоянии какого-то определенного количества ангстрем от соответствующего атома углерода в исходном белке. Обычно это значение берется равным 1, 2, 4 или 8 ангстрем (10<sup>-10</sup>м). |
===Генерация молекулярных структур=== | ===Генерация молекулярных структур=== | ||
− | [[Файл:Ranc scheme.png | + | [[Файл:SMILES.png|thumb|Рисунок 10. Пример строки SMILES для молекулы<ref>[https://ru.wikipedia.org/wiki/SMILES Википедия: SMILES]</ref>.]] |
− | Еще одна задача, которая есть сейчас в мире машинного обучения {{---}} генерировать новые | + | [[Файл:Ranc scheme.png|thumb|Рисунок 11. Пример генеративной состязательной сети для лекарственных молекул. Сеть RANC (Reinforced Adversarial Neural Computer) <ref>[https://pubs.acs.org/doi/10.1021/acs.jcim.7b00690 Evgeny Putin et al., Reinforced Adversarial Neural Computer for de Novo Molecular Design, 2018]</ref>.]] |
+ | Еще одна задача, которая есть сейчас в мире машинного обучения {{---}} генерировать новые молекулы, которые могут потенциально быть лекарствами. В отличие от подхода с анализом уже существующих библиотек лекарств, такай метод исключает возможность "пропустить" хорошо походящее вещество из-за того, что оно не было включено в библиотеку для анализа. | ||
+ | |||
+ | Для кодирования молекулярной структуры существует специальная нотация SMILES (Simplified Molecular Input Line Entry System, с англ. — «система упрощённого представления молекул в строке ввода») {{---}} система правил для однозначного описания состава и структуры молекулы химического вещества с использованием строки символов (рис. 10). Таким образом, задача моделей состоит в генерации строки, правильной с точки зрения SMILES. Стоит отметить, что есть возможность сгенерировать правильные SMILES-строки с точки зрения синтаксиса, но не правильные по валентности<ref>[https://ru.wikipedia.org/wiki/%D0%92%D0%B0%D0%BB%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D1%81%D1%82%D1%8C Википедия: Валентность]</ref> (например, атом углерода не может иметь валентность больше, чем 4, но можно сгенерировать SMILES, где валентность углерода {{---}} 5.) | ||
+ | |||
+ | Для генерации молекулярных структур используют [[Generative Adversarial Nets (GAN)|генеративные состязательные сети]] (рис. 11). Общую идею подхода можно описать так {{---}} предлагается генерировать различные молекулярные структуры в формате SMILES-строки (это делает генератор), а уже потом проверять, действительно ли их можно использовать как лекарство и насколько сложно их синтезировать (это делает дискриминатор {{---}} пытается отличить сгенерированный SMILES от настоящего). | ||
− | SMILES | + | Дискриминатор обычно проверяет схожесть с лекарственными средствами (по набору физических свойств, таких как растворимость<ref>[https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D1%82%D0%B2%D0%BE%D1%80%D0%B8%D0%BC%D0%BE%D1%81%D1%82 Википедия: Растворимость]</ref>, гидрофильность<ref>[https://ru.wikipedia.org/wiki/%D0%93%D0%B8%D0%B4%D1%80%D0%BE%D1%84%D0%B8%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C Википедия: Гидрофильность]</ref>, липофильность<ref>[https://ru.wikipedia.org/wiki/%D0%9B%D0%B8%D0%BF%D0%BE%D1%84%D0%B8%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C Википедия: Липофильность]</ref>) и синтезируемость молекулы с данной SMILES-строкой (по валентностям атомов, кратности связей, заряду молекулы). Таким образом, задача генератора {{---}} сгенерировать такую строку SMILES для молекулы, чтобы дискриминатор не отличил ее от настоящей. Архитектура дискриминатора чаще всего остается очень похожей на архитектуру обычной сети, предсказывающей молекулярные свойства. В качестве дискриминатора часто используются графовые или сверточные нейронные сети. Для генератора же обычно используют [[Долгая краткосрочная память|механизм долгой краткосрочной памяти]]. |
==См. также== | ==См. также== | ||
Строка 98: | Строка 106: | ||
* [https://en.wikipedia.org/wiki/Protein_structure_prediction#:~:text=Protein%20structure%20prediction%20is%20the,inverse%20problem%20of%20protein%20design. Protein structure prediction] | * [https://en.wikipedia.org/wiki/Protein_structure_prediction#:~:text=Protein%20structure%20prediction%20is%20the,inverse%20problem%20of%20protein%20design. Protein structure prediction] | ||
* [https://ru.wikipedia.org/wiki/%D0%9F%D0%B5%D1%80%D1%81%D0%BE%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B5%D0%B4%D0%B8%D1%86%D0%B8%D0%BD%D0%B0 Википедия: Персонализированная медицина] | * [https://ru.wikipedia.org/wiki/%D0%9F%D0%B5%D1%80%D1%81%D0%BE%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B5%D0%B4%D0%B8%D1%86%D0%B8%D0%BD%D0%B0 Википедия: Персонализированная медицина] | ||
− | |||
* [https://emerj.com/ai-sector-overviews/machine-learning-in-pharma-medicine/ 7 Applications of Machine Learning in Pharma and Medicine] | * [https://emerj.com/ai-sector-overviews/machine-learning-in-pharma-medicine/ 7 Applications of Machine Learning in Pharma and Medicine] | ||
* [https://www.nature.com/articles/s41563-019-0360-1 Ascent of machine learning in medicine] | * [https://www.nature.com/articles/s41563-019-0360-1 Ascent of machine learning in medicine] | ||
* [http://jtelemed.ru/article/glubokoe-mashinnoe-obuchenie-iskusstvennyj-intellekt-v-ultrazvukovoj-diagnostike Глубокое машинное обучение (искусственный интеллект) в ультразвуковой диагностике] | * [http://jtelemed.ru/article/glubokoe-mashinnoe-obuchenie-iskusstvennyj-intellekt-v-ultrazvukovoj-diagnostike Глубокое машинное обучение (искусственный интеллект) в ультразвуковой диагностике] | ||
− | * [https:// | + | * [https://ru.wikipedia.org/wiki/%D0%9C%D0%B5%D1%82%D1%80%D0%B8%D0%BA%D0%B0_%D0%92%D0%B0%D1%81%D0%B5%D1%80%D1%88%D1%82%D0%B5%D0%B9%D0%BD%D0%B0 Википедия: Метрика Васерштейна] |
− | |||
==Источники информации== | ==Источники информации== | ||
Строка 109: | Строка 115: | ||
[[Категория: Машинное обучение]] | [[Категория: Машинное обучение]] | ||
[[Категория: Глубокое обучение]] | [[Категория: Глубокое обучение]] | ||
− | [[Категория: | + | [[Категория: Практическое применение машинного обучения]] |
Текущая версия на 19:30, 4 сентября 2022
Машинное обучение в медицине используют очень активно, находя все больше областей для его применения. Сейчас в медицине используют почти все виды машинного обучения: обучение с учителем, без учителя, с частичным привлечением учителя, с подкреплением. Наиболее активно машинное обучение в медицине используют для решения проблем по диагностике заболеваний и дизайну лекарств. Эти задачи относят к обучению с учителем или с частичным привлечением учителя. Кроме того, машинное обучение стали применять в персонализированной медицине и генерации данных различных исследований для анонимизации данных пациентов. В этих задачах сейчас все больше применяют обучение с подкреплением и обучение без учителя, в частности, генеративные состязательные сети. Машинное обучение в медицине начали изучать еще в 2000-ых и оно продолжает активно развиваться и в наши дни.
Содержание
Диагностика заболеваний по результатам рентгенологических и УЗИ исследований
Диагностика по изображению
![](/wiki/images/thumb/b/bb/Brain_tumor_mri_cnn.jpg/200px-Brain_tumor_mri_cnn.jpg)
![](/wiki/images/thumb/8/81/Covid_cnn_recognition.png/400px-Covid_cnn_recognition.png)
В диагностике заболеваний есть большое количество задач, которые можно решить при помощи машинного обучения, а в частности, при помощи анализа результатов различных исследований, таких как рентген, УЗИ или МРТ. В основном задача любой модели сводится к предсказанию, болен ли человек сейчас. В зависимости от целей исследования используют разные типы классификации: обычную (рис. 1), мультиклассовую или вероятностную (рис. 2).
Для решения таких задач чаще всего используют глубокое обучение. Модели на вход подается картинка с рентгенологическим или ультразвуковым исследованием пациента, и по ним предсказывают наличие болезни. Обычно внутри таких моделей-классификаторов лежат сверточные нейронные сети, а иногда к ним добавляется механизм внимания. За основу берутся state-of-the-art модели в области сверточных нейронных сетей, такие как GoogLeNet[3], при этом точность предсказаний превышает 90%. Такие модели учатся на размеченных тренировочных наборах данных, поэтому их можно отнести к обучению с учителем. Большое распространение такие классификаторы получили в предсказании злокачественности новообразований, классификации заболеваний легких, подборе дозы контраста при проведении МРТ.
Применения
![](/wiki/images/thumb/a/a5/Spine_x_ray_cnn.png/300px-Spine_x_ray_cnn.png)
Многие модели учатся не только определять, есть ли опухоль на данном образце, но и локализировать ее (рис. 3). Таким образом, необходимо решить задачу сегментации изображения, то есть выделения каких-то ее наиболее важных частей. Технически задача не сильно отличается от предыдущей и решается все теми же сверточными нейронными сетями.
Поскольку точность предсказаний у описанных выше моделей достаточно высока, их стали применять на практике. Сейчас ведутся исследования по внедрению таких моделей в УЗИ-аппараты для того, чтобы быстрее и точнее определять местоположение и злокачественность опухоли. Кроме того, такие модели стали применять в направленной лучевой терапии, когда злокачественная опухоль облучается различными видами частиц. Известно, что эти частицы уничтожают не только раковые, но и здоровые клетки. Именно поэтому активно внедряются модели, которые могут подсказать аппарату точное направление облучения. Также сверточные сети стали использовать для определения дозы контрастного вещества при МРТ[5].
Генерация результатов исследований
![](/wiki/images/thumb/a/a8/3d_mri_models_comparison.png/450px-3d_mri_models_comparison.png)
Для обучения сверточных нейронных сетей необходимо большое количество данных, которые очень часто достаточно тяжело или даже невозможно получить из-за запрета на использование данных исследований без согласия пациента. Поэтому сейчас для получения достаточно больших датасетов стали применять генеративные состязательные сети (GAN).
Задачу таких GAN можно разделить на две: генерация результатов исследований здоровых пациентов и пациентов с патологиями. В случае второй задачи важно, чтобы сгенерированные изображения правильно определялись именно по типу патологии.
Основная проблема, с которой сталкиваются такие модели — необходимость очень точно определять границы объекта на сгенерированном изображении, а также не допускать размытости. Эти две проблемы долгое время не получалось решить без большого количества реальных данных, вследствие чего не было возможным применение сгенерированных изображений на практике.
Сильно улучшить поведение моделей удалось путем использования метрики Вассерштейна[на 09.01.21 не создан]. Интуитивно, если каждая мера измеряет распределение «грунта» по метрическому пространству, то расстояние Вассерштейна измеряет минимальную стоимость преобразования одного распределения грунта в другое, при этом предполагается, что стоимость прямо пропорциональна количеству грунта и расстоянию, на которое его надо перетащить. Использование такой метрики в GAN помогло сильно улучшить поведение моделей при генерации данных МРТ исследований. Одной из моделей, в которых стали применять метрику Вассерштейна для генерации изображений исследований, стала 3D-alpha-WGAN (рис. 4).
Персонализированная медицина
Персонализированная медицина (англ. personalized medicine) — новая организационная модель построения медицинской помощи пациентам, которая основывается на подборе индивидуальных лечебных, диагностических и превентивных средств, оптимально подходящих по биохимическим, физиологическим и генетическим особенностям организма.
Основная цель нового направления в медицине заключается в персонализации и оптимизации профилактических мероприятий и лечения пациентов для исключения негативных последствий и осложнений, проявляющихся из-за индивидуальных особенностей. Основные отрасли медицины, где применяются новые принципы — онкология, фармация и фармакогеномика. Последняя занимается изучением реакций организма на медицинские препараты в зависимости от индивидуальных наследственных факторов.
Экспрессия генов и анализ транскриптомных данных
![](/wiki/images/thumb/c/c0/Gene_expression_based_cnn.jpg/400px-Gene_expression_based_cnn.jpg)
Многие модели ориентируются на данные экспрессии генов[8] (в широком смысле — процесс получения белка из последовательности ДНК). Известно, что от количества некоторых белков напрямую зависит возможность клеток становиться раковыми, а также порождать другие заболевания. Совокупность изменений в большом количестве различных белков может приводить к заболеванию. Именно поэтому модели персонализированной медицины основываются на данных экспрессии. Часто в качестве основы используют сверточные нейронные сети (рис. 5), располагая гены, отвечающие за похожие по своей функции белки, рядом друг с другом.
Прямой анализ экспрессии генов — трудная и дорогостоящая задача, поэтому часто обращаются к транскриптомным данным. Транскриптом — совокупность всех молекул РНК[9], которые присутствовали в клетке после завершения процесса трансрипции (получение РНК с матрицы ДНК). Транскриптом включает в себя матричную РНК (мРНК) — РНК, с которой впоследствии транслируются белки, и некодирующую РНК, которая, в свою очередь, не используется для получения белков. Транскриптомные данные чаще всего получают с помощью РНК-секвенирования (англ. RNA-seq) или ДНК-микрочипов (англ. DNA-microarray). С помощью специальных процедур из взятой у пациента пробы выделяют мРНК, которая затем наносится на ДНК-микрочип, где цепочки мРНК зацепляются, образуя двухцепочечные молекулы. Число цепочек, зацепившихся за определенный участок ДНК-микрочипа, определяет интенсивность свечения этого участка при сканировании. Так косвенно определяют экспрессию каждого из генов. Следующая проблема, с которой сталкиваются исследователи — слишком большое количество генов (например, у человека их около 28000). Вследствие этого очень тяжело обучать модели, поэтому приходится прибегать к уменьшению размерности.
Уменьшение размерности при работе с данными экспрессии генов
![](/wiki/images/thumb/2/2b/Melif_scheme.png/400px-Melif_scheme.png)
Для уменьшения размерности в случае биологических данных применяются методы, основным критерием которых становится их скорость. Поскольку количество генов очень велико, чаще всего нет возможности опробовать встроенные и оберточные методы, поэтому используют фильтры.
Одним из примеров моделей, основанных на фильтрах является модель MeLiF[11] (рис. 6), которая берет несколько фильтров с соответствующими функциями измерения релевантности признака , после чего строит новую меру значимости как , где — набор вещественных коэффициентов. После получения новой меры значимости происходит оценка модели на лучших выбранных признаках, которая состоит в полном цикле тренировки и тестирования. В случае удовлетворительного результата алгоритм завершается, возвращая текущий набор признаков, иначе — возвращается снова к получению новой меры на признаках.
Медицинская карта
Другая задача — предсказать, заболеет ли человек в будущем. Для этого часто используется электронная медицинская карта пациента, и на вход сети подаются данные о пациенте, результаты исследований, его генеалогическое древо и другая медицинская информация. Основываясь на полученных данных, модель должна предсказать вероятность того, что человек может заболеть каждой болезнью из приведенного набора. Если вероятность хотя бы по одному из маркеров превышает некоторое значение — такая модель рекомендует пациенту обратиться к специалисту и относит его в группу высокого риска по этому параметру. В свою очередь специалист может подтвердить или же опровергнуть опасения модели, отдавая ей результат — права модель или нет. Таким образом, эта проблема относится к классу задач обучения с подкреплением. С точки зрения архитектуры моделей — в таких задачах часто используют метод опорных векторов (SVM) или глубокое обучение.
Поиск лекарств
Поиск лекарств (англ. drug discovery, drug design) — процесс поиска новых лекарственных средств, часто основанный на знаниях о биологической мишени (целевом белке, с которым должно взаимодействовать лекарственное вещество). При поиске новых лекарственных средств часто прибегают к помощи машинного обучения в таких задачах, как предсказание молекулярных свойств потенциальной молекулы лекарства, формы какого-либо белка, активности взаимодействия между веществами.
Предсказание молекулярных свойств
![](/wiki/images/thumb/4/4d/Morgan_fingerprint.jpg/400px-Morgan_fingerprint.jpg)
Одна из главных задач машинного обучения при поиске новых лекарств — сужение круга их поиска. Чаще всего фармацевтические компании имеют на руках библиотеки с огромным количеством веществ, которые они потенциально могут синтезировать и опробовать в качестве лекарства. Но обычно размеры этих библиотек составляют тысячи молекул, поэтому синтезировать и проверить каждую из них не представляется возможным. В этом случае прибегают к предсказанию некоторых свойств этих молекул, которые точно определяют, может ли молекула быть использована как лекарство. Для предсказания свойств молекул обычно используют молекулярный граф (рис. 7) — графическое представление молекулы (ее атомов и связей).
Первые нейронные сети для предсказания молекулярных свойств использовали Моргановские фингерпринты (англ. Morgan fingerpints), которые для каждого атома в молекуле выделяли всех его соседей на каком-то определенном расстоянии (которое является гиперпараметром) и смотрели на наличие такой подструктуры в молекуле (рис. 8). Получался аналог оne-hot кодирования. Впоследствии этот метод был несколько усовершенствован, и стали смотреть не на наличие подструктуры, а на то, сколько раз она встречается в молекуле. Прорыв в этой области случился с появлением сети NeuralFingerprints [13], которая является примером одной из первых попыток применения графовых нейронных сетей в предсказании свойств молекул.
NeuralFingerprints принимает один гиперпараметр — максимальное расстояние, которое нужно учитывать при просмотре соседей каждого атома. После этого для каждого расстояния для каждого атома суммируются атомные представления его соседей на текущем расстоянии. Таким образом, получается векторное представление текущего атома фиксированной длины, которая равна количеству свойств у одного атома. Каждый элемент такого представления умножается на обучаемый параметр, уникальный для номера свойства и текущего рассматриваемого расстояния. После этого применяется функция активации к полученному ранее вектору, умноженному на вес, отвечающий за текущее расстояние. Полученные результаты для каждого из атомов на каждом из расстояний суммируются и получается результирующий вектор свойств для молекулы. Таким образом, в этой сети обучаемые параметры — веса для каждого из свойств атомов на каждом расстоянии (
, где — индекс номера свойства (в модели их всего 5), — индекс для текущего расстояния) и веса для каждого из расстояний ( , где — индекс для текущего расстояния). Псевдокод представлен ниже.function neuralFingerptint(molecule, R, H, W): # R - максимальное расстояние, H - матрица весов размера len(molecule) f = array[len(molecule), 0] for a in molecule: r[a] = g(a) R, W - вектор весов размера R# записываем свойства для каждого атома for L = 1 to R: for a in molecule: neighbors = neighbors(a) # смотрим соседей на расстоянии L от текущего атома a v = r[a] + sum(r[i] for i in neighbors) # суммируем вектора соседей и вектор текущего атома r[a] = σ(v H[a][L]) # изменяем представление текущего атома i = softmax(r[a] W[L]) # получаем вектор для текущего атома и расстояния f = f + i # добавляем его к ответу return f
Эта сеть была одной из первых в этой области, и сейчас используется как базовый метод в множестве статей. В основу новых методов и сейчас чаще всего ложатся графовые нейронные сети. Подходы графовых нейронных сетей адаптируют под молекулярный граф путем поиска элементов на расстоянии не более, чем N (где N является гиперпараметром), или последовательным рассмотрением каждой вершины и усреднением полученных значений.
Предсказание формы белка
![](/wiki/images/thumb/3/3c/AlphaFold_2_block_design.png/400px-AlphaFold_2_block_design.png)
Секвенирование[15] — процесс получения нуклеотидной последовательности из молекулы ДНК. Из нуклеотидной последовательности можно получить аминокислотную последовательность, которая, в свою очередь, кодирует любой белок в организме.
Предсказание формы белка — другая очень важная задача машинного обучения в фармацевтике. С возникновением технологий секвенирования ДНК у сообщества появилась возможность быстро и достаточно качественно прочитывать белковые последовательности, но получать пространственную структуру полученных белков экспериментально все еще очень трудоемко и дорого. Тем не менее, знать пространственную структура белка очень важно, поскольку от нее сильно зависят типы соединений, которые могут связаться (прореагировать) с этим белком. Например, при подборе потенциальной вакцины, необходимо точно знать форму антитела, чтобы понимать, сможет ли это соединение захватить мишень (вирус, бактерию, белок).
Предсказание формы белков основано на нейронных сетях, которые как вход используют очень длинную аминокислотную последовательность (размер алфавита ограничен — всего различных аминокислот 20), а на выходе должны предсказать значения торсионных углов[16] между аминокислотами. В декабре 2020 года DeepMind (исследовательское подразделение Google) заявили, что решили проблему пространственной структуры белка[17]. Авторы модели утверждают, что значение метрики глобального расстояния (англ. global distance test) в их сети AlphaFold2 (рис. 9) превысило 90%. Метрика глобального расстояния — это метрика, которая вычисляется для каждой аминокислоты как процент атомов углерода из главной цепи белка, которые в сгенерированном белке расположены не более чем на расстоянии какого-то определенного количества ангстрем от соответствующего атома углерода в исходном белке. Обычно это значение берется равным 1, 2, 4 или 8 ангстрем (10-10м).
Генерация молекулярных структур
![](/wiki/images/thumb/0/00/SMILES.png/300px-SMILES.png)
![](/wiki/images/thumb/5/5e/Ranc_scheme.png/300px-Ranc_scheme.png)
Еще одна задача, которая есть сейчас в мире машинного обучения — генерировать новые молекулы, которые могут потенциально быть лекарствами. В отличие от подхода с анализом уже существующих библиотек лекарств, такай метод исключает возможность "пропустить" хорошо походящее вещество из-за того, что оно не было включено в библиотеку для анализа.
Для кодирования молекулярной структуры существует специальная нотация SMILES (Simplified Molecular Input Line Entry System, с англ. — «система упрощённого представления молекул в строке ввода») — система правил для однозначного описания состава и структуры молекулы химического вещества с использованием строки символов (рис. 10). Таким образом, задача моделей состоит в генерации строки, правильной с точки зрения SMILES. Стоит отметить, что есть возможность сгенерировать правильные SMILES-строки с точки зрения синтаксиса, но не правильные по валентности[20] (например, атом углерода не может иметь валентность больше, чем 4, но можно сгенерировать SMILES, где валентность углерода — 5.)
Для генерации молекулярных структур используют генеративные состязательные сети (рис. 11). Общую идею подхода можно описать так — предлагается генерировать различные молекулярные структуры в формате SMILES-строки (это делает генератор), а уже потом проверять, действительно ли их можно использовать как лекарство и насколько сложно их синтезировать (это делает дискриминатор — пытается отличить сгенерированный SMILES от настоящего).
Дискриминатор обычно проверяет схожесть с лекарственными средствами (по набору физических свойств, таких как растворимость[21], гидрофильность[22], липофильность[23]) и синтезируемость молекулы с данной SMILES-строкой (по валентностям атомов, кратности связей, заряду молекулы). Таким образом, задача генератора — сгенерировать такую строку SMILES для молекулы, чтобы дискриминатор не отличил ее от настоящей. Архитектура дискриминатора чаще всего остается очень похожей на архитектуру обычной сети, предсказывающей молекулярные свойства. В качестве дискриминатора часто используются графовые или сверточные нейронные сети. Для генератора же обычно используют механизм долгой краткосрочной памяти.
См. также
- Нейронные сети, перцептрон
- Глубокое обучение
- Графовые нейронные сети
- Компьютерное зрение
- Обучение с подкреплением
Примечания
- Protein structure prediction
- Википедия: Персонализированная медицина
- 7 Applications of Machine Learning in Pharma and Medicine
- Ascent of machine learning in medicine
- Глубокое машинное обучение (искусственный интеллект) в ультразвуковой диагностике
- Википедия: Метрика Васерштейна
Источники информации
- ↑ Seetha J, Raja S. S. Brain Tumor Classification Using Convolutional Neural Networks. Biomed Pharmacol J 2018;11(3).
- ↑ CoroNet: A deep neural network for detection and diagnosis of COVID-19 from chest x-ray images, 2020
- ↑ Szegedy et al., Going Deeper with Convolutions, 2015
- ↑ Zhiyun Xue et al., Gender Detection from Spine X-ray Images Using Deep Learning, 2018
- ↑ Lundervold et al., An overview of deep learning in medical imaging focusing on MRI, 2019
- ↑ Generation of 3D Brain MRI Using Auto-Encoding Generative Adversarial Networks
- ↑ Convolutional neural network models for cancer type prediction based on gene expression
- ↑ Википедия: Экспрессия генов
- ↑ Википедия: РНК
- ↑ Сметанников Иван Борисович, Метод и алгоритмы выбора признаков в предсказательном моделировании фенотипических характеристик на основе транскриптомных данных
- ↑ Smetannikov et al., MeLiF: Filter Ensemble Learning Algorithm for Gene Selection
- ↑ Adrià Cereto-Massagué et al., Molecular fingerprint similarity search in virtual screening, 2015
- ↑ Duvenaud et al., Convolutional Networks on Graphs for Learning Molecular Fingerprints, 2015
- ↑ Wikipedia: AlphaFold
- ↑ Википедия: Секвенирование
- ↑ Торсионные углы
- ↑ Фундаментальная «проблема белка» решена
- ↑ Википедия: SMILES
- ↑ Evgeny Putin et al., Reinforced Adversarial Neural Computer for de Novo Molecular Design, 2018
- ↑ Википедия: Валентность
- ↑ Википедия: Растворимость
- ↑ Википедия: Гидрофильность
- ↑ Википедия: Липофильность