Изменения

Перейти к: навигация, поиск

Графовые нейронные сети

1084 байта добавлено, 19:35, 23 марта 2020
Release version 2.0
'''Граф''' – это структура данных, состоящая из двух компонентов: вершин и ребер. Граф <tex>G</tex> описывается множеством вершин (узлов) <tex>V</tex> и ребер <tex>E</tex>, которые он содержит <tex>G = (V,E)</tex>.
}}
[[Файл:GNNanimation.gif|thumb|240px|GNN классификация]]
Использование GNN позволяет работать с данными графов, без предварительной обработки. Такой подход позволяет сохранить топологические отношения между узлами графа.
В основе GNN заложен механизм распространения информации. Граф обрабатывается набором модулей, которые связаны между собой в соответствии со связями графа. Также каждый из модулей связан с узлами графа. В процессе обучения, модули обновляют свои состояния и обмениваются информацией. Это продолжается до тех пор, пока модули не достигнут устойчивого равновесия (для того, чтобы была гарантия того, что такое устойчивое состояние существует, этот механизм распространения ограничен). Выходные данные GNN вычисляются на основе состояния модуля на каждом узле.
== Развитие == В последние годы системы, основанные на вариантах графовых нейронных сетей, таких как '''GCN (graph convolutional network)''', '''GAT (graph attention network)''', '''GGNN (gated graph neural network)''', продемонстрировали высокую производительность при решении многих задач[[Файл:GNNanimation'''GCN''' применяют в задачах классификации текстовых данных, изображений, болезней и прогнозировании побочных эффектов. '''GAT''' применяют для классификации текста, обнаружения объектов на изображениях, задач комбинаторной оптимизации. '''GGNN''' применяют в задачах нейронного машинного перевода, для анализа социальных отношений.  gif]]
== Описание ==
* Градиент весов <tex>W</tex> вычисляется из функции потерь.
* Веса <tex>W</tex> обновляются в соответствии с градиентом, вычисленным на последнем шаге.
 
== Развитие ==
 
[[Файл:GCNex.png|thumb|300px|Пример Graph Convolutional Network]]
В последние годы системы, основанные на вариантах графовых нейронных сетей, таких как '''GCN (Graph Convolutional Network)'''<ref>[https://arxiv.org/pdf/1609.02907.pdf Semi-Supervised Classification with Graph Convolutional Networks, Thomas N. Kipf]</ref>, '''GAT (Graph Attention Network)'''<ref>[https://arxiv.org/pdf/1710.10903.pdf Graph Attention Networks, Petar Velickovic]</ref>, '''GGNN (Gated Graph Neural Network)'''<ref>[https://arxiv.org/pdf/1511.05493.pdf Gated Graph Sequence Neural Networks, Yujia Li & Richard Zemel]</ref>, продемонстрировали высокую производительность при решении многих задач.
 
Для тестирования алгоритмов часто используются датасеты наборов данных сети цитирования, такие как '''Citeseer''', '''Cora''' and '''Pubmed'''. В них узлы - это документы, а ребра - ссылки на цитаты. '''GCN''' на этих данных удается добиться точности в районе 70.3%, 81.5%, 79.0% соответственно, а результаты '''GAC''' составляют 83.0%, 72.5%, 79.0%.
 
'''При решении же реальных задач, данные алгоритмы применяются в следующих областях:'''
* '''GCN''' применяют в задачах классификации текстовых данных, изображений, болезней и прогнозировании побочных эффектов;
* '''GAT''' применяют для классификации текста, обнаружения объектов на изображениях, задач комбинаторной оптимизации;
* '''GGNN''' применяют в задачах нейронного машинного перевода, для анализа социальных отношений.
== Ограничения ==
15
правок

Навигация