Авторы:- Деваншу Далал, Танишк Дешпанде, Яш Гахервар, Авинаш Дхакне.
В наши дни использование машинного обучения для прогнозирования и обнаружения значительно возросло. В этом использование нейронной сети для распознавания образов и интеллектуального анализа данных помогло нам решить сложную проблему с использованием вычислительной мощности. CNN, RNN значительно помогли в области идентификации объектов, распознавания голоса и всего остального.
Но есть области, где описанные выше нейронные сети не могут работать в такой степени. Например, CNN может быть для изображений, поскольку они имеют фиксированный размер, который можно изменить, и мы можем выполнять математические операции, с другой стороны, для областей, где необходимы отношения между вершинами, мы можем использовать граф. Когда мы используем граф, мы знаем, что нет фиксированного порядка узлов в графе, потому что топология в графе очень произвольна и сложна. Именно поэтому в таких случаях мы не можем применять CNN.
Давайте посмотрим, где можно использовать графовые нейронные сети.
1.) LinkedIn —
Сейчас каждый профессионал использует LinkedIn. Самая впечатляющая особенность LinkedIn — это то, что мы можем общаться с людьми. Он говорит нам о взаимных связях между двумя людьми. Задумывались ли мы когда-нибудь, как это реализовано. Он реализован с помощью графа.
Здесь мы можем рассматривать Деваншу, Танишк, Яш и Авинаш как отдельные узлы и отношения между ними, представленные ребрами, которые здесь двунаправлены. Итак, вот если мы попытаемся выяснить взаимные связи между Деваншу и Танихск. Это можно просто узнать, взяв пересечение количества узлов, которые напрямую связаны с Деваншу, и количества узлов, которые напрямую связаны с Танишком.
Аналогичным образом мы можем найти первое соединение, второе соединение и так далее.
2.) Развитие медицины —
GNN также можно использовать при разработке лекарств, поскольку все мы знаем, как выглядит молекулярная структура, и для ее представления можно использовать график.
Одним из основных применений GNN в медицине является предсказание молекулярных свойств, таких как токсичность, растворимость и активность по отношению к конкретным мишеням. Представляя молекулы в виде графов, с атомами в качестве узлов и химическими связями в качестве ребер, GNN может изучать сложные отношения между атомами и предсказывать различные свойства молекулы.
Помимо предсказания молекулярных свойств, GNN также использовались для открытия лекарств, где они использовались для проверки больших баз данных молекул на наличие потенциальных кандидатов. GNN можно обучить известным активным соединениям и их соответствующим молекулярным структурам, чтобы идентифицировать новые соединения с аналогичной структурой, которые также могут проявлять аналогичную активность.
Таким образом, с помощью GNN мы можем разрабатывать лекарства, которые могут быть быстрыми и надежными.
Граф нейронной сети:
Графовая нейронная сеть может широко использоваться для прогнозирования на уровне узла, уровня ребра и уровня графа. Эта нейронная сеть очень помогает, когда постановка задачи включает отношения между узлами, которые трудно представить в евклидовом пространстве.
Инстинкт использования графовой нейронной сети заключается в том, что ее структура данных отличается от других. Например, если я работаю над CNN, и у меня есть изображение 300 x 300 x 3 и изменение значения одной ячейки, это влияет только на эту ячейку. Но если я удалю узел в GNN, это повлияет на всех его соседей, поскольку между ними есть отношения.
Объяснение ситуации из реальной жизни, если есть два города, А и В, и они связаны между собой двумя дорогами, С и D. Если сказать, что дорога С в 5 раз короче пути по сравнению с дорогой D. Если я временно приостановить работу дороги C. Таким образом, я могу косвенно сказать, что я разорвал связь между A и C и C и B. Таким образом, это влияет непосредственно на его соседей A и B, и теперь они должны идти по более длинному маршрутизатору через дорогу. Д.
Вложения узлов в GNN (Graph Neural Networks) — это векторные представления узлов в графе. Эти вложения изучаются GNN в процессе обучения и используются для представления узлов в низкоразмерном пространстве признаков. Вложения узлов фиксируют структурные и семантические свойства узлов и их отношения в графе, и их можно использовать для различных последующих задач, таких как классификация узлов, предсказание ссылок и кластеризация графа.
Процесс изучения вложений узлов в GNN включает обновление векторов признаков узлов на каждом уровне сети на основе их соседних узлов. Другими словами, встраивание каждого узла является функцией вложений его соседей, и этот процесс повторяется на нескольких уровнях сети, что позволяет GNN фиксировать все более сложные отношения между узлами.
Встраивание узлов стало мощным инструментом обучения представлению графов и применяется в различных областях, таких как социальные сети, рекомендательные системы и биоинформатика. Изучая значимые представления узлов в графе, GNN могут фиксировать базовую структуру и семантику данных, и это можно использовать для широкого круга приложений.
В литературе в основном описаны три типа графовых нейронных сетей:
- Рекуррентная нейронная сеть графа
- Пространственная сверточная сеть
- Спектральная сверточная сеть
Рекуррентная нейронная сеть графа
Нейронная сеть с рекуррентным графом (R-GNN) — это тип архитектуры нейронной сети, предназначенный для обработки данных в виде графиков или последовательностей графиков. Он сочетает в себе возможности рекуррентных нейронных сетей (RNN) и графовых нейронных сетей (GNN) для обработки последовательных данных графа.
Архитектура R-GNN состоит из нескольких повторяющихся уровней, каждый из которых предназначен для обработки одного графа. На каждом временном шаге входной граф передается в сеть, и скрытое состояние предыдущего временного шага используется для вычисления текущего скрытого состояния. Затем выходные данные каждого уровня передаются на следующий уровень до тех пор, пока последний слой не выдаст окончательный результат.
Архитектура R-GNN применялась в различных приложениях, таких как прогнозирование аффинности связывания белок-лиганд, моделирование социальных сетей и прогнозирование финансовых временных рядов. Его способность обрабатывать данные графа с последовательными зависимостями делает его многообещающим подходом для решения многих реальных задач.
Пространственная сверточная сеть
Нейронная сеть пространственного сверточного графа (SCGNN) — это тип нейронной сети, который сочетает в себе идеи сверточных нейронных сетей (CNN) и графовых нейронных сетей (GNN) для работы с пространственно структурированными данными графа. SCGNN используют как пространственную, так и графическую информацию, чтобы делать более точные прогнозы для сложных наборов данных, которые имеют как пространственные, так и графические характеристики.
SCGNN работают со структурой графа, где узлы представляют пространственные точки, а ребра представляют пространственные отношения между этими точками. Например, в уличной сети узлы могут представлять перекрестки, а ребра — дороги, соединяющие эти перекрестки. SCGNN используют сверточные слои графа для обновления представлений узлов на основе представлений их соседей, подобно GNN, но также используют сверточные слои для извлечения пространственных характеристик из представлений узлов, подобно CNN.
В целом, SCGNN являются мощным инструментом для обработки сложных пространственных и графических данных и могут значительно повысить точность прогнозов в широком диапазоне приложений.
Спектральная сверточная сеть
Он сочетает в себе идеи теории спектральных графов и графовых нейронных сетей (GNN) для работы с графоструктурированными данными как со спектральными, так и с пространственными характеристиками.
SCGNN используют собственные векторы матрицы Лапласа графа, которая фиксирует спектральную информацию графа, для выполнения операций свертки над данными графа. Кроме того, SCGNN используют слои свертки графа для обновления представлений узлов на основе представлений их соседей в графе, аналогично GNN. Комбинируя как спектральную, так и пространственную информацию, SCGNN могут изучать представления, которые охватывают как локальную, так и глобальную структуру графа.
SCGNN успешно применялись для решения множества задач, включая классификацию графов, предсказание ссылок и классификацию узлов. В классификации графов SCGNN используются для классификации графов по различным категориям на основе их спектральных и пространственных характеристик.
Приложения
1.) Анализ социальных сетей
2.) Рекомендательные системы
3.) Химия и материаловедение
4.) Компьютерное зрение
5.) Обработка естественного языка
6.) Финансы
7.) Робототехника
Ограничения
1.) Ограниченное обобщение
2.) Вычислительная сложность
3.) Чрезмерное сглаживание
4.) Чувствительность к возмущениям графика
5.) Сложность обработки разнородных графов
