Эндрю Шао

Персептрон в своей простейшей и исходной форме представляет собой алгоритм машинного обучения под наблюдением, используемый для бинарной классификации. Когда Фрэнк Розенблатт впервые «изобрел» персептрон, алгоритм обучения персептрона был уникален тем, что он был одним из первых экземпляров нейронной сети.

Алгоритм

Алгоритм Perceptron на самом деле удивительно прост. Центральным элементом алгоритма обучения является пороговая функцияf(x), функция, которая просто отображает свои входные данные x. к выходу y. Алгоритм Perceptron в основном принимает множество входных данных xᵢ, взвешивает их и применяет пороговую функцию к чистому вводу (взвешенная сумма входных данных) для сопоставления входных данных с выходным значением, которое указывает классификацию ввода данных.

Предположим, у вас есть набор данных D:

Сначала инициализируйте вектор весов w:

Затем для каждой обучающей эпохи (или цикла, в котором используются все обучающие данные) просмотрите каждый пример. Для каждой пары (xᶦ, yᶦ) сначала оцените выходные данные персептрона ŷ :

Затем вычислите ошибку e или разницу между выходным значением ŷи фактическим целевым значением yᶦ:

Затем, наконец, обновите весаw, добавив ошибку e, умноженную на xᶦ:

Если выход равен 0, а правильное целевое значение равно 1, ошибка будет положительной, и поэтому вход будет добавлен к весам. Если выход равен 1, а целевое значение равно 0, ошибка будет отрицательной, и вместо этого будут вычтены входные данные. Если вывод правильный и соответствует целевому значению, ошибка будет равна 0, а веса не изменятся.

Гарантируется сходимость, если решение существует (классы сепарабельны).

Эта простейшая форма имеет некоторые ограничения. Одним из основных ограничений является то, что границы должны быть линейными, так как нелинейные границы, которые вы можете получить, например, с разными ядрами SVM, просто невозможны в этой реализации. Кроме того, классы должны быть разделяемыми, чтобы Perceptron мог сойтись.

Искусственный нейрон

Когда Розенблатт разрабатывал алгоритм, его вдохновляли клетки нашего собственного мозга, называемые нейронами, и он стремился воспроизвести способность нашего мозга учиться и принимать решения, имитируя структуру и природу наших нейронов.

Нейроны являются основными компонентами нервной системы почти всех животных. Проще говоря. нейроны — это клетки, которые получают, обрабатывают и передают информацию в виде электрических и химических сигналов.

Нейроны получают сигналы от других нейронов через свои дендриты, ветвящиеся отростки, которые достигают других нейронов. Как только они получают сигнал, он направляется в сому, или тело клетки. Как только сома получает достаточно информации и превышает определенный порог, она посылает импульс, называемый потенциалом действия, вдоль своего аксона к своим окончаниям, где затем достигает синапса. , промежуток между нейронными клетками. В синапсе сигнал затем химически или электрически отправляется к дендритам соседней клетки, чтобы повторить процесс снова.

Как показано на рисунке 1, персептрон напоминает по структуре и функциям нейрон. Подобно тому, как нейрон получает сигналы от многих других соседних нейронов, персептрон получает множество входных данных и взвешивает их. Затем чистый ввод передается пороговой функции (в более широком смысле машинного обучения в данном случае это функция активации), аналогично тому, как сигналы передаются в сому или тело клетки в биологическом нейрон. Затем пороговая функция выводит значение, аналогично тому, как нейрон передает импульс через свой аксон другим нейронам.