Публикации по теме 'gradient-descent'
Основы машинного обучения
В этом посте я кратко расскажу, объясняя основы того, что такое машинное обучение и модель обучения.
Что такое машинное обучение?
Оксфордский словарь определяет машинное обучение как:
«Способность компьютера учиться на собственном опыте»
Машинное обучение направлено на разработку алгоритмов, которые могут научиться выполнять конкретную задачу на основе данных примера. Вот пример. Допустим, мы хотим написать программу для игры. Мы могли бы написать эту программу, вручную определив..
Пакетный, мини-пакетный и стохастический градиентный спуск для линейной регрессии
Реализация и сравнение трех основных вариантов градиентного спуска
1. Введение
Алгоритм градиентного спуска - это итерационный метод оптимизации первого порядка для поиска локального минимума функции (в идеале - глобального). Его базовую реализацию и поведение я описал в другой статье. В нем рассматриваются три основных варианта с точки зрения количества данных, которые алгоритм использует для вычисления градиента и выполнения шагов.
Эти 3 варианта:
Пакетный градиентный спуск..
Как заставить SGD Classifier работать так же хорошо, как и логистическая регрессия, используя parfit
Как заставить SGD Classifier работать так же хорошо, как и логистическая регрессия, используя parfit
Для больших наборов данных, используя гиперпараметры, оптимизированные parfit, мы можем получить эквивалентную производительность от SGDClassifier в трети времени, затрачиваемого LogisticRegression.
Что такое классификатор SGD?
SGD Classifier реализует регуляризованные линейные модели со стохастическим градиентным спуском.
Итак, что такое стохастический градиентный спуск?..
Градиентный спуск со свободными монадами
Недавно я играл с Free Monads в Scala и обнаружил, что это может быть идеальным способом выполнения градиентных вычислений в стиле функционального программирования. По-видимому, вычисление градиентов с использованием Free Monads - не лучшая идея с точки зрения производительности, но она может быть очень полезной в образовательных и экспериментальных целях. Начать создание простых нейронных сетей не составляет большого труда, если у вас есть способ вычисления градиентов для произвольного..
Градиентный спуск через Python
Это краткое руководство по настройке, работе и пониманию градиентного спуска.
Цель : минимизировать выпуклую функцию или максимизировать вогнутую функцию.
Шаги высокого уровня:
Выберите функцию стоимости Вычислите первую производную (частные производные в некоторых случаях) Постепенно сходитесь к точке минимума. Простая интуиция, вогнутость можно представить как выпуклую функцию при переворачивании.
import random
import numpy as np
from sklearn import datasets
2D..
Градиентный спуск с нуля: обзор вариантов GD
Градиентный спуск (GD) – самый известный метод оптимизации, используемый для обучения моделей машинного обучения (ML). Любой практикующий ML наверняка сталкивался с GD, когда делал свои первые шаги в ML. В этой статье мы рассмотрим три варианта GD и сравним их результаты с точки зрения точности, стоимости вычислений и изменчивости функции потерь. Вы готовы ? Поехали, семья!
Данные
Мы используем этот набор данных , который содержит информацию о рекламе и продажах. Обзор набора..
Делаем машинное обучение менее увлекательным: градиентный спуск
Машинное обучение в первую очередь связано с минимизацией ошибки модели или с максимально точными прогнозами.
Градиентный спуск - один из наиболее важных алгоритмов машинного обучения, который находит применение в линейной регрессии и нейронных сетях.
Градиентный спуск используется для уменьшения функции стоимости (или потерь). Он делает это путем итеративной настройки параметров (или коэффициентов) заданной функции, чтобы минимизировать ее до локальных минимумов.
Чтобы правильно..
Новые материалы
Как проанализировать работу вашего классификатора?
Не всегда просто знать, какие показатели использовать
С развитием глубокого обучения все больше и больше людей учатся обучать свой первый классификатор. Но как только вы закончите..
Работа с цепями Маркова, часть 4 (Машинное обучение)
Нелинейные цепи Маркова с агрегатором и их приложения (arXiv)
Автор : Бар Лайт
Аннотация: Изучаются свойства подкласса случайных процессов, называемых дискретными нелинейными цепями Маркова..
Crazy Laravel Livewire упростил мне создание электронной коммерции (панель администратора и API) [Часть 3]
Как вы сегодня, ребята?
В этой части мы создадим CRUD для данных о продукте. Думаю, в этой части я не буду слишком много делиться теорией, но чаще буду делиться своим кодом. Потому что..
Использование машинного обучения и Python для классификации 1000 сезонов новичков MLB Hitter
Чему может научиться машина, глядя на сезоны новичков 1000 игроков MLB? Это то, что исследует это приложение.
В этом процессе мы будем использовать неконтролируемое обучение, чтобы..
Учебные заметки: создание моего первого пакета Node.js
Это мои обучающие заметки, когда я научился создавать свой самый первый пакет Node.js, распространяемый через npm.
Оглавление
Глоссарий
I. Новый пакет
1.1 советы по инициализации..
Забудьте о Matplotlib: улучшите визуализацию данных с помощью умопомрачительных функций Seaborn!
Примечание. Эта запись в блоге предполагает базовое знакомство с Python и концепциями анализа данных.
Привет, энтузиасты данных! Добро пожаловать в мой блог, где я расскажу о невероятных..
ИИ в аэрокосмической отрасли
Каждый полет – это шаг вперед к великой мечте. Чтобы это происходило в их собственном темпе, необходима команда астронавтов для погони за космосом и команда технического обслуживания..