Я собираюсь представить очень краткий обзор математики (исчисление, вероятность, линейная алгебра) для ML. У вас уже есть хорошие библиотеки, поэтому вы можете не думать, что вам нужно знать математику для машинного обучения. Я уверен, что этот математический обзор вам очень поможет. мы собираемся очень кратко рассмотреть исчисление, линейную алгебру и вероятность для ML. Давайте сначала рассмотрим основы исчисления!
Число Эйлера и производные
- Число Эйлера (основание натурального логарифма)
число e — одно из самых важных чисел в математике, и его часто называют числом Эйлера. первые несколько цифр e равны 2,71828182….
- Производные
Серия Тейлор
Ряд Тейлора функции f(x), бесконечно дифференцируемой в точке a.
Преобразование Фурье
Преобразование Фурье разлагает функцию времени на составляющие ее частоты.
Любая функция может быть выражена как взвешенная сумма sin и cos.
максимизация с ограничениями
максимизировать функцию f(x) с ограничением g(x) = 0
максимизировать функцию f(x1,x2) с ограничением f(x1,x2) = 0
легкий подход →
- Решите уравнение ограничений и выразите x1 как функцию x2 (невозможно найти аналитическое решение → множитель Лагранжа), например x1 = h(x2). пример левый.
- Затем замените x1 в f(x1,x2) на h(x2) s.t. е (ч (х2), х2)
- Максимизируйте f(h(x2),x2) по отношению к x2, и пусть x2* является оптимальным параметром.
- Тогда x1* = h(x2*)
Множитель Лагранжа
В математической оптимизации множитель Лагранжа — это стратегия нахождения локальных максимумов и минимумов функции с учетом ограничений. ограничение может быть уравнением, описывающим границу области, а может и не быть.
допустим, мы хотим оптимизировать функцию f(x1,x2) с учетом ограничения g(x1,x2) = 0. Когда мы говорим «оптимизировать», это означает нахождение минимального или максимального значения функции.
so,
*Функция Лагранжа
Неравенство Дженсена
Неравенство Дженсена для выпуклой функции f
