gradient descent算法(上)

为什么要了解点数学基础

学习大数据分布式计算时多少会涉及到机器学习的算法,所以理解一些机器学习基础,有助于理解大数据分布式计算系统(例如spark)的设计。机器学习中一个常见的就是gradient descent算法,是线性回归问题的一个基础算法。gradient是数学概念。

Gradient

假设一个函数有n个自变量:,且每个x都是标量值,,那么该函数的gradient就是一个n维的向量函数,每个component是f函数针对

Partial Derivative

partial derivative是derivative的一个延伸概念,是一个有n维变量的函数,在假设其他变量值不变、仅有一个变量(假设为,或者对的变化的敏感程度(以及正负相关性)。

Derivative

一个一维变量的函数的derivative,反映的是在在对的derivative也是.

Gradient Descent算法

线性回归问题可以归结为求一个函数的的某一个具体的值,使得有最小值。 如果把这个求解问题交给你,你能求出来吗?很难把, 而gradient descent算法则能解决这个问题。 ……待续

大理的洱海形如人耳,风平浪静时,

gradient descent算法(上)

相关文章:

你感兴趣的文章:

标签云: