凸

凸集的定义为：

其几何意义表示为：如果集合C中任意2个元素连线上的点也在集合C中，则C为凸集。其示意图如下所示：

常见的凸集有：

　　n维实数空间；一些范数约束形式的集合；仿射子空间；凸集的交集；n维半正定矩阵集；这些都可以通过凸集的定义去证明。

凸函数的定义为：

其几何意义表示为函数任意两点连线上的值大于对应自变量处的函数值，示意图如下：

凸函数的一阶充要条件为：

其中要求f一阶可微。

二阶充要条件为：

其中要求f二阶可微，表示二阶导数需大于0才是凸函数。

按照上面的两个定义，如果f(x)=x^2肯定是凸函数，而g(x) = -x^2是非凸函数。也就是说开口向下的函数是非凸函数，但是对于这种情况可以通过添加负号变成凸函数，从而求解。

常见的凸函数有：指数函数族；非负对数函数；仿射函数；二次函数；常见的范数函数；凸函数非负加权的和等。这些可以采用上面2个充要条件或者定义去证明。

凸优化问题（OPT）的定义为：

即要求目标函数是凸函数，变量所属集合是凸集合的优化问题。或者目标函数是凸函数，变量的约束函数是凸函数（不等式约束时），或者是仿射函数（等式约束时）。

对于凸优化问题来说，局部最优解就是全局最优解。

常见的凸优化问题包括：

线性规划（LP）：

该问题是优化下面的式子：

二次规划（QP）：

该问题是优化下面的式子：

二次约束的二次规划（QCQP）：

该问题是优化下面的式子：

半正定规划（SDP）：

该问题是优化下面的式子：

按照文章说SDP在机器学习领域应用很广，最近很流行。

参考资料

正则化

正则化项即罚函数，该项对模型向量进行“惩罚”，从而避免单纯最小二乘问题的过拟合问题。正则化项本质上是一种先验信息，整个最优化问题从贝叶斯观点来看是一种贝叶斯最大后验估计，其中正则化项对应后验估计中的先验信息，损失函数对应后验估计中的似然函数，两者的乘积即对应贝叶斯最大后验估计的形式，如果你将这个贝叶斯最大后验估计的形式取对数，即进行极大似然估计，你就会发现问题立马变成了损失函数+正则化项的最优化问题形式。

概率

先验、后验、似然

先验概率P，乘以似然函数L，正比于后验概率。