凸函数

什么是凸函数及如何判断⼀个函数是否是凸函数t元j⼀、什么是凸函数　对于⼀元函数f(x)，如果对于任意tϵ[0,1]均满⾜：f(tx1+(1−t)x2)≤tf(x1)+(1−t)f(x2)，则称f(x)为凸函数(convex function)　如果对于任意tϵ(0,1)均满⾜：f(tx1+(1−t)x2)<tf(x1)+(1−t)f(x2)，则称f(x)为严格凸函数(convex function)　我们可以从⼏何上直观地理解凸函数的特点，凸函数的割线在函数曲线的上⽅，如图1所⽰：从f(x1)连⼀条线到右侧的虚线，利⽤三⾓形边的⽐例性质可以推出中间虚线与上⾯直线交点的值　上⾯的公式，完全可以推⼴到多元函数。

在数据科学的模型求解中，如果优化的⽬标函数是凸函数，则局部极⼩值就是全局最⼩值。

这也意味着我们求得的模型是全局最优的，不会陷⼊到局部最优值。

例如⽀持向量机的⽬标函数||w||2/2就是⼀个凸函数。

⼆、如何来判断⼀个函数是否是凸函数呢？　对于⼀元函数f(x)，我们可以通过其⼆阶导数f″(x) 的符号来判断。

如果函数的⼆阶导数总是⾮负，即f″(x)≥0 ，则f(x)是凸函数　对于多元函数f(X)，我们可以通过其Hessian矩阵（Hessian矩阵是由多元函数的⼆阶导数组成的⽅阵）的正定性来判断。

如果Hessian矩阵是半正定矩阵，则是f(X)凸函数三、Jensen不等式　对于凸函数，我们可以推⼴出⼀个重要的不等式，即Jensen不等式。

如果 f 是凸函数，X是随机变量，那么f(E(X))≤E(f(X))，上式就是Jensen不等式的⼀般形式　我们还可以看它的另⼀种描述。

假设有 n 个样本{x1,x2,...,x n}和对应的权重{α1,α2,...,αn}，权重满⾜a i⩾，对于凸函数 f，以下不等式成⽴：f(\sum_{i=1}^{n}\alpha_ix_i) \leq \sum_{i=1}^{n}\alpha_if(x_i)Loading [MathJax]/jax/element/mml/optable/SuppMathOperators.js。

凸函数上凸下凸凹函数
凸函数是指在定义域上的任意两点连线上的函数值都小于等于这条连线的最高点所对应的函数值的函数。

凸函数可以分为上凸和下凸两种类型。

上凸函数是指在定义域上的任意两点连线上的函数值都小于等于这条连线的最高点所对应的函数值的凸函数。

下凸函数是指在定义域上的任意两点连线上的函数值都大于等于这条连线的最高点所对应的函数值的凸函数。

凹函数是指在定义域上的任意两点连线上的函数值都大于等于这条连线的最高点所对应的函数值的函数。

综上所述，凸函数是一种特殊的函数类型，可以分为上凸函数、下凸函数和凹函数三种类型，根据其定义域上的连线和函数值的关系来进行分类。

凸函数,是数学函数的一类特征。

凸函数就是一个定义在某个向量空间的凸子集C（区间）上的实值函数。

凸函数是一个定义在某个向量空间的凸子集C（区间）上的实值函数f，而且对于凸子集C中任意两个向量, f((x1+x2)/2)>=(f(x1)+f(x2))/2,则f(x)是定义在凸子集c中的凸函数（该定义与凸规划中凸函数的定义是一致的，下凸）。

常见的凸函数
1 指数函数eax
2 幂函数xa,x∈R+,1≤a或者a≤0
3 负对数函数- log x
4 负熵函数x log x
5 范数函数||x||p
如果一个可微函数f它的导数f'在某区间是单调下跌的，f就是凹的；即一个凹函数拥有一个下跌的斜率（当中下跌只是代表非上升而不是严谨的下跌，也代表这容许零斜率的存在。

）
如果一个二次可微的函数f，它的二阶导数f'(x)是正值（或者说它有一个正值的加速度），那么它的图像是凹的；如果二阶导数f'(x)是负值，图像就会是凸的。

当中如果某点转变了图像的凹凸性，这就是一个拐点。

如果凹函数（也就是向上开口的）有一个“底”，在底的任意点就是它的极小值。

如果凸函数有一个“顶点”，那么那个顶点就是函数的极大值。

如果f(x)是二次可微的，那么f(x)就是凹的当且仅当f''(x)是非正值。

如果二阶导数是负值的话它就是严谨凹函数，但相反而言又不一定正确。

凸函数的几个性质
1. 凸函数的导数在定义域内单调递增或单调递减；
2. 凸函数的二阶导数在定义域内非负；
3. 凸函数的图像在定义域内是上凸的；
4. 凸函数的极值点只可能是极小值点或极大值点；
5. 凸函数的极值点只可能出现在函数的端点或极值点处；
6. 凸函数的极值点处的导数值为零；
7. 凸函数的极值点处的二阶导数值非负；
8. 凸函数的极值点处的二阶导数值为零时，极值点为拐点；
9. 凸函数的极值点处的二阶导数值为正时，极值点为极小值点；
10. 凸函数的极值点处的二阶导数值为负时，极值点为极大值点。

92. 什么是凸函数？如何判断？92、什么是凸函数？如何判断？在数学的广袤世界里，凸函数是一个重要的概念，它在优化理论、经济学、物理学等众多领域都有着广泛的应用。

那么，究竟什么是凸函数呢？又该如何去判断一个函数是否为凸函数呢？简单来说，凸函数是一种具有特殊性质的函数。

想象一下，在函数的图像上，如果连接任意两点的线段都在这两点之间的函数曲线之上，那么这个函数就是凸函数。

更严谨地，对于定义在某个区间上的函数 f(x)，如果对于区间内任意的两个点 x₁和 x₂，以及介于 0 和 1 之间的任意实数λ ，都满足不等式f(λx₁＋（1 λ)x₂) ≤ λf(x₁) ＋（1 λ)f(x₂) ，那么这个函数就是凸函数。

为了更直观地理解凸函数，我们来看几个具体的例子。

比如，最简单的凸函数之一是二次函数 f(x) ＝ x²。

在其图像上，很容易发现任意两点之间的线段都在曲线之上。

再比如，函数 f(x) ＝｜x| 也是凸函数。

那如何判断一个给定的函数是否为凸函数呢？这有多种方法。

一种常见的方法是通过函数的二阶导数来判断。

如果函数 f(x) 的二阶导数 f'＇（x) ≥ 0 在其定义域内恒成立，那么这个函数就是凸函数。

以函数 f(x) ＝ x²为例，它的一阶导数为 f'（x) ＝ 2x ，二阶导数为f'＇（x) ＝ 2 ，因为 2 恒大于 0 ，所以 f(x) ＝ x²是凸函数。

另一种方法是利用定义来直接判断。

对于给定的函数，选取定义域内的任意两点，计算出λx₁＋（1 λ)x₂对应的函数值，并与λf(x₁) ＋（1 λ)f(x₂) 进行比较。

但这种方法在实际操作中往往比较繁琐，特别是对于复杂的函数。

还有一种方法是通过函数的性质来判断。

例如，如果一个函数是由多个凸函数相加组成的，那么这个函数也是凸函数。

凸函数在实际应用中有着重要的价值。

在优化问题中，凸函数的性质使得我们能够更容易地找到最优解。

§3.2.6如果任取曲线上两点，则两点构成的都在此曲线弧的上方，我们称这样的曲线对应的函数为凸函数，如图21便是凸函数的图像，严格定义的话，如果D 是一个实轴上的区间，或者更为一般的向量空间上的凸集，则函数:f D R →是凸函数，如果其满足：()()()()1()1f x y f x f x λλλλ+-≤+-，对所有(),,0,1x y D λ∈∈这里我们注意集合D 叫做凸集，如果对于任意,x y D ∈和()0,1λ∈，()1x y λλ+-也在D 中，其几何意义是D 是这些半空间的交点。

如果f -是凸函数，则f 叫做凹函数，如果f 既凸又凹，则f 是一条直线。

例如：()f x ax b =+，,a b 是常数。

定理：函数f 在(),a b 内二阶可导，f 是凸函数当且仅当()''0f x ≥ 一般地，定义在n 维实空间上的凸环上的二阶可导函数是凸的，如果它的海塞矩阵是半正定型的，对于()12,,n f x x x 。

若f 所有的二阶导数都存在，那么f 的海塞矩阵即()22221121222221222222120n n n n n ff f x x x x x f f f H f x x x x x f f f x x x x x ⎡⎤∂∂∂⎢⎥∂∂∂∂∂⎢⎥⎢⎥∂∂∂⎢⎥=≥∂∂∂∂∂⎢⎥⎢⎥⎢⎥⎢⎥∂∂∂⎢⎥∂∂∂∂∂⎣⎦，这是对坐标的求模的一种说法，在f的每一点都有形式22121212(,,)(,,)n n k f x x x x x x x xx φ=+++ ，这里k n ≤，12(,,)n x x x φ 是线性的。

作为凸函数的应用，我们利用其性质来证明Holder 不等式。

Holder 不等式：如果()():0,,l n f R f x x+∞→=，其中1212,,,,,n n x x x y y y p q 都是正数，且111p q+=，则11111nnnpqp q i i i i i i i x y x x ===⎛⎫⎛⎫≤+ ⎪ ⎪⎝⎭⎝⎭∑∑∑等号成立当且仅当两向量12(,)n x x x 和12(,)n y y y 共线。

凸函数的极值凸函数是数学中非常重要的一个概念，其在优化、经济学、物理等领域都有广泛应用。

凸函数不仅具有很好的性质和特性，而且还有一个极值问题。

什么是凸函数？凸函数是一种定义在实数集上的函数。

如果函数的任意两点之间的线段在函数图像上的点的下方，那么这个函数就是凸函数。

具体来说，如果对于任意 $a < b$，都有 $f((1-t)a+tb)\leq (1-t)f(a)+tf(b)$，其中 $0\leq t\leq 1$，那么函数 $f$ 就是凸函数。

凸函数的优良性质凸函数具有很多好的性质，其中最突出的就是对于任意两点之间的线段，它的斜率都是不递减的。

这一性质也被称为弱凸性质，它表明了凸函数在图像上的曲率是向上的，因此可以说凸函数具有一定的“凸出”特性。

凸函数还有许多其他的性质，比如说：- 凸函数的导函数是单调递增的；- 凸函数的下凸包是一个闭合包；- 凸函数的两个相邻的切线之间的区域总是在函数图像上方；- 凸函数的全局极小值只有一个。

在实际应用中，这些性质为凸函数带来了许多优势，比如说可以更容易地找到函数的极值，更加准确地优化问题等等。

凸函数的极值问题对于一个凸函数 $f(x)$，求其在定义域上的最大值或最小值是非常常见的问题。

根据凸函数的性质，在其定义域的边界处或者导函数为零的点处必然存在极值，而且极值点一定是全局极值点。

具体来说，如果在定义域的边界上存在极值点，那么极值点为全局极值点。

如果没有，则需要进一步考虑导函数为零的点。

在导函数为零的点处，需要进一步判断这个点的二阶导数符号。

如果二阶导数大于零，那么此处是函数的局部极小值；如果二阶导数小于零，则为局部极大值。

需要注意的是，在有些情况下，凸函数的极值点可能会有多个。

这时一般需要通过计算二阶导数的符号来判断哪个是全局极小值或极大值。

举个例子，考虑函数 $f(x)=x^2-2x+2$。

通过求导可得其导函数$f'(x)=2x-2$。

导函数为零的点为 $x=1$，而且 $f''(x)=2>0$，因此$x=1$ 是函数的局部极小值点。