什么是凸函数（什么是凸函数什么是凹函数）

1. 凸函数的定义是什么
2. 什么是凹函数?什么是凸函数
3. 凸函数完整的定义
4. 凸函数的几何意义
5. 凸函数的公式

凸函数的定义是什么

简单说下这个问题吧。

考虑最简单的一类神经网络，只有一个隐层、和输入输出层的网络。也就是说给定 组样本 ，我们网络的经验损失函数可以写成：

就是我们要优化的权重： 代表输入层到隐层的权重， 代表隐层到输出层的权重。这里我们取 损失函数和ReLU作为我们的激活函数。即上式中（用 代表对向量每一个元素取max）

注意到虽然像取平方，ReLU激活函数 ，求内积这些“函数”单独来看都是凸的，但他们这么一复合之后就不一定是凸的了。一些常见的判断凸函数的方法请见：

怎么判断一个优化问题是凸优化还是非凸优化？

为了方便说明 这个函数是非凸的，我们需要一个经典引理：一个高维凸函数可以等价于无数个一维凸函数的叠加。

一个（高维）函数是凸的，当且仅当把这个函数限制到任意直线上它在定义域上仍然是凸的。这是凸分析里很基本的一个定理，不熟悉的同学不妨尝试用定义来证明它。

更正式的来说，

什么是凹函数?什么是凸函数

这几个定义等价，应该结合具体函数来记忆。如 f(x)＝x²，图像上任意两点的连线都在这两点之间图像的上方，因此是凹函数(又叫下凸函数)。同理 f(x)＝ - x² 是凸函数。

凸函数完整的定义

凸函数：设函数f(x)在[a，b]上有定义，若[a，b]中任意不同两点x1，x2都成立：f[(x1 x2)/2]<=[f(x1) f(x2)]/2 则称f(x)在[a，b]上是凸的。 函数图形：弧段像∩形的，比如y=-x^2的函数. f(x)=lgx是凸函数,根据函数图象判断.一般开口向下的二次函数是凸函数,开口向上的二次函数是凹函数

凸函数的几何意义

几何意义是：

凸函数上的任意一点，我们作该点的切线，则该切线总是在函数图像的下方。因为在该定义下，我们只需要通过函数图像上的一点即可判断是否为凸函数。

凸函数的公式

凸函数,是数学函数的一类特征。凸函数就是一个定义在某个向量空间的凸子集C（区间）上的实值函数。设f(x)在[a,b]上连续，若对[a,b]中任意两点x1，x2，恒有f[(x1+x2)/2]>=[f(x1)+f(x2)]/2则称f(x)在[a,b]上是向上凸的，简称上凸.f(x)是[a,b]上的凸函数

定义

定义1设f(x)在区间I上有定义,f(x)在区间I称为是凸函数当且仅当:∀x1，∀x2∈I,有f[λx1+（1-λ）x2]≥λf（x1)+(1-λ)f(x2)上式中“≥”改成“>”则是严格凸函数的定义。

定义2设f（x）在区间I上有定义,f（x）在区间I称为是凸函数当且仅当:∀x1，∀x2∈I，有f[（x1+x2）/2]≥f（x1）/2+f（x2）/2。

定义3设f（x）在区间I上有定义,f（x）在区间I称为是凸函数当且仅当∀x1、x2....xn∈I：,有f[（x1+x2+......xn）/n]≥[f（x1）+f（x2）+......f（xn）]/n。

定义4f(x)在区间I上有定义,当且仅当曲线y=f(x)的切线恒保持在曲线以下,则成f(x)为凸函数.若除切点之外,切线严格保持在曲线下方,则称曲线f(x)为严格凸的。

到此，以上就是小编对于什么是凸函数什么是凹函数的问题就介绍到这了，希望介绍的5点解答对大家有用，有任何问题和不懂的，欢迎各位老师在评论区讨论，给我留言。