买源码做网站,做淘宝优惠券推广网站,2023年8月份新冠,深圳西乡有什么好玩的损失函数#xff08;Loss Function#xff09;是机器学习和深度学习模型中的一个核心概念#xff0c;它用于衡量模型的预测输出与真实标签之间的差异。通过优化#xff08;最小化#xff09;损失函数#xff0c;模型可以不断调整其内部参数#xff0c;提升预测性能。不同… 损失函数Loss Function是机器学习和深度学习模型中的一个核心概念它用于衡量模型的预测输出与真实标签之间的差异。通过优化最小化损失函数模型可以不断调整其内部参数提升预测性能。不同任务和模型类型会使用不同的损失函数具体的选择通常取决于问题的性质。 首先假设我们存在n个样本将n个样本的实际数值以及预测数值作差求和即可得到整体模型的预测输出与真实标签之间的差异。但是考虑到如果是简单的绝对值求和在其定义域上并非是全程可导的这样对于梯度下降法的运用并不友好。因此我们可以对其求平方和也就是所说的“最小二乘法”这样可以进行模型差异的判断但是运用梯度下降法也是很麻烦的。 我们将会引入一个极大似然估计的方法在概率论中我们可以知道如果我们已知真实的分布情况和许多概率模型我们就可以求出在某种概率模型下这种分布情况发生的概率而最大的那个概率值对应的模型便是最接近真实的概率模型。 同样我们将这种理念运用到损失函数中如果我们已知真实的样本分布和许多训练模型即W和b在二分类的情况下我们知道真实样本存在两种分布0不是或1是也就是我们常说的伯努利分布。对于真实的样本分布中的其中单个样本存在两种情况0或1而对应的概率模型为yi即w和b权重下经过激活函数处理后得到的概率值。这样说可能还是比较难以去理解如果我们假设x1这个样本是猫数值为1而y1预测值为0.9这时候进行计算可以得到似然值为0.9假设x2这个样本不是猫数值为0而y2预测值为0.2这时候进行计算可以得到似然值为0.8总似然值为0.72。 为了简化运算我们可以将连成变为连加对整体进行对数运算可以得到类似于交叉熵结构的公式。 总结一下不同的机器学习问题有着不同的损失函数
