Loss Function

定义 Definition

loss function（损失函数）：在机器学习与统计建模中，用来衡量模型预测与真实目标之间“误差/代价”的函数；训练时通常通过最小化损失函数来优化模型参数。（也常称为 cost function，但在不同语境下两者有时有细微区分。）

发音 Pronunciation

/lɔs ˈfʌŋkʃən/

例句 Examples

The loss function measures how wrong the model is.
损失函数衡量模型到底错得有多严重。

To improve generalization, we minimized the cross-entropy loss function with regularization during training.
为了提升泛化能力，我们在训练时加入正则化并最小化交叉熵损失函数。

词源 Etymology

loss 源自古英语 los，有“损失、失去”之意；function 源自拉丁语 functio（“执行、作用”）。合在一起，loss function 字面意思是“用来表示损失的函数”，在现代机器学习语境中指用数学形式量化误差的指标。

相关词 Related Words

• Cost Function
• Objective Function
• Error
• Cross-Entropy
• Mean Squared Error
• Log-Loss
• Regularization
• Gradient Descent
• Optimization

文学与著作中的用例 Literary Works

• Ian Goodfellow, Yoshua Bengio, Aaron Courville — Deep Learning（讨论多种损失函数，如交叉熵、平方误差等）
• Christopher M. Bishop — Pattern Recognition and Machine Learning（以概率建模视角介绍目标/损失的构造）
• Trevor Hastie, Robert Tibshirani, Jerome Friedman — The Elements of Statistical Learning（在统计学习框架中讨论风险/损失最小化）
• Kevin P. Murphy — Machine Learning: A Probabilistic Perspective（系统梳理常见损失与推断、优化的关系）