【AI】基本概念·第一篇

自从ChatGPT在2022年底横空出世，AI已经走进了我们的日常生活。虽然我们每天都在使用这些技术，但对于许多人来说，其背后的基本概念仍然模糊不清。什么是过拟合？损失函数到底是什么？模型的鲁棒性为何如此重要？这些术语对AI初学者来说可能听起来像是天书，但理解它们对于任何想要更深入学习AI的人来说都是必不可少的。在这篇文章中，我们一起学习这些关键概念，并简单入门模型训练。

一、基本概念先来

看看大家常提到的：  

过拟合

过拟合是指机器学习模型在训练数据上表现得非常好，但在新的、未见过的数据上表现较差的现象。这就像一个学生只会死记硬背考试题目，而不理解基本原理，导致在面对新题型时无法正确解答。
当模型过于复杂或训练时间过长时，模型会记住训练数据中的噪声和特殊情况，而不是学习数据的一般规律。这会导致模型在训练集上误差很小，但在测试集上误差很大。
判断标准：

提升方法：增加训练数据量、使用正则化技术（如L1/L2正则化）、采用早停法、使用Dropout、降低模型复杂度、数据增强、交叉验证和集成学习等方法可有效缓解过拟合问题。  

损失值

损失值是衡量模型预测结果与实际目标值之间差距的指标。它是一个数值，通常越小越好，表示模型的预测与真实值之间的误差。机器学习算法的目标就是通过调整模型参数来最小化这个损失值。
不同的任务有不同的损失函数，例如分类任务常用交叉熵损失，回归任务常用均方误差损失。损失值的计算和优化是深度学习训练过程的核心。
为什么不同的任务需要不同的损失函数？

健康的损失曲线解读指南

损失函数选择决策树

常见损失函数及应用场景

  

鲁棒性

鲁棒性是指AI系统在面对各种不确定性、干扰或对抗性攻击时保持性能稳定的能力，就像一个优秀的运动员不仅在理想条件下表现出色，在恶劣天气或意外情况下也能维持高水平发挥。
为什么模型在测试集表现好但在实际应用中可能失效？

评估模型鲁棒性的简单方法

提升方法：对抗训练、数据增强、噪声注入、集成学习、贝叶斯方法、异常检测机制以及不确定性建模等技术可以显著提高模型的鲁棒性，使其在各种条件下都能保持可靠的表现。

------------ 未完 ------------

更多请关注我的个人公众号查看