XGBoost超参数调优指南

本文将详细解释XGBoost中十个最常用超参数的介绍，功能和值范围，及如何使用Optuna进行超参数调优。

对于XGBoost来说，默认的超参数是可以正常运行的，但是如果你想获得最佳的效果，那么就需要自行调整一些超参数来匹配你的数据，以下参数对于XGBoost非常重要:

• eta
• num_boost_round
• max_depth
• subsample
• colsample_bytree
• gamma
• min_child_weight
• lambda
• alpha

XGBoost的API有2种调用方法，一种是我们常见的原生API，一种是兼容Scikit-learn API的API，Scikit-learn API与Sklearn生态系统无缝集成。我们这里只关注原生API（也就是我们最常见的），但是这里提供一个列表，这样可以帮助你对比2个API参数，万一以后用到了呢：

如果想使用Optuna以外的超参数调优工具，可以参考该表。下图是这些参数对之间的相互作用:

这些关系不是固定的，但是大概情况是上图的样子，因为有一些其他参数可能会对我们的者10个参数有额外的影响。

1、objective

这是我们模型的训练目标

最简单的解释是，这个参数指定我们模型要做的工作，也就是影响决策树的种类和损失函数。

2、num_boost_round - n_estimators

num_boost_round指定训练期间确定要生成的决策树(在XGBoost中通常称为基础学习器)的数量。默认值是100，但对于今天的大型数据集来说，这还远远不够。

增加参数可以生成更多的树，但随着模型变得更复杂，过度拟合的机会也会显著增加。

从Kaggle中学到的一个技巧是为num_boost_round设置一个高数值，比如100,000，并利用早停获得最佳版本。

在每个提升回合中，XGBoost会生成更多的决策树来提高前一个决策树的总体得分。这就是为什么它被称为boost。这个过程一直持续到num_boost_round轮询为止，不管是否比上一轮有所改进。

但是通过使用早停技术，我们可以在验证指标没有提高时停止训练，不仅节省时间，还能防止过拟合

有了这个技巧，我们甚至不需要调优num_boost_round。下面是它在代码中的样子:

 # Define the rest of the params
 params = {...}
 
 # Build the train/validation sets
 dtrain_final = xgb.DMatrix(X_train, label=y_train)
 dvalid_final = xgb.DMatrix(X_valid, label=y_valid)
 
 bst_final = xgb.train(
     params,
     dtrain_final,
     num_boost_round=100000 # Set a high number
     evals=[(dvalid_final, "validation")],
     early_stopping_rounds=50, # Enable early stopping
     verbose_eval=False,
 )

上面的代码使XGBoost生成100k决策树，但是由于使用了早停，当验证分数在最后50轮中没有提高时，它将停止。一般情况下树的数量范围在5000-10000即可。控制num_boost_round也是影响训练过程运行时间的最大因素之一，因为更多的树需要更多的资源。

3、eta - learning_rate

在每一轮中，所有现有的树都会对给定的输入返回一个预测。例如，五棵树可能会返回以下对样本N的预测:

 Tree 1: 0.57    Tree 2: 0.9    Tree 3: 4.25    Tree 4: 6.4    Tree 5: 2.1

为了返回最终的预测，需要对这些输出进行汇总，但在此之前XGBoost使用一个称为eta或学习率的参数缩小或缩放它们。缩放后最终输出为:

 output = eta * (0.57 + 0.9 + 4.25 + 6.4 + 2.1)

大的学习率给集合中每棵树的贡献赋予了更大的权重，但这可能会导致过拟合/不稳定，会加快训练时间。而较低的学习率抑制了每棵树的贡献，使学习过程更慢但更健壮。这种学习率参数的正则化效应对复杂和有噪声的数据集特别有用。

学习率与num_boost_round、max_depth、subsample和colsample_bytree等其他参数呈反比关系。较低的学习率需要较高的这些参数值，反之亦然。但是一般情况下不必担心这些参数之间的相互作用，因为我们将使用自动调优找到最佳组合。

4、subsample和colsample_bytree

子抽样subsample它将更多的随机性引入到训练中，从而有助于对抗过拟合。

Subsample =0.7意味着集合中的每个决策树将在随机选择的70%可用数据上进行训练。值1.0表示将使用所有行(不进行子抽样)。

与subsample类似，也有colsample_bytree。顾名思义，colsample_bytree控制每个决策树将使用的特征的比例。Colsample_bytree =0.8使每个树使用每个树中随机80%的可用特征(列)。

调整这两个参数可以控制偏差和方差之间的权衡。使用较小的值降低了树之间的相关性，增加了集合中的多样性，有助于提高泛化和减少过拟合。

但是它们可能会引入更多的噪声，增加模型的偏差。而使用较大的值会增加树之间的相关性，降低多样性并可能导致过拟合。

5、max_depth

最大深度max_depth控制决策树在训练过程中可能达到的最大层次数。

更深的树可以捕获特征之间更复杂的相互作用。但是更深的树也有更高的过拟合风险，因为它们可以记住训练数据中的噪声或不相关的模式。为了控制这种复杂性，可以限制max_depth，从而生成更浅、更简单的树，并捕获更通用的模式。

Max_depth数值可以很好地平衡了复杂性和泛化。

6、7、alpha,lambda

这两个参数一起说是因为alpha (L1)和lambda (L2)是两个帮助过拟合的正则化参数。

与其他正则化参数的区别在于，它们可以将不重要或不重要的特征的权重缩小到0(特别是alpha)，从而获得具有更少特征的模型，从而降低复杂性。

alpha和lambda的效果可能受到max_depth、subsample和colsample_bytree等其他参数的影响。更高的alpha或lambda值可能需要调整其他参数来补偿增加的正则化。例如，较高的alpha值可能受益于较大的subsample值，因为这样可以保持模型多样性并防止欠拟合。

8、gamma

如果你读过XGBoost文档，它说gamma是:

在树的叶节点上进行进一步分区所需的最小损失减少。

英文原文：the minimum loss reduction required to make a further partition on a leaf node of the tree.

我觉得除了写这句话的人，其他人都看不懂。让我们看看它到底是什么，下面是一个两层决策树:

为了证明通过拆分叶节点向树中添加更多层是合理的，XGBoost应该计算出该操作能够显著降低损失函数。

但“显著是多少呢?”这就是gamma——它作为一个阈值来决定一个叶节点是否应该进一步分割。

如果损失函数的减少(通常称为增益)在潜在分裂后小于选择的伽马，则不执行分裂。这意味着叶节点将保持不变，并且树不会从该点开始生长。

所以调优的目标是找到导致损失函数最大减少的最佳分割，这意味着改进的模型性能。

9、min_child_weight

XGBoost从具有单个根节点的单个决策树开始初始训练过程。该节点包含所有训练实例(行)。然后随着 XGBoost 选择潜在的特征和分割标准最大程度地减少损失，更深的节点将包含越来越少的实例。

如果让XGBoost任意运行，树可能会长到最后节点中只有几个无关紧要的实例。这种情况是非常不可取的，因为这正是过度拟合的定义。

所以XGBoost为每个节点中继续分割的最小实例数设置一个阈值。通过对节点中的所有实例进行加权，并找到权重的总和，如果这个最终权重小于min_child_weight，则分裂停止，节点成为叶节点。

上面解释是对整个过程的最简化的版本，因为我们主要介绍他的概念。

总结

以上就是我们对这 10个重要的超参数的解释，如果你想更深入的了解仍有很多东西需要学习。所以建议给ChatGPT以下两个提示:

 1) Explain the {parameter_name} XGBoost parameter in detail and how to choose values for it wisely.
 
 2) Describe how {parameter_name} fits into the step-by-step tree-building process of XGBoost.

它肯定比我讲的明白，对吧。

最后如果你也用optuna进行调优，请参考以下的GIST：

https://avoid.overfit.cn/post/a432cd97278c4daabae268e53dc40db5

作者：Bex T.