[译]快速上手:在R中使用XGBoost算法

更新于 2018-03-22  约 13 分钟

介绍

你知道 XGBoost 算法是一种现在在数据科学竞赛的获胜方案很流行的算法吗?

那么,他比传统的随机森林和神经网络算法强在哪里呢?广义上来说,它在效率,准确性,可行性都更有优势(接下来我们将会详细讨论)。

在最近的几年中,模型预测已经变得越来越快速和准确了。我记得我曾花费数个小时在为某个模型构建特征工程上,模型却仅仅提升了几个百分点。

现在,这些大量困难的问题都被更好的算法所解决。

从技术上说,XGBoost 是 Extreme Gradient Boosting 的缩写。它的流行源于在著名的Kaggle数据科学竞赛上被称为"奥托分类"的挑战。

2015年8月,Xgboost的R包发布,我们将在本文引用0.4-2版本的xgboost包。

在这篇文章中,我讲解释一个简单的方式来使用xgboost在R中。 因此,下次当你建立一个模型时可以考虑一下这个算法。我确信这是一个令人惊艳和幸福的时刻。

什么是 XGBoost?

xgboost 是"极端梯度上升"(Extreme Gradient Boosting)的简称, 它类似于梯度上升框架,但是更加高效。它兼具线性模型求解器和树学习算法。因此,它快速的秘诀在于算法在单机上也可以并行计算的能力。

这使得xgboost至少比现有的梯度上升实现有至少10倍的提升。它提供多种目标函数,包括回归,分类和排序。

由于它在预测性能上的强大但是相对缓慢的实现,"xgboost" 成为很多比赛的理想选择。
它还有做交叉验证和发现关键变量的额外功能。在优化模型时,这个算法还有非常多的参数需要调整。我们将在下一个章节讨论这些因素。

使用XGBoost数据的准备

XGBoost仅适用于数值型向量。是的!你需要使用中区分数据类型。

因此,您需要将所有其他形式的数据转换为数值型向量。一个简单的方法将类别变量转换成数值向量是一个"独热编码"。这个词源于数字电路语言,这意味着一个数组的二进制信号,只有合法的值是0和1。

在R中,一个独热编码非常简单。这一步(如下所示)会在每一个可能值的变量使用标志建立一个稀疏矩阵。稀疏矩阵是一个矩阵的零的值。稀疏矩阵是一个大多数值为零的矩阵。相反,一个稠密矩阵是大多数值非零的矩阵。

假设,你有一个叫“竞选”的数据集,除了反应变量,想将所有分类变量转换成一些标志。如下所示:

sparse_matrix <- Matrix::sparse.model.matrix(response ~ .-1, data = campaign)

现在让我们分解这个代码如下:

  • sparse.model.matrix这条命令的圆括号里面包含了所有其他输入参数。
  • 参数“反应”说这句话应该忽略“响应”变量。
  • “-1”意味着该命令会删除矩阵的第一列。
  • 最后你需要指定数据集名称。

想要转化目标变量,你可以使用下面的代码:

output_vector = df[,response] == "Responder"

代码解释:

  • 设 output_vector 初值为0。
  • 在 output_vector 中,将响应变量的值为 "Responder" 的数值设为1;
  • 返回 output_vector。

在R中运用Xgboost建立模型

可以使用xgboost破解任何数据问题,下面是简单的步骤:

第一步:加载的所有库

library(xgboost)
library(readr)
library(stringr)
library(caret)
library(car)

第二步:加载数据集

(这里我用一个银行的数据,我们需要找到一个客户是否有资格获得贷款)。

set.seed(100)
setwd("C:\\Users\\ts93856\\Desktop\\datasource")
# 加载数据
df_train = read_csv("train_users_2.csv")
df_test = read_csv("test_users.csv")
# 加载标签的训练数据
labels = df_train['labels']
df_train = df_train[-grep('labels', colnames(df_train))]
# combine train and test data
df_all = rbind(df_train,df_test)

第三步:数据清洗和特征工程

# 清洗变量 :  这里我筛选出年龄不到14岁或超过100的人
df_all[df_all$age < 14 | df_all$age > 100,'age'] <- -1
df_all$age[df_all$age < 0] <- mean(df_all$age[df_all$age > 0])
# 独热编码分类特征
ohe_feats = c('gender', 'education', 'employer')
dummies <- dummyVars(~ gender +  education + employer, data = df_all)
df_all_ohe <- as.data.frame(predict(dummies, newdata = df_all))
df_all_combined <- cbind(df_all[,-c(which(colnames(df_all) %in% ohe_feats))],df_all_ohe)df_all_combined$agena <- as.factor(ifelse(df_all_combined$age < 0,1,0))

我在 “feature_selected” 中为模型提供一组变量可供使用。本文后面会分享我在选择变量中一个快速又巧妙的方法。

df_all_combined <- df_all_combined[,c('id',features_selected)] 
# split train and test
X = df_all_combined[df_all_combined$id %in% df_train$id,]
y <- recode(labels$labels,"'True'=1; 'False'=0)
X_test = df_all_combined[df_all_combined$id %in% df_test$id,]

第四步:调整和运行模式

xgb <- xgboost(data = data.matrix(X[,-1]), 
 label = y, 
 eta = 0.1,
 max_depth = 15, 
 nround=25, 
 subsample = 0.5,
 colsample_bytree = 0.5,
 seed = 1,
 eval_metric = "merror",
 objective = "multi:softprob",
 num_class = 12,
 nthread = 3
)

第五步:测试分数

您现在有了一个对象“xgb”,这是一个xgboost模型。下面是是如何评分测试数量:

# 在测试集预测的值
y_pred <- predict(xgb, data.matrix(X_test[,-1]))

在 Xgboost 中使用参数

我明白,现在,你会非常好奇地想知道用于xgboost模型的各种参数。它有三种类型的参数:通用参数、辅助参数和任务参数。

  • 通用参数为我们提供在上升过程中选择哪种上升模型。常用的是树或线性模型。
  • 辅助参数取决于你选择的上升模型。
  • 任务参数,决定学习场景,例如,回归任务在排序任务中可能使用不同的参数。

让我们详细了解这些参数。我需要你注意,这是实现xgboost算法最关键的部分:

一般参数

  • silent : 默认值是0。您需要指定0连续打印消息,静默模式1。
  • booster : 默认值是gbtree。你需要指定要使用的上升模型:gbtree(树)或gblinear(线性函数)。
  • num_pbuffer : 这是由xgboost自动设置,不需要由用户设定。阅读xgboost文档的更多细节。
  • num_feature : 这是由xgboost自动设置,不需要由用户设定。

辅助参数

具体参数树状图:

  • eta:默认值设置为0.3。您需要指定用于更新步长收缩来防止过度拟合。每个提升步骤后,我们可以直接获得新特性的权重。实际上 eta 收缩特征权重的提高过程更为保守。范围是0到1。低η值意味着模型过度拟合更健壮。
  • gamma:默认值设置为0。您需要指定最小损失减少应进一步划分树的叶节点。

更大,更保守的算法。范围是0到∞。γ越大算法越保守。

  • max_depth:默认值设置为6。您需要指定一个树的最大深度。参数范围是1到∞。
  • min_child_weight:默认值设置为1。您需要在子树中指定最小的(海塞)实例权重的和,然后这个构建过程将放弃进一步的分割。在线性回归模式中,在每个节点最少所需实例数量将简单的同时部署。更大,更保守的算法。参数范围是0到∞。
  • max_delta_step:默认值设置为0。max_delta_step 允许我们估计每棵树的权重。如果该值设置为0,这意味着没有约束。

如果它被设置为一个正值,它可以帮助更新步骤更为保守。通常不需要此参数,但是在逻辑回归中当分类是极为不均衡时需要用到。将其设置为1 - 10的价值可能有助于控制更新。参数范围是0到∞。

  • subsample: 默认值设置为1。您需要指定训练实例的子样品比。

设置为0.5意味着XGBoost随机收集一半的数据实例来生成树来防止过度拟合。参数范围是0到1。

  • colsample_bytree : 默认值设置为1。在构建每棵树时,您需要指定列的子样品比。范围是0到1。

线性上升具体参数

  • lambda and alpha : 这些都是正则化项权重。λ默认值假设是1和α= 0。
  • lambda_bias : L2正则化项在偏差上的默认值为0。

任务参数

  • base_score : 默认值设置为0.5。您需要指定初始预测分数作为全局偏差。
  • objective : 默认值设置为reg:linear。您需要指定你想要的类型的学习者,包括线性回归、逻辑回归、泊松回归等。
  • eval_metric : 您需要指定验证数据的评估指标,一个默认的指标分配根据客观(rmse回归,错误分类,意味着平均精度等级
  • seed : 随机数种子,确保重现数据相同的输出。

xgboost的高级函数性

与其他机器学习技术相比,我发现xgboost很简单的实现。如果你做了所有我们所做的,直到现在,你已经有了一个模型。

让我们进一步尝试找出模型中重要的变量并且缩小我们变量列表。

#让我们开始寻找实际的树是什么样子吧
model <- xgb.dump(xgb, with.stats = T)
model[1:10] #This statement prints top 10 nodes of the model
# 获得特征的真实名称
names <- dimnames(data.matrix(X[,-1]))[[2]]
# 计算特征重要性矩阵
importance_matrix <- xgb.importance(names, model = xgb)
# 制图
xgb.plot.importance(importance_matrix[1:10,])
# 在最后一步如果失效可能是因为版本问题,你可以尝试:
barplot(importance_matrix[,1])

img

可以观察到,许多变量是不值得使用到我们的模型中。您可以方便地删除这些变量并再次运行模型。这一次你可以期待一个更好的精度。

测试结果是否有意义

假设年龄为从上面的分析是最重要的变量,这是一个简单的卡方检验,来检验它是否是真正重要的变量。

test <- chisq.test(train$Age, output_vector)
print(test)

我们可以对所有重要变量做相同的处理。这将显示出模型是否准确地识别所有可能的重要变量。

尾注

通过本文,您可以构建一个简单的xgboost模型。对比其他类似的模型这个算法的速度将会令你感到惊奇。本文已经讨论了在R中使用xgboost算法各个方面的情况, 最重要的是你必须将你的数据类型转换成数值型,否则该算法不能工作。

我建议你注意这些参数,它们会决定任何模型的成败。如果你仍然发现这些参数很难理解,可以在评论区留言讨论。

参考资料

作为分享主义者(sharism),本人所有互联网发布的图文均遵从CC版权,转载请保留作者信息并注明作者 Harry Zhu 的 FinanceR专栏:https://segmentfault.com/blog...,如果涉及源代码请注明GitHub地址:https://github.com/harryprince。微信号: harryzhustudio
商业使用请联系作者。
阅读 31.8k更新于 2018-03-22

推荐阅读
FinanceR
用户专栏

循环写作,持续更新,形成闭环,贵在坚持

1003 人关注
59 篇文章
专栏主页
目录