XGBoost-自定义损失函数

Question

关于在xgboost中使用自定义损失函数有两种不同的准则。

如果预测概率为'p'= Sigmoid（z）

1. 在https://github.com/dmlc/xgboost/blob/master/demo/guide-python/custom_objective.py 1中，第25行提到应使用w'r.t'z'来获取自定义损失函数的梯度>

2。在https://xgboost.readthedocs.io/en/latest/tutorials/custom_metric_obj.html 1中，梯度为w.r.t'p'

哪个正确？

关于在xgboost中使用自定义损失函数有两种不同的准则。如果预测概率'p'= Sigmoid（z）在https：//github.com/dmlc/xgboost/blob/master/demo/guide-python / ...

Answer 1

[为了尽可能地概括这一点，您需要计算总损耗函数的斜率，以改变当前的预测值。通常，损失函数的格式为$ L = \ sum_ {i = 1} ^ {N} \ ell（y_ {i}，\ hat {y_ {i}}）$，其中$ y_ {i} $是$ i ^ {th} $数据点的标签，$ \ hat {y_ {i}} $是您的预测（在二进制分类的情况下，您可以选择定义它，使得$ y_ {i} $为二进制标签和$ \ hat {y_ {i}} $是分类器分配给作为类别之一的标签的概率）。