机器学习基础：别 乱 用 AUC
点击上方“程序员大白”，选择“星标”公众号
重磅干货，第一时间送达
难得的好文。
目前普遍认为接收器工作特性（Receiver Operating Characteristic，ROC）曲线下的面积 ——AUC 是评估分类模型准确性的标准方法。它避免了在阈值选择过程中假定的主观性，当连续的概率得到的分数被转换为二分类标签时，通过总结整体模型表现，其衡量模型区分正负样本的性能优于通过阈值来判断的其他方法（比如准确率、召回率等）。在这篇手稿中，我们回顾了这一度量的一些特点，并将其作为模型结果的准确性的比较度量，对其可靠性提出了质疑。我们不建议使用 AUC 出于五个原因：
(1) 忽略了预测的概率值和模型的拟合优度；（举个例子，假设某个模型对 “1” 类样本输出的概率都是 0.51，对 “0” 类样本输出的概率均为 0.49，此时 AUC 是 1，但是二元交叉熵非常大，因为预测结果和真实标签之间的误差太大）；根据 auc 的公式我们可以知道 auc 对于具体的概率值不敏感，它的计算过程事先会把概率值转化为 rank 排序，所以 auc 永远只对排序敏感对具体的概率指不敏感：
举个例子，假设有 10000 个样本，5000 个正样本，5000 个负样本，此时我们对 5000 个正样本的预测概率为 0.2，对 5000 个负样本的预测概率为 0.3，此时 auc 为 1，但是模型的拟合优度非常差，二元交叉熵惨不忍睹，看起来完全就是没有拟合完全的情况。
(2) AUC 反应了太过笼统的信息。无法反应召回率、精确率等在实际业务中经常关心的指标
看了原文，大意就是，比如我们在安全监测中，对查全率非常看重，对查准率倒是无所谓，反正尽量把恐怖分子查出来，即使错误检查了很多正常人也只是浪费点时间而已而恐怖事件相比不值一提，但是 auc 反应的是模型对正负样本的区分能力，在一些情况下无法满足建模的真实需求。
(3) 对 FPR 和 TPR 两种错误的代价同等看待；这一点和第二点雷同，基本的意思就是当用户对不同类别的预测准确率有不同程度的需求时，auc 不能很好的满足这个需求。
(4) 它没有给出模型误差的空间分布信息（我们不知道模型预测错误的具体情况，比如哪一类预测的错误多，比如整体错误的分布情况等等，举个例子，我们通过对不同类别错误预测的概率和真实标签的误差进行画图可以了解到模型对哪一类样本预测错误率高对哪一类样本预测的精度高，从而有针对的对特征工程、样本权重等进行优化，但是 auc 无法反应这类信息），AUC 只关注正负样本之间的排序，并不关心正样本内部，或者负样本内部的排序，这样我们也无法衡量样本对于好坏客户的好坏程度的刻画能力；
(5) 最重要的一点，AUC 的 misleading 的问题：
如图，modelA 和 modelB 的 ROC 曲线下面积 AUC 是相等的，但是两个模型在不同区域的预测能力是不相同的，所以我们不能单纯根据 AUC 的大小来判断模型的好坏。
推荐阅读
关于程序员大白
程序员大白是一群哈工大，东北大学，西湖大学和上海交通大学的硕士博士运营维护的号，大家乐于分享高质量文章，喜欢总结知识，欢迎关注[程序员大白]，大家一起学习进步！