基于SMOTE-Tomek与AdaBoost相结合的不平衡分类算法在金融信贷领域的研究
Research on Imbalanced Classification Algorithm Based on the Combination of SMOTE-Tomek and AdaBoost in the Field of Financial Credit
DOI: 10.12677/CSA.2023.135111, PDF,  被引量    科研立项经费支持
作者: 马 宁, 刘 硕, 王乐秀:中国石油大学(北京)理学院,北京
关键词: 信贷风险评估模型样本不平衡SMOTE-TomekAdaBoostCredit Risk Assessment Model Sample Imbalance SMOTE-Tomek AdaBoost
摘要: 在互联网金融快速发展的时代,信贷风险成为目前金融领域急需解决的问题之一。而信贷风险评估模型作为一种有效的工具,可以利用客户信息和客户活动数据识别潜在的风险,在金融机构中发挥着至关重要的作用。本文针对Kaggle数据集中因逾期还款用户实例远少于正常还款用户实例而造成的样本高度不平衡问题,以信贷风险预测为切入点,提出一种面向不平衡样本的风险识别方法。该方法选定以决策树为基分类器的AdaBoost分类器来训练SMOTE-Tomek平衡过后的数据集,它通过一种迭代机制让原本性能不强的分类器组合起来,形成一个强分类器。并选用精确率、召回率、ROC曲线及AUC值来评价所选定分类器的分类效果。实验结果表明,AdaBoost分类器相对于决策树、支持向量机和朴素贝叶斯分类器在信贷客户的风险评估中表现最优。
Abstract: In the era of rapid development of internet finance, credit risk has become one of the most urgent problems to be solved in the financial field. As an effective tool, credit risk assessment model can identify potential risks by using customer information and customer activity data, and play a vital role in financial institutions. In this paper, we take credit risk prediction as a starting point to solve the problem of high sample imbalance in Kaggle data set, which is caused by the fact that the number of overdue users is far less than that of normal users, a risk identification method for unbalanced samples is proposed. This method selects the AdaBoost classifier based on the decision tree to train the SMOTE-Tomek balanced data set. It uses an iterative mechanism to combine the weak classifiers to form a strong classifier. The accuracy rate, recall rate, ROC curve and AUC value are selected to evaluate the classification effect of the selected classifier. Experimental results show that the AdaBoost classifier performs best in the risk assessment of credit customers compared with de-cision trees, support vector machine and Naive Bayes classifier.
文章引用:马宁, 刘硕, 王乐秀. 基于SMOTE-Tomek与AdaBoost相结合的不平衡分类算法在金融信贷领域的研究[J]. 计算机科学与应用, 2023, 13(5): 1135-1147. https://doi.org/10.12677/CSA.2023.135111

参考文献

[1] 刘文雅. 基于数据挖掘的银行客户信贷违约的研究[D]: [硕士学位论文]. 大连: 大连理工大学, 2020.
[2] 逯瑶瑶. 基于机器学习分类算法的贷款违约预测研究[D]: [硕士学位论文]. 兰州: 兰州大学, 2021.
[3] 王浩, 唐桥虹, 唐娜, 等. 基于神经网络的心电分类算法抗扰性影响分析[J]. 中国医疗设备, 2023, 38(3): 61-65.
[4] 汪海燕, 黎建辉, 杨风雷. 支持向量机理论及算法研究综述[J]. 计算机应用研究, 2014, 31(5): 1281-1286.
[5] 沈翠华, 刘广利, 邓乃扬. 一种改进的支持向量分类方法及其应用[J]. 计算机工程, 2005, 31(8): 153-154.
[6] 王雅婷. 基于不平衡数据的多种采样方法的信用评分模型研究[D]: [硕士学位论文]. 南昌: 江西财经大学, 2022.
[7] 汪海涛, 余永奎, 段春雨. 基于大数据不平衡样本集的重采样方法及应用[J]. 现代计算机(专业版), 2018(22): 26-29.
[8] 陈启伟, 王伟, 马迪, 毛伟. 基于Ext-GBDT集成的类别不平衡信用评分模型[J]. 计算机应用研究, 2018, 35(2): 421-427.
[9] Niu, J., Liu, Z., Pan, Q., Yang, Y. and Li, Y. (2023) Conditional Self-Attention Generative Adversarial Network with Differential Evolution Algorithm for Imbalanced Data Classification. Chinese Journal of Aer-onautics, 36, 303-315. [Google Scholar] [CrossRef
[10] HAN, H., WANG, W.Y., MAO, B.H. (2005) Border-line-SMOTE: A New Over-Sampling Method in Iimbalanced Data Sets Learning. In: Huang, D.S., Zhang, X.P. and Huang, G.B., eds., ICIC 2005: Advances in Intelligent Computing, Springer, Berlin, 878-887. [Google Scholar] [CrossRef
[11] 郭秀娟, 李庆凯, 孟庆楠, 马玉贤. 基于朴素贝叶斯算法分析鸢尾花数据集分类[J]. 工业和信息化教育, 2022(6): 82-84.
[12] 王植, 张珏. 基于Boosting算法的C5.0决策树不平衡数据分类算法[J]. 河南科学, 2023, 41(1): 7-12.
[13] 孙艳歌, 邵罕, 杨艳聪. 基于代价敏感不平衡数据流分类算法[J]. 信阳师范学院学报(自然科学版), 2019, 32(4): 670-674.
[14] 韩慧敏, 沈润平, 黄安奇, 狄文丽. 基于集成学习方法的CLDAS土壤湿度降尺度研究[J]. 南京信息工程大学学报(自然科学版), 2021, 13(6): 693-706.
[15] 李小娟, 韩萌, 王乐, 等. 监督与半监督学习下的数据流集成分类综述[J]. 计算机应用研究, 2021, 38(7): 1921-1929.
[16] 沈智勇, 苏翀, 周扬, 沈智威. 一种面向非均衡分类的随机森林算法[J]. 计算机与现代化, 2018, 280(12): 56-60.
[17] 肖梁, 韩璐, 魏鹏飞, 等. 基于Bagging集成学习的多集类不平衡学习[J]. 计算机技术与发展, 2021, 31(10): 1-6.
[18] 王乐, 韩萌, 李小娟, 等. 不平衡数据集分类方法综述[J]. 计算机工程与应用, 2021, 57(22): 42-52.
[19] 王燕. 基于Adaboost算法的人脸图像情绪识别[J]. 杨凌职业技术学院学报, 2023, 22(1): 10-13.
[20] 左海超, 孙媛媛, 杨晓东, 徐涛. 基于迁移AdaBoost的航线节假日客流量预测[C]//中国公路学会. 2022世界交通运输大会(WTC2022)论文集(交通工程与航空运输篇). 北京: 人民交通出版社, 2022: 8.
[21] 钱揖丽, 冯志茹. 利用AdaBoost-SVM集成算法和语块信息的韵律短语识别[J]. 计算机工程与科学, 2015, 37(12): 2324-2330.