1. 项目背景与问题定义
信贷风控模型作为金融科技领域的核心组件,其公平性和鲁棒性直接影响着数百万用户的金融权益。近期我们在对某头部金融机构的风控系统进行压力测试时,发现了一个令人不安的现象:当特定群体特征以特定组合形式出现时,模型会系统性产生偏差判断,且这种偏差具有隐蔽性和统计显著性。
这种现象我们称之为"群体偏见攻击"——不同于传统的数据偏见,它是通过精心设计的特征组合来激活模型内隐的决策偏好。举个实际案例:当我们把"年龄35-45岁+三线城市+教育程度大专"这三个单独无害的特征组合输入时,模型对该群体用户的拒贷率异常升高了42%,而单独测试每个特征时偏差均不超过5%。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 技术原理深度解析
2.1 偏见产生机制
现代风控模型通常采用XGBoost或深度神经网络架构,其偏见主要来源于三个层面:
-
数据层面:训练数据中存在的历史歧视被模型学习放大。例如某地区过去因政策限制导致违约率虚高,模型会过度关联该地区特征与风险。
-
算法层面:梯度提升树在分裂节点时,可能过度依赖某些敏感特征的组合效应。我们的实验显示,当"邮政编码+职业类别"组合时,模型信息增益计算会产生统计失真。
-
业务层面:风控策略中人为设置的规则与机器学习模型产生耦合效应。常见如将人工规则作为模型输入特征时未做隔离处理。
2.2 攻击向量分析
通过对抗样本测试,我们识别出三类高危攻击模式:
| 攻击类型 | 特征组合示例 | 影响程度 |
|---|---|---|
| 地域叠加型 | 邮政编码+方言特征+IP归属地 | 高 |
| 职业交叉型 | 行业+职位+公司规模 | 中 |
| 行为轨迹型 | 设备指纹+操作时序+停留时长 | 极高 |
这些组合单独出现时可能无害,但特定组合会触发模型的"偏见开关"。例如测试中发现,当用户同时具有"制造业+班组长+Android设备"特征时,其额度审批通过率下降37%。
3. 检测与防御方案
3.1 偏见检测框架
我们开发了基于SHAP值的
