AI伦理 3 篇文章

算法公平性与伦理治理的前沿探讨

封面
技术分享 数据偏差 AI伦理 建模实践

公平机器学习为何会在数据预处理阶段种下偏见隐患

本文深入剖析公平机器学习在数据预处理阶段的偏见泄漏根源,指出采样偏差与特征间接相关性是引发后续模型歧视的核心原因,并通过实验级重加权策略与多维公平指标选择给出可落地验证方案。强调公平度量指标应在训练前固化,从而有效平衡模型效果与公平性目标。

阅读全文
封面
公平机器学习 对抗训练 模型去偏 AI伦理 表征学习

对抗去偏和常规去偏方法的本质区别在哪里

对抗去偏通过对抗博弈在表征空间剥离敏感属性信息,与预处理去偏、重加权等方法相比在公平性与任务性能的平衡上更具优势。文章阐述了对抗去偏的原理、梯度反转层的实现机制、与其他去偏方法的定位差异以及落地时常见的训练稳定性、权衡控制、评估指标选择三大难点,并给出可操作的设计建议。

阅读全文