AI 伦理与公平性

⚖️ AI 能做好事——但也能做坏事

AI 技术本身是中立的。但 AI 系统可能：

• 放大社会偏见：招聘模型学到”男性更适合编程”（因为历史数据中男性工程师多）
• 侵犯隐私：人脸识别被滥用
• 不可解释：模型拒绝贷款——但银行说不出为什么
• 被滥用：深度伪造、自动化欺诈

AI 伦理（AI Ethics） 研究这些问题——确保 AI 发展”对人类有益”。

---

🎯 四大核心伦理问题

① 偏见与公平性

问题：训练数据中包含历史偏见 → 模型学习并放大偏见。

# 真实案例：
# 亚马逊的招聘 AI——学到的模式：
# 因为历史数据中男性简历占多数
# → AI 自动对"女性"关键词降权
# → 歧视女性——最终被废弃

# 另一个例子：
# 人脸识别对深色皮肤准确率低
# → 因为训练数据中浅色皮肤图片远多于深色皮肤

解决方向：

• 公平性指标（Demographic Parity、Equal Opportunity）
• 数据集平衡和去偏
• 算法公平性约束

② 透明度和可解释性（XAI）

问题：深度学习是”黑箱”——模型给出了结果，但没人懂为什么。

# LIME：局部解释
# 对某个预测，扰动输入→看什么特征对结果影响最大

# SHAP：博弈论解释
# 每个特征对预测的"贡献值"

# 例子：贷款申请被拒
# SHAP 分析 → 原因主要是"收入"和"信用分"，而不是"性别"或"种族"

可解释性在医疗、金融、法律等高风险领域至关重要。

③ 隐私保护

**差分隐私（Differential Privacy）**：
在训练数据中加"噪声"——模型学到整体规律，但无法推断某个具体个体的信息。

苹果和 Google 都用差分隐私收集用户使用数据——改善产品但不侵犯隐私。

④ AI 安全

• 对抗样本：在图片上加肉眼不可见的噪声→AI 把”熊猫”识别成”长臂猿”
• AI 幻觉：大模型生成看似合理但完全错误的内容
• 红队测试：专门找 AI 漏洞的团队测试

---

🏛️ AI 治理框架

全球 AI 治理趋势：

EU AI Act（欧盟 AI 法案）：2024 年通过——根据风险分级监管
中国《生成式 AI 管理办法》：2023 年——要求 AI 生成内容"真实、准确"
美国 AI 行政令：2023 年——要求 AI 公司提交安全测试结果

AI 的”三大原则”（欧盟 AI 高级别专家组）：

1️⃣ 合法：AI 必须遵守所有适用法律
2️⃣ 合乎道德：AI 必须符合道德原则和价值观  
3️⃣ 鲁棒：从技术和社会层面，AI 必须足够"稳健"

---

📝 小结

问题	核心挑战	解决方向
偏见	训练数据放大了历史歧视	数据去偏、公平性约束
可解释性	深度学习是”黑箱”	LIME、SHAP、可解释模型
隐私	模型可能泄露训练数据	差分隐私、联邦学习
安全	对抗攻击、AI 幻觉	红队测试、安全训练
问责	AI 犯错了谁负责？	法规框架、人工审核

🎯 思考题：自动驾驶汽车面临一个”电车难题”式困境——刹车失灵，要么撞一个人、要么撞两个。AI 应该”选择”撞谁？这个决定应该由谁来做？（程序员？公司？政府？）

为什么先学这个？ AI 伦理是整个机器学习板块的最后一节。技术赋予了力量——但如何使用这种力量，是每个 AI 从业者都必须思考的问题。至此机器学习板块全部结束！