Plain-language definition
一句话定义
AI 因为训练数据或设计的问题，对某些人群、观点产生不公平的偏向。
Original definition
英文原文定义
AI bias refers to systematic, unfair outcomes produced by a model — often inherited from training data or design choices — that disadvantage particular groups.
Two levels
分难度讲解
入门版
模型是从数据里学的，数据有什么偏见，模型就学什么偏见。如果训练数据里大多是男性工程师的照片，模型可能就以为「工程师都是男的」——这就是偏见。
进阶版
偏见类型：数据偏见（采样、标注、历史偏差）、算法偏见（目标函数、表示）、部署偏见、反馈循环偏见。评估指标：demographic parity、equalized odds。缓解：去偏数据集、对抗去偏、公平性约束、审计。
Real-world example
真实例子
某公司的简历筛选 AI 被发现系统性地给女性应聘者打低分——因为它学自过去以男性为主的录用数据。
Keep exploring