传播学 | 算法偏见（algorithmic bias）

算法偏见是指在算法的设计、开发、训练及应用过程中，由于数据选择、模型构建、参数调整等环节中隐含的人类主观认知偏差、技术局限性或利益驱动等因素，导致算法对特定群体、信息或观点产生不公平、不准确的偏向性处理。这种偏见不仅体现在算法输出的结果上，还可能深刻影响算法的决策过程和应用效果，进而对社会公平、正义和个体权益造成潜在威胁。

算法偏见的成因

（1）数据偏见：

数据来源的偏差：算法训练所依赖的数据集可能存在样本选择偏差，如数据来源单一、样本量不足或数据标注的主观性，导致算法学习到片面或错误的信息。

数据内容的偏差：数据集中可能隐含人类社会的固有偏见，如性别、种族、年龄等方面的隐性偏见，这些偏见会被算法学习并体现在推荐结果中。

（2）开发者偏见：

显性偏见：开发者可能有意或无意地在算法设计中融入个人认知、价值观或利益考量，导致算法对特定信息的偏向性处理。例如，通过调整算法参数来优先展示某些内容。

隐性偏见：开发者在认知和解释世界的过程中不可避免地带有偏见，这些偏见也会被带入到算法之中。例如，对某一群体的刻板印象可能影响算法对该群体信息的处理。

（3）算法本身的偏见：

算法原理的局限性：算法的按优先级排序、归类处理、关联选择、过滤排除等特点本身就可能是一种差别对待系统，导致算法在处理信息时产生偏见。

黑箱特性：深度学习算法等复杂模型具有黑箱特性，人类难以理解其内部运作机制，这也增加了算法偏见被识别和纠正的难度。

（4）商业利益驱动：

在流量和吸粉至上的编辑理念下，算法可能更倾向于推荐能够吸引用户点击和互动的内容，而忽视新闻的真实性和客观性。这种利益驱动可能导致算法对特定类型信息的偏向性处理。