人工智能的算法主要关注在训练数据中频繁出现的信息模式 ,而不够普遍或统计上不够强大的数据往往会被忽视和排除,从而无法得到算法的充分理解和适当响应,依赖于统计频率的算法设计构成了一种特定的“认知盲从”,进而导致部分群体的声音被系统性边缘化。这种设计上的缺陷不仅限制了算法的认知能力,也加剧了社会中的不平等和认知压迫,破坏认知正义。
“认知盲从”导致认知正义被破坏的原因不包括:
算法的设计加剧了社会中的不平等现象
算法过于关注训练数据中频繁出现的信息
算法依赖统计频率而忽视了部分群体的声音
算法不能充分理解和适当响应非频繁信息数据