Viés algorítmico

Tendência de um sistema de IA a produzir resultados sistematicamente injustos para certos grupos, em geral porque reproduz preconceitos presentes nos dados de treino. Um sistema de triagem de currículos treinado com decisões passadas pode repetir discriminações contidas nessas decisões. Como o modelo aprende dos dados sem julgá-los, pode perpetuar desigualdades sob uma aparência de neutralidade. Identificar e mitigar esses vieses é parte central do uso responsável de IA.