Viés algorítmico é a tendência sistemática de um modelo de inteligência artificial de produzir resultados injustos ou discriminatórios em relação a determinados grupos, por conta de dados de treinamento tendenciosos, escolhas de design inadequadas ou objetivos mal especificados.
É particularmente crítico em aplicações de alto impacto como concessão de crédito, contratação de pessoas, triagem médica e decisões judiciais. A detecção e mitigação de viés requer diversidade nas equipes de desenvolvimento, auditorias regulares dos modelos e mecanismos de recurso para pessoas afetadas por decisões automatizadas.
Termos relacionados
Machine LearningIA Explicável (XAI)Governança de IARisco de IA