Risco de IA engloba as ameaças e incertezas associadas ao desenvolvimento e uso de sistemas de inteligência artificial, incluindo riscos técnicos (alucinações, viés, falhas de segurança), operacionais (dependência excessiva, falta de monitoramento) e regulatórios (não conformidade com legislações emergentes).
A gestão de risco de IA segue os mesmos princípios da gestão de riscos corporativos, adaptados para a especificidade dos sistemas algorítmicos: identificar onde IA é usada, classificar o nível de risco de cada aplicação, implementar controles proporcionais e monitorar continuamente o desempenho e o comportamento dos modelos em produção.
Termos relacionados
Governança de IAViés AlgorítmicoIA Explicável (XAI)Gestão de Riscos