A aplicação da Inteligência Artificial na vida cotidiana tem se intensificado, trazendo diversas facilidades e soluções para problemas complexos. No entanto, o artigo alerta para os riscos de vieses e discriminações que podem ser gerados pelos sistemas de IA, caso não haja um cuidado adequado na sua concepção e treinamento. Um desses casos envolveu um sistema de gestão de saúde nos Estados Unidos.
CORTIZ, Diogo.O Design pode ajudar na construção de Inteligência Artificial humanística? 2019. 9 f. Artigo apresentado no 17º Ergodesign & USIHC 2019, PUC-Rio, Rio de Janeiro, RJ, 11-13 dez. 2019.
Com base no caso prático do sistema de gestão de saúde mencionado no artigo, assinale a alternativa que descreve corretamente o problema identificado:
ALTERNATIVAS
O sistema foi corretamente projetado, mas os dados utilizados para seu treinamento continham informações falsas, levando a decisões erradas.
O sistema foi desenhado para priorizar pacientes com doenças crônicas, mas falhou ao não alocar tratamentos especiais para nenhum grupo de pacientes.
O problema do sistema era que ele não conseguia identificar padrões de mudanças sutis na saúde dos pacientes, o que impedia um diagnóstico precoce.
O software apresentava um comportamento de discriminação racial, privilegiando pacientes negros em detrimento de brancos na alocação de atendimentos.
A discriminação ocorreu porque o sistema baseava suas decisões na tendência de gastos futuros, e pacientes negros historicamente tinham gastos menores no sistema de saúde.
