Pesquisadores desafiam a ideia de que o preconceito na inteligência artificial (IA) é apenas uma falha técnica, argumentando que a tecnologia é fortemente influenciada pela dinâmica de poder social. A IA aprende com dados históricos, moldados por preconceitos humanos e acaba perpetuando discriminação.
Em vez de criar desigualdade, a IA a reforça, como exemplificado pela ferramenta de contratação da Amazon, que favoreceu homens, e pelos sistemas de detecção de fraudes, que, injustamente, acusaram migrantes e famílias vulneráveis.
Leia mais:
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- ChatGPT, Gemini e Copilot: 8 tarefas que ficam mais fáceis quando usamos a inteligência artificial
- IA: nova tecnologia identifica doenças com quase 100% de precisão
Estudo evidencia como a IA reforça a desigualdade
- Uma nova pesquisa, liderada pelo professor Tuba Bircan, da Universidade de Bruxelas (Bélgica), destaca como a IA pode amplificar preconceitos existentes, principalmente quando não há transparência e responsabilidade em seu uso;
- A tecnologia é desenvolvida dentro de ecossistema em que empresas, desenvolvedores e políticos tomam decisões sobre seu design e aplicação, impactando diretamente as desigualdades sociais;
- Sistemas de IA treinados com dados enviesados replicam discriminação em áreas sensíveis, como emprego, policiamento e assistência social;
- O estudo está publicado no jornal Technological Forecasting and Social Change.
O estudo também sugere que a governança da IA deve ser mais ampla, com maior transparência e inclusão, para evitar a exclusão digital e o aprofundamento das disparidades socioeconômicas.
No entanto, oferece visão otimista, defendendo que, com políticas proativas de justiça e responsabilidade, a IA pode ser usada para promover mudanças sociais positivas, em vez de reforçar as desigualdades existentes.
Olhar Digital