IAs reproduzem discriminação e reforçam a desigualdade; entenda
Pesquisadores desafiam a ideia de que o preconceito na inteligência artificial (IA) é apenas uma falha técnica, argumentando que a tecnologia é fortemente influenciada pela dinâmica de poder social.
Por Vision News em 01/03/2025 às 00:54:46
Pesquisadores desafiam a ideia de que o preconceito na inteligência artificial (IA)é apenas uma falha técnica, argumentando que a tecnologia é fortemente influenciada pela dinâmica de poder social. A IA aprende com dados históricos, moldados por preconceitos humanos e acaba perpetuando discriminação.
Em vez de criar desigualdade, a IA a reforça, como exemplificado pela ferramenta de contratação da Amazon, que favoreceu homens, e pelos sistemas de detecção de fraudes, que, injustamente, acusaram migrantes e famílias vulneráveis.
Treinada por dados criados pelos humanos, a IA acaba aprendendo também os aspectos preconceituosos de nossa sociedade (Imagem: StunningArt/Shutterstock)
Uma nova pesquisa, liderada pelo professor Tuba Bircan, da Universidade de Bruxelas (Bélgica), destaca como a IA pode amplificar preconceitos existentes, principalmente quando não há transparência e responsabilidade em seu uso;
A tecnologia é desenvolvida dentro de ecossistema em que empresas, desenvolvedores e políticos tomam decisões sobre seu design e aplicação, impactando diretamente as desigualdades sociais;
Sistemas de IA treinados com dados enviesados replicam discriminação em áreas sensíveis, como emprego, policiamento e assistência social;
O estudo também sugere que a governança da IA deve ser mais ampla, com maior transparência e inclusão, para evitar a exclusão digital e o aprofundamento das disparidades socioeconômicas.
No entanto, oferece visão otimista, defendendo que, com políticas proativas de justiça e responsabilidade, a IA pode ser usada para promover mudanças sociais positivas, em vez de reforçar as desigualdades existentes.
Estudo pede a criação de políticas eficazes para um treinamento mais amplo de IA, que possa evitar a reprodução de desigualdade (Imagem: LookerStudio/Shutterstock)
Confira as melhores ofertas do Dia do Consumidor selecionadas pelo Olhar Digital! Aproveite descontos imperdíveis em smartphones, notebooks, smartwatches e muito mais.
SÃO PAULO, SP (FOLHAPRESS) - Uma troca de rotina na tripulação da Estação Espacial Internacional (ISS, sigla em inglês) assumiu um significado incomum: abre caminho para que dois astronautas da Nasa que estão no espaço há nove meses voltem para a Terra.