Viés Algorítmico

O que é viés algorítmico?

Viés algorítmico ou viés de IA refere-se aos resultados injustos ou discriminatórios resultantes do uso de algoritmos. É uma série de erros sistemáticos e repetíveis em um sistema de computador que favorece um grupo de pessoas de maneiras que não correspondem à intenção das funções do algoritmo.

Com a inteligência artificial (IA) e o aprendizado de máquina (ML) se espalhando por diversas indústrias, o viés algorítmico é uma preocupação crescente para todos. Embora os algoritmos sejam destinados a trazer eficiência, eles não são imunes a falhas no design humano. Portanto, é necessário entender os vieses que os algoritmos podem desenvolver ao longo do tempo.

Os vieses algorítmicos ocorrem por várias razões - dados tendenciosos, falhas de design e preconceitos humanos conscientes ou subconscientes durante a fase de desenvolvimento, entre outros.

Software de operacionalização de IA e aprendizado de máquina (MLOps) ajuda a monitorar e mitigar proativamente os potenciais riscos de viés. Este software ajuda a prevenir as consequências que perturbam o bem-estar de diferentes grupos sociais.

Software de Viés Algorítmico

Software que menciona viés algorítmico como recurso ou termo.

Pexels

Exemplos de viés algorítmico

O viés algorítmico tem muitas formas. Pode variar de viés racial e preconceito de gênero a desigualdade e discriminação por idade. No entanto, esses vieses também podem ser não intencionais. Por exemplo, se um algoritmo de reconhecimento facial for treinado usando um conjunto de dados que não é inclusivo, ele não funcionará efetivamente para todos os grupos de pessoas. Como esses vieses são não intencionais, muitas vezes são difíceis de identificar antes de serem programados em um sistema.

Aqui estão alguns exemplos adicionais de viés algorítmico:

• Viés racial em sistemas de saúde:  Na área da saúde, os vieses algorítmicos podem incluir fornecer a mesma qualidade de instalações médicas, mas cobrar mais dinheiro de um grupo de pessoas.
• Viés de gênero em sistemas de contratação: O viés algorítmico também pode existir em sistemas de contratação onde um gênero é preferido em detrimento do outro. Qualquer decisão de contratação baseada em viés de gênero e não em mérito é injusta.
• Viés racial em sistemas criminais: Algoritmos que preveem as chances de um infrator reincidir podem discriminar um determinado grupo. A previsão pode ser tendenciosa contra criminosos pertencentes a uma raça específica, tornando-os passíveis de uma sentença mais longa.

Tipos de viés algorítmico

O viés algorítmico pode assumir muitas formas e ocorrer devido a diferentes fatores. Cinco tipos comuns de vieses podem existir em um algoritmo:

• Viés de dados surge quando os dados usados para treinar um algoritmo não representam todos os conjuntos de pessoas e demografias. Isso resultará no algoritmo produzindo resultados desfavoráveis com base em dados não inclusivos. Este tipo de viés pode existir em sistemas de contratação, saúde e criminais.
• Viés de amostragem ocorre quando o conjunto de dados de treinamento é usado sem randomização. Também pode ocorrer se o conjunto de dados não for uma representação da população para a qual o algoritmo é destinado. Pode levar a resultados imprecisos e inconsistentes em um sistema. Isso pode existir em um sistema bancário onde um algoritmo prevê aprovações de empréstimos com base apenas em grupos de alta renda.
• Viés de interação existe quando um sistema interage de forma diferente com os usuários devido às suas características ou demografias. Isso resulta em tratamento inconsistente e resultados injustos para pessoas de um grupo específico. Este tipo de viés pode ser encontrado em sistemas de reconhecimento facial que podem reconhecer uma raça mais facilmente do que outra.
• Viés de atribuição de grupo acontece quando as equipes de dados assumem a verdade sobre um indivíduo com base no grupo ao qual ele pode ou não pertencer. Este viés pode ocorrer em sistemas de admissão que favorecem candidatos de certos antecedentes educacionais e instituições em detrimento de outros.
• Viés de loop de feedback pode ocorrer quando os resultados tendenciosos gerados por um algoritmo são usados como feedback para refiná-lo ainda mais. Esta prática pode amplificar os vieses ao longo do tempo, resultando em uma disparidade maior entre diferentes grupos. Por exemplo, se um algoritmo está sugerindo certos empregos para homens, ele pode considerar ainda mais apenas candidaturas de candidatos do sexo masculino.

Melhores práticas para prevenir o viés algorítmico

Embora a indústria de tecnologia ainda tenha um longo caminho a percorrer antes de eliminar o viés em algoritmos, há algumas melhores práticas a serem lembradas para preveni-lo.

• Desenhar com inclusão: Quando IA e ML são projetados com inclusão em mente, eles não herdarão vieses. Estabelecer metas mensuráveis para algoritmos resultará em desempenho consistente em todos os casos de uso, ou seja, todos os grupos, independentemente de idade, gênero ou raça.
• Testar antes e depois da implantação: Antes da implantação de qualquer sistema de software, testes e avaliações minuciosas podem identificar vieses que o algoritmo pode ter herdado involuntariamente. Uma vez que a implantação esteja completa, outra rodada de testes pode ajudar a identificar qualquer coisa que tenha sido perdida na primeira iteração.
• Usar dados sintéticos: Os algoritmos de IA devem ser treinados em conjuntos de dados inclusivos para evitar discriminação. Dados sintéticos são a representação estatística de conjuntos de dados reais. Algoritmos treinados em dados sintéticos estarão a salvo de quaisquer vieses herdados de dados reais.
• Focar na explicabilidade da IA: A explicabilidade da IA permite que os desenvolvedores adicionem uma camada de transparência aos algoritmos de IA. Isso ajuda a entender como a IA gera previsões e quais dados ela usa para tomar essas decisões. Ao focar na explicabilidade da IA, o impacto esperado e os potenciais vieses de um algoritmo podem ser identificados.

Através das melhores plataformas de ciência de dados e aprendizado de máquina, os desenvolvedores podem conectar dados para criar, implantar e monitorar algoritmos de aprendizado de máquina.