Apesar de parecer objetiva, a inteligência artificial (IA) é desenvolvida e treinada a partir de dados, critérios e escolhas humanas, o que pode reproduzir desigualdades e preconceitos presentes na sociedade.
Quando esses vieses afetam decisões, os impactos não são iguais para todas as pessoas. Mulheres, pessoas negras, pessoas com deficiência e pessoas LGBTQIA+, por exemplo, podem ser expostas a erros e discriminações que reforçam desigualdades históricas.
Na Psicologia, essa discussão é ainda mais importante. O uso de ferramentas de IA exige atenção à proteção de dados, ao sigilo profissional, à análise crítica dos resultados e à responsabilidade ética sobre as decisões tomadas.
Usar IA de forma responsável também significa questionar seus resultados. A tecnologia pode apoiar o trabalho profissional, mas não substitui o compromisso ético de quem a utiliza.
Veja as imagens abaixo, conheça algumas situações de discriminação algorítmica e confira perguntas importantes para uma utilização mais crítica e responsável dessas ferramentas.
Você encontra as referências utilizadas para a construção deste material logo abaixo.
Salve este conteúdo para consultar quando precisar e compartilhe o link com outras pessoas que também precisam entrar nessa conversa!
#imagensacessíveis: cards coloridos com informações sobre discriminação algorítimica, organizadas a partir das referências a seguir. Há ilustrações em formato 3D de robôs indicando partes em destaque e a marca gráfica do CRP 01/DF.
SAIBA MAIS
"Mas o que é discriminação algorítimica?'
- Wang, X., Wu, Y. C., Ji, X., & Fu, H. (2024). Algorithmic discrimination: Examining its types and regulatory measures with emphasis on US legal practices. Frontiers in Artificial Intelligence, 7, Article 1320277. https://doi.org/10.3389/frai.2024.1320277
- IBM. (2024, 20 de setembro). What is algorithmic bias? https://www.ibm.com/think/topics/algorithmic-bias
"De onde vem o viés?" e "E não Para Por Aí'
- Harvard Journal of Law and Technology. (2020, 3 de novembro). Why racial bias is prevalent in facial recognition technology. Harvard JOLT Digest. https://jolt.law.harvard.edu/digest/why-racial-bias-is-prevalent-in-facial-recognition-technology
- Hasanzadeh, F., Josephson, C. B., Waters, G., Adedinsewo, D., Azizi, Z., & James, A. (2025). Bias recognition and mitigation strategies in artificial intelligence healthcare applications. npj Digital Medicine, 8(1), Article 154. https://doi.org/10.1038/s41746-025-01503-7
- Página institucional da Chapman University: Chapman University. (n.d.). Bias in AI. Acesso em 12 de Outubro, 2026, em https://www.chapman.edu/ai/bias-in-ai.aspx
"Quando o erro algorítmico vira dano real"
- Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016, 23 de maio). Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
- Patalay, P. (2023, 21 de novembro). COMPAS : Unfair algorithm? Medium. https://medium.com/@lamdaa/compas-unfair-algorithm-812702ed6a6a
- Fantástico. (2024, 21 de abril). 'Medo, frustrado e constrangido', diz homem detido por engano em estádio após erro do sistema de reconhecimento facial. G1. https://g1.globo.com/fantastico/noticia/2024/04/21/medo-frustrado-e-constrangido-diz-homem-detido-por-engano-em-estadio-apos-erro-do-sistema-de-reconhecimento-facial.ghtml
- Dastin, J. (2018, 10 de outubro). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
- Buolamwini & Gebru (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification: https://proceedings.mlr.press/v81/buolamwini18a.html
"E o que isso tem a ver com a Psicologia?"
