En los últimos años, la automatización de procesos a través de mecanismos algorítmicos ha experimentado un incremento significativo en sectores como la salud, la educación, el sistema crediticio, el entorno laboral, la vigilancia policial, entre otros. Aunque es evidente que dicha transformación ha traído importantes beneficios en términos de eficiencia y reducción de costos, la implementación de estos sistemas no está exenta de riesgos sociales, en tanto poseen la capacidad de generar dinámicas discriminatorias con un nivel de complejidad mayor a la observada en humanos, lo cual dificulta su comprensión técnica y abordaje analítico. Por este motivo, en el presente trabajo de investigación se examinaron cinco formas en las que puede configurarse la discriminación algorítmica; a saber, discriminación por correlaciones sesgadas, por variables sustitutas, por grupos algorítmicos, por desajuste algorítmico y por bucle de retroalimentación negativo. Posterior a ello, se estableció una propuesta de carácter descriptivo que, por un lado, permite explicar cómo se materializa este fenómeno en la realidad observable, y por el otro, plantea un punto de partida conceptual para futuras investigaciones sobre el tema.

—

Five forms of algorithmic discrimination: Towards a material description

In recent years, the automation of processes through algorithmic mechanisms has experienced a significant increase in sectors such as healthcare, education, the credit system, the workplace, police surveillance, among others. Although it is evident that this transformation has brought significant benefits in terms of efficiency and cost reduction, the implementation of this systems is not free from social risk, as they have the capacity to generate discriminatory dynamics with a level of complexity greater than that observed in humans, which hinders their technical understanding and analytical approach. For this reason, in the present research work, five ways in which algorithmic discrimination can take shape were examined; namely, discrimination by biased correlations, by proxy variables, by algorithmic groups, by algorithmic mismatch, and by negative feedback loops. Thereafter, a descriptive proposal was established that, on the one hand, allows for explaining how this phenomenon materializes in observable reality, and, on the other hand, provides a conceptual starting point for future research on the subject.