Discriminación Algorítmica y Sesgos Históricos en Proceso Selectivo Electrónico y las Normas de Protección de Datos

Resumen

Las empresas están adoptando cada vez más sistemas de Inteligencia Artificial (IA), incluyendo en el proceso de selección. Sin embargo, encontramos que aumentan los riesgos de violaciones de los derechos humanos y fundamentales, principalmente a través de la discriminación algorítmica, cuando se reproducen sesgos y estereotipos. La metodología adoptada implica la recopilación de datos del mundo real, incluido el caso de Amazon, para responder empíricamente a la pregunta de nuestra investigación, una revisión bibliográfica sobre sesgos históricos y el análisis legal comparativo de los institutos de la legislación brasileña y de la Unión Europea, en diálogo con otras ciencias, sobre una base interdisciplinaria. Preliminarmente, en un estudio comparativo con la Unión Europea, se encontró que un sistema de IA, para ser confiable, debe cumplir con tres pilares y tener, de manera concomitante, validación legal y técnica y ser ético, lo que motivó la interdisciplinariedad de la presente investigación. Se encontró que los sesgos históricos perpetúan prácticas discriminatorias en el aprendizaje automático cuando se tratan de manera inadecuada datos personales sensibles, que no deben tratarse en procesos de selección electrónica, excepto en el caso de acciones afirmativas en beneficio de candidatos de grupos históricamente discriminados, y que los sesgos históricos son una de las principales causas de la discriminación algorítmica en el contexto del proceso de selección electrónico.