En el marco del proyecto Fondecyt de Iniciación 11220370 «Discriminación algorítmica en el Estado de Bienestar Digital y en las plataformas digitales de trabajo», cuyo investigador responsable es el profesor del Instituto de Derecho Público de la Facultad de Ciencias Jurídicas y Sociales de la UACh, Dr. Alberto Coddou, el miércoles 7 de diciembre se llevó a cabo el seminario «La discriminación en la era digital».
El proyecto aborda la relación entre procesos automatizados de decisión que utilizan tecnologías digitales y el principio de igualdad y no discriminación. En concreto se pretende comprender el fenómeno de la discriminación algorítmica y sus diferentes formas, con el objeto de proponer, en el marco del ordenamiento jurídico chileno, las respuestas institucionales adecuadas; esto es, las interpretaciones, adecuaciones o modificaciones que se deberían realizar para abordar las formas de discriminación algorítmica.
La actividad se desarrolló el 7 de diciembre de 2022, a partir de las 9:00 y hasta las 18:00 horas, en la Sala de Consejo de la Facultad, instancia que contó con presentaciones de participantes de variadas disciplinas.
La Decana de la Facultad, Dra. Daniela Accatino, dio la bienvenida a todos los asistentes que participaron de la actividad. “Me parece muy interesante que participen investigadores e investigadoras desde las distintas disciplinas que permitan entregar una mirada más amplia al proyecto que lidera nuestro profesor de la Facultad, Dr. Alberto Coddou, y que nos posibilita dialogar sobre un tema tan relevante y contemporáneo en la actualidad como es la discriminación en la era digital”.
El investigador del proyecto, profesor Alberto Coddou, comentó que la actividad fue muy productiva, fue un seminario cerrado en donde se pudieron discutir los diversos desafíos que surgen para la protección del principio de igualdad y no discriminación en el contexto de procesos automatizados de decisión que cada vez más impactan en nuestras vidas.
“Cada uno de los participantes tuvo entre 15 y 20 minutos para exponer y dar paso a una discusión sobre el tema en específico. Las y los participantes eran de diversas disciplinas; derecho, ciencias sociales, ciencias de la comunicación, ciencias de la salud, incluyendo, además, a especialistas de la industria y de las ciencias de la computación, lo que permitió un diálogo abierto y muy fructífero. La idea final es poder plasmar el resultado de estas investigaciones en un número especial de una revista indexada, sobre todo para facilitar el acceso abierto», especificó el académico.
El profesor Coddou precisó que “la principal conclusión es, quizás, que el marco normativo internacional y el chileno, en específico, no están debidamente preparados para enfrentar estos desafíos, por lo que se requiere desarrollar instancias de colaboración interdisciplinaria para sortear las diferentes barreras que deben sobrepasar las víctimas de la discriminación en la era digital. Así, se abordaron temas de protección de datos, de ciberseguridad, de propiedad intelectual, de derecho probatorio y de derechos humanos que impiden una adecuada protección contra las diversas formas de discriminación algorítmica».
Por su parte, la Directora del GobLab UAI, María Paz Hermosilla, indicó que “una de las aristas del proyecto Algoritmos Éticos –de la Universidad Adolfo Ibáñez y BID Lab – es la implementación piloto de estándares éticos en sistemas algorítmicos de la Defensoría Penal Pública, Fonasa y el Instituto de Previsión Social. Este proceso contempla la incorporación de medidas concretas que identifiquen sesgos y eviten la discriminación en el diseño y desarrollo de los algoritmos, en línea con lo investigado por el profesor Coddou en su Fondecyt. Buscamos que el Estado avance en esta materia con acciones proactivas”.
Ponencias
En la ocasión expusieron las y los académicos Alberto Coddou de la Universidad Austral de Chile y Emma Fischer de la Universidad Diego Portales, el tema «Desafíos doctrinarios y prácticos para abordar las diversas formas de discriminación algorítmica».
Luego, Andrés Páez de la Universidad de Los Andes, Colombia, presentó «La Discriminación Algorítmica y la Inversión de la Carga de la Prueba».
Danny Rayman de Business and Human Rights Centre, expuso «Estado de Bienestar Digital y Discriminación Algorítmica: La relación entre Estados y Empresas en la violación de derechos humanos».
Los ingenieros en ciencias de la computación, SpikeLab, Robert Cercós, Camilo Iturra y Felipe Salas, presentaron el tema «Fairness y mitigación de sesgos en modelos machine learning».
Los docentes Alejandra Letelier y Sebastián Smart de la Universidad Austral de Chile presentaron «Determinantes digitales de la salud: evaluando el impacto de las decisiones algorítmicas».
Pablo Viollier, de la Universidad de Chile, expuso «La toma de decisiones automatizadas en el proyecto de ley de datos personales ¿derecho o prohibición?».
Continuaron los profesores Ricardo Baeza-Yates de la Universidad de Chile/Northeastern University. Pablo Contreras, Universidad Central, «Gobernanza algorítmica en Chile: Examinando la regulación del trabajo vía plataformas digitales, bajo la Ley No. 21.431».
La docente Michelle Azuaje de la Universidad Autónoma, «Estrategias de propiedad intelectual como herramientas para la prevención de la discriminación algorítmica».
La profesora María Paz Hermosilla de la Universidad Adolfo Ibáñez, expuso «Incorporando estándares éticos en sistemas automatizados en el Estado: aprendizajes del proyecto Algoritmos Éticos».
El profesor Gustavo Beade de la Universidad Austral de Chile, presentó «¿Algoritmos para mejorar el derecho penal?».
Finalmente, Isabel Ruiz-Esquide de la Universidad Austral de Chile, se refirió a «La Pauta Unificada Inmediata de Riesgo como condicionante de las investigaciones penales por violencia intrafamiliar».