En el video de hoy analizamos el riesgo de la opacidad algorítmica y el sesgo de las tecnologías disruptivas.
Es importante tener presente que el despliegue de modelos predictivos y algoritmos de aprendizaje automático en la gestión fiscal introduce un peligro latente: el riesgo de la opacidad algorítmica o el fenómeno de la llamada "caja negra" (black box).
Por tal motivo, cuando una autoridad tributaria adopta decisiones que afectan la esfera patrimonial o los derechos del contribuyente basándose en algoritmos inescrutables, se erosiona el principio constitucional del debido proceso y la exigencia de motivación suficiente del acto administrativo (Art. 7.º, Ley N.º 19.549).
A esta falta de transparencia se suma el sesgo algorítmico, mediante el cual las tecnologías disruptivas alimentadas con datos históricos que pueden estar distorsionados, obsoletos o contaminados con sesgos corren el riesgo de replicar, amplificar o automatizar discriminaciones estructurales.
Esto no es inocuo. Un modelo predictivo con datos sesgados puede asignar sistemáticamente mayores niveles de riesgo a determinados sectores o contribuyentes de menor escala, profundizando las inequidades de la fiscalización tradicional.
Prevenir la distopía de una arbitrariedad automatizada exige que la adopción de tecnologías avanzadas esté indisolublemente ligada a estándares estrictos de Explicabilidad Algorítmica (XAI), auditorías independientes de sesgo y el resguardo inalienable de la supervisión humana cualificada.
Puedes ver el video en el canal de YouTube en:
Comentarios
Publicar un comentario