(1) Principio de legalidad: Como principio general la utilización de la IA por las Administraciones Públicas debe respetar el estado de derecho. En tal sentido, las decisiones automatizadas no deben suplantar la voluntad administrativa que se hubiera producido en otro caso. Asimismo se debe garantizar que, en ningún caso, la respuesta automatizada suplante la voluntad administrativa y que siempre se salvaguarden los derechos de los contribuyentes.
(2) Principio de seguridad jurídica: Se debe garantizar la privacidad y la seguridad de los datos. Es importante que los datos para los sistemas de IA se recopilen, utilicen, compartan, archiven y supriman de forma consistente con las normas vigentes de protección de datos y secreto fiscal. Las leyes deben precisar quién asume los riesgos y la responsabilidad ante fallas de los sistemas, como filtraciones de información. El derecho a la seguridad requiere implementar medidas adecuadas de ciberseguridad para proteger contra ataques cibernéticos, fraudes y ciberespionaje. Se debe garantizar la seguridad y la transparencia de las tecnologías aplicadas, así como la explicabilidad de los procesos que se automaticen.
(3) Principio de transparencia: Es indispensable la transparencia y la divulgación responsable en torno a los sistemas de IA. Los ciudadanos deben entender los resultados basados en inteligencia artificial y poder cuestionarlos. Existe preocupación sobre si el contribuyente tiene derecho a conocer los sistemas tecnológicos que procesaron su información. Al respecto, es clave que la información proporcionada por la IA sea accesible y comprensible. La falta de transparencia en los modelos de IA dificulta la comprensión de cómo se toman las decisiones. Los sistemas de IA deben ser trazables y auditables, y su funcionamiento comprensible. En el proceso de decisión mediante IA, a veces se conocen los insumos y los resultados, pero se ignora lo que ocurre en el proceso de decisión.
(4) Principio de igualdad y no discriminación: Existe el riesgo de que, al elaborar algoritmos, se trasladen sesgos humanos al programa, generando discriminación al seleccionar qué contribuyentes serán auditados. En consecuencia, los datos sesgados pueden convertirse en discriminaciones jurídicas para ciertos colectivos. Es indispensable evitar sesgos o discriminaciones en el diseño, desarrollo, aplicación y auditoría de los algoritmos. Las decisiones automatizadas por la IA no deben estar basadas en cuestiones como sexo, raza, religión, clase social o ideologías. Asimismo, la IA no debe contribuir a reproducir o agravar la discriminación, ni a llevar a cabo análisis o usos deterministas. Se deben realizar los máximos esfuerzos para reducir al mínimo o perpetuar sesgos discriminatorios al entrenar las tecnologías de inteligencia artificial, con el objetivo de garantizar la equidad de dichos sistemas.
(5) Derecho a la participación de los ciudadanos en el proceso administrativo: En un contexto de gobierno abierto se debe impulsar la participación ciudadana para poder aplicar la inteligencia artificial en el ámbito público.
Si te interesa el tema, puedes visitar el micrositio del CEAT - Centro de Estudios en Administración Tributaria FCE UBA en https://www.economicas.uba.ar/extension/ceat
O encontrar más publicaciones interesantes en: https://trabajodecenteinclusionsocial.blogspot.com
Comentarios
Publicar un comentario