Los principios generales de gobernanza de la IA enfatizan la necesidad de adoptar un enfoque ético y responsable en el desarrollo y la implementación de la IA, subrayando la importancia de la transparencia, la equidad y la rendición de cuentas.
También es necesario tanto el involucrar a las diferentes partes interesadas como el establecer marcos regulatorios claros que aseguren que la IA se utilice de manera beneficiosa y justa.
El marco de principios de gobernanza de la inteligencia artificial (IA) busca asegurar que el uso de estas tecnologías sea ético, transparente y responsable.
Los principios clave que guían este marco incluyen prudencia, no discriminación, proporcionalidad, transparencia y gobernanza de datos.
Principios éticos y de responsabilidad:
- + Transparencia: Es fundamental ser transparente sobre el uso de instrumentos de IA, su funcionamiento, alcance, datos utilizados, márgenes de error y carácter decisorio.
- + Equidad y no discriminación: Evitar que los errores humanos se trasladen a los algoritmos, asegurando que no haya sesgos discriminatorios. Es crucial identificar y mitigar sesgos en los datos y algoritmos para evitar decisiones injustas.
- + Responsabilidad y rendición de cuentas: Implementar mecanismos de supervisión, evaluación de impacto y auditoría para asegurar la rendición de cuentas.
- + Privacidad y seguridad de los datos: Velar por la seguridad de los datos, respetando la privacidad y confidencialidad. Las Administraciones Tributarias (AATT) deben responsabilizarse de la calidad de los datos, fomentando la integración de toda la información.
- + Supervisión humana: Cada actuación realizada por la administración con ayuda de la IA debe ser supervisada por una persona que pueda cuestionar las conclusiones del sistema. Debe existir intervención humana en la toma de decisiones finales.
- + Inocuidad: Se deben realizar procedimientos de evaluación de riesgos y adoptar medidas para impedir que las tecnologías de IA produzcan daño a las personas o al ambiente.
Gobernanza de datos:
- + Calidad de los datos: Asegurar que los proyectos de IA empleen datos de calidad. La IA se apoya en el aprendizaje automatizado para identificar patrones a partir de datos, lo que subraya la importancia de la calidad de estos.
- + Integración de la información: Fomentar la integración de toda la información relevante.
- + Seguridad de los datos: Implementar políticas que permitan velar por la seguridad de los datos, respetando la privacidad y confidencialidad.
Implementación y gestión:
- + Conocimiento y familiarización: Es imprescindible que las AATT se familiaricen con el funcionamiento de la IA.
- + Equipos multidisciplinarios: Los proyectos de IA deben ser llevados a cabo por equipos con expertos en diversas áreas, incluyendo funcionarios especializados en temas impositivos, técnicos en informática y científicos de datos.
- + Evaluación de riesgos: Realizar evaluaciones de riesgo de los proyectos y familiarizarse con la tecnología antes de ampliar las soluciones.
- + Marco legal y regulatorio: La limitación al uso de la IA debe estar determinada por el marco jurídico-normativo aplicable y los principios de buen uso de la IA.
Transparencia y explicabilidad:
- + IA explicable (XAI): Es crucial que las conclusiones de los algoritmos de IA puedan ser explicadas. La explicabilidad es fundamental para la buena gobernanza tributaria.
- + Comunicación clara: Informar a los ciudadanos sobre cómo se utiliza la IA en la administración tributaria.
Adaptación y mejora continua:
- + Revisión de procesos: Avanzar en la implementación de tecnologías de IA requiere revisar los procesos, mejorar la calidad de los datos y revisar la arquitectura de la información.
- + Formación y capacitación: Es vital la formación y capacitación digital del personal para asegurar que dispongan de las competencias necesarias para la nueva gestión de procesos.
Si te interesa el tema, puedes visitar el micrositio del CEAT - Centro de Estudios en Administración Tributaria FCE UBA en https://www.economicas.uba.ar/extension/ceat
O encontrar más publicaciones interesantes en: https://trabajodecenteinclusionsocial.blogspot.com
Comentarios
Publicar un comentario