Ética, inteligencia artificial y gobierno abierto

 

El desarrollo de las tecnologías de inteligencia artificial (IA) debe llevarse a cabo en un ambiente que promueva la ética, la transparencia, la responsabilidad y la mejora continua. 

Este ambiente debe fomentar la calidad de los datos, el uso de la analítica en sus diferentes formas, y estar alineado con los principios del gobierno electrónico digital y el gobierno abierto.

El ambiente en el cual se desarrollan las tecnologías de IA debe ser uno que priorice la calidad de los datos, la mejora continua, el uso estratégico de la analítica, la transparencia, la ética y la responsabilidad, todo ello enmarcado en los principios del gobierno electrónico digital y el gobierno abierto.


Para lograr este ambiente, es fundamental considerar los siguientes aspectos:


1. Calidad de los datos:

Los proyectos de IA deben emplear datos de alta calidad para asegurar resultados precisos y confiables. La calidad de los datos es esencial para el éxito de la IA, ya que esta se apoya en el aprendizaje automatizado para identificar patrones a partir de los datos. Las Administraciones Tributarias (AATT) deben responsabilizarse de la calidad de los datos, fomentando la integración de toda la información relevante.


2. Mejora continua:

Desarrollar una cultura organizacional que valore la mejora continua de los servicios que se prestan a la ciudadanía. Esto implica una revisión constante de los procesos y la arquitectura de la información. Las instituciones deben mantenerse al día con las soluciones e innovaciones en el uso de la IA, adaptándose a los nuevos datos y circunstancias cambiantes.


3. Analítica de datos:

Utilizar la analítica de datos para responder preguntas clave y tomar decisiones informadas. La analítica de datos incluye:

+ Análisis descriptivo: ¿Qué sucede? o ¿Qué sucedió?.

+ Análisis predictivo: ¿Qué sucederá?.

+ Análisis prescriptivo: ¿Qué debiéramos hacer?.


Para crear valor, es necesario utilizar los datos para tomar decisiones aplicando la analítica predictiva y prescriptiva, lo cual se logra mediante las tecnologías de IA.


4. Gobierno electrónico digital:

Impulsar la participación ciudadana en un contexto de gobierno abierto. La implementación de tecnologías de IA debe realizarse dentro de un compromiso de gobierno abierto. Es fundamental que los gobiernos demuestren una comprensión plena de los asuntos en juego y del impacto de la tecnología en sus operaciones.


5. Gobierno abierto:

Avanzar en la implementación de tecnologías de IA en un marco de gobierno abierto requiere un extenso camino de revisión de procesos, mejora de la calidad de los datos y revisión de la arquitectura de la información de cada organización. En un marco de gobierno abierto, deben implementarse acciones de sensibilización y difusión para dar a conocer a la ciudadanía los proyectos en curso y sus resultados. La ciudadanía debe tener canales oportunos para solicitar explicaciones e información a las instituciones del sector público que implementen tecnologías de IA.


6. Principios éticos y de gobernanza:

Además, es crucial considerar los siguientes principios éticos y de gobernanza:

+ Transparencia: Ser transparente sobre el uso de instrumentos de IA, su funcionamiento, alcance, datos utilizados, márgenes de error y carácter decisorio.

+ Equidad y no discriminación: Evitar que los errores humanos se trasladen a los algoritmos, asegurando que no haya sesgos discriminatorios.

+ Responsabilidad y rendición de cuentas: Implementar mecanismos de supervisión, evaluación de impacto y auditoría para asegurar la rendición de cuentas.

+ Privacidad y seguridad de los datos: Velar por la seguridad de los datos, respetando la privacidad y confidencialidad.

+ Supervisión humana: Cada actuación realizada con ayuda de la IA debe ser supervisada por una persona que pueda cuestionar las conclusiones del sistema.

Si te interesa el tema, puedes visitar el micrositio del CEAT - Centro de Estudios en Administración Tributaria FCE UBA en https://www.economicas.uba.ar/extension/ceat

O encontrar más publicaciones interesantes en: https://trabajodecenteinclusionsocial.blogspot.com

Comentarios