El riesgo de la caja negra y la opacidad del algoritmo
Existen riesgos si se opta por seguir modas foráneas y se embarca a una administración tributaria, nacional o provincial, en una adopción acrítica de las tecnologías de inteligencia artificial.
La utilización de modelos de “caja negra”, cuyos razonamientos resultan incomprensibles incluso para sus propios desarrolladores, representa una amenaza para la transparencia administrativa y el derecho de defensa del contribuyente.
Del mismo modo, los sesgos algorítmicos pueden reproducir discriminaciones históricas presentes en los datos de entrenamiento.
La IA no es neutral: si los datos son defectuosos, los resultados también lo serán. Si entra basura, nos devolverá basura amplificada.
Si te interesa el tema encuentras más publicaciones en:
Comentarios
Publicar un comentario