Juicio ético y discernimiento humano
En la transición hacia administraciones inteligentes y basadas en datos, el juicio ético y el discernimiento humano se consolidan como el pilar insustituible para evitar que la automatización o la autonomía agéntica vulneren el Estado de Derecho.
1. Inalienabilidad de la Voluntad Humana y Nulidad Algorítmica
Los sistemas de inteligencia artificial se definen como artificios tecnológicos desprovistos de autoconciencia, intencionalidad, libertad y discernimiento. Dado que un algoritmo no posee subjetividad ni capacidad para asumir responsabilidad jurídica o administrativa, la máquina jamás puede ser titular de potestades públicas impositivas ni reemplazar la voluntad estatal.
Conforme al régimen del acto voluntario (Art. 260 del Código Civil y Comercial de la Nación) y las normas de procedimiento administrativo (Art. 7.º de la Ley N.º 19.549), la validez de todo acto público que afecte derechos o patrimonio exige haber sido emitido con discernimiento y firmado por una autoridad humana competente. Cualquier acto determinativo o sancionatorio 100% automatizado padece de nulidad absoluta e insanable por falta del elemento subjetivo esencial del acto administrativo.
2. El Principio Human-in-the-Loop y el Semáforo Agéntico
Para armonizar la eficiencia tecnológica con la reserva de la potestad pública, se aplica el principio del humano en el circuito (Human-in-the-Loop - HITL). Su postulado rector establece que: La IA propone, asiste y ejecuta; el ser humano decide, valida y responde jurídicamente.
Para graduar operativamente la autonomía agéntica, la doctrina instrumenta el Semáforo Agéntico:
- 🟢 Zona Verde (Automatización Plena): Tareas mecánicas de bajo riesgo (cruces formales de facturas, recordatorios de vencimiento) ejecutadas autónomamente bajo auditoría periódica.
- 🟡 Zona Amarilla (Co-piloto): Tareas complejas que requieren revisión (borradores de dictámenes, comparables de Precios de Transferencia) con validación humana obligatoria antes de surtir efectos.
- 🔴 Zona Roja (Reserva Humana Exclusiva): Actos con efectos jurídicos o sancionatorios directos (determinaciones de deuda de oficio, clausuras, medidas cautelares). La delegación algorítmica está taxativamente prohibida y la decisión queda reservada de forma exclusiva al arbitrio del funcionario humano.
3. Neutralización del Sesgo de Automatización
El mayor riesgo en los modelos asistidos de "Zona Amarilla" es el sesgo de automatización o pereza cognitiva, que ocurre cuando el funcionario firma a ciegas las sugerencias del sistema. Para contrarrestarlo, los marcos de control público (como la Resolución SIGEN N.º 197/2026) exigen:
- a. Inteligencia Artificial Explicable (XAI): Explicitación clara de las cadenas de pensamiento y fundamentación jurídica del modelo en el expediente electrónico.
- b. Validación Adversaria Aleatoria (Doble Ciego): Muestreo periódico donde el auditor humano debe resolver inconsistencias sin conocer la sugerencia previa del modelo, evaluando la independencia real de su juicio profesional.
4. Enfoque Humano-Céntrico y Creación de Valor Público
La incorporación de la inteligencia artificial no está orientada a sustituir al trabajador humano, sino a liberarlo de las tareas mecánicas y repetitivas. Al delegar el procesamiento masivo en agentes de apoyo, se jerarquiza y reorienta el talento humano hacia aquellas funciones estratégicas que requieren empatía, valoración del contexto social, investigación de fraudes corporativos complejos y verdadera justicia fiscal.
Puedes ver el video en el canal de YouTube en:
Sigamos la conversación en:
Comentarios
Publicar un comentario