La Supervisión e Intervención Humana en el Circuito (Human-in-the-Loop)
El principio del humano en el circuito (Human-in-the-Loop - HITL) sintetiza la división de roles: La IA propone, asiste y ejecuta; el ser humano decide, valida y responde jurídicamente.
1. Fundamento Jurídico y Doctrinal
- + Carencia de Subjetividad: Los sistemas de inteligencia artificial carecen de autodeterminación, autoconciencia e intencionalidad. Un acto voluntario y jurídicamente imputable requiere discernimiento, intención y libertad (Art. 260 del Código Civil y Comercial).
- + Reserva de Acto Administrativo: La validez de todo acto administrativo que afecte derechos patrimoniales o exija cumplimiento de deuda presupone el dictado formal por una autoridad humana competente (Art. 7.º, Ley N.º 19.549).
- + Principio de No Traslado de Responsabilidad: Los marcos de control público tales como la Resolución N.° 197/2026 (SIGEN) establecen que la automatización no traslada la responsabilidad al software. La titularidad decisoria y la responsabilidad institucional permanecen inalienables en los funcionarios públicos.
2. Operacionalización Práctica: El Semáforo Agéntico
Para evitar que el control humano se reduzca a una consigna abstracta, se puede estructurar la autonomía algorítmica mediante un Semáforo Agéntico:
- 🟢 Zona Verde (Automatización Plena): Tareas de bajo riesgo y alta repetitividad (cruces automáticos de facturas, recordatorios de vencimiento, ruteo de solicitudes) ejecutadas automáticamente bajo supervisión periódica.
- 🟡 Zona Amarilla (Co-piloto con Validación): Tareas complejas pero reversibles (borradores de dictámenes, pre-informes de inconsistencias de auditoría, selección de comparables en Precios de Transferencia). El agente elabora la propuesta y un funcionario la valida antes de su aplicación.
- 🔴 Zona Roja (Reserva Humana Exclusiva): Actos con efectos jurídicos y sancionatorios plenos (determinaciones de deuda de oficio, inicio de sumarios, adopción de medidas cautelares). La decisión, fundamentación sustantiva y firma son facultad exclusiva de la autoridad humana.
3. Salvaguardas contra la Pereza Cognitiva
El mayor riesgo operativo es que el funcionario caiga en el sesgo de automatización, validando ciega y acríticamente las recomendaciones del agente sin comprender su fundamento.
Para neutralizar esta "firma por inercia", se instrumentan mecanismos de Validación Adversaria Aleatoria (sometiendo casos a evaluación a doble ciego sin mostrar la recomendación del modelo) y la exigencia de un Expediente Electrónico Agéntico con traza inalterable de auditoría (log de razonamiento XAI)
Puedes ver el video en el canal de YouTube en:
Sigamos la conversación en:
Comentarios
Publicar un comentario