Rediseñar quién administra

En una entrega anterior de esta serie escribí sobre la evidencia y la trazabilidad que necesitan los sistemas inteligentes que operan en materia regulada. Esta segunda entrega parte de una pregunta distinta, aunque conectada: si una parte cada vez mayor del procesamiento de información puede ocurrir sin intervención humana constante, ¿qué le queda por hacer, exactamente, a la persona que hasta ahora administraba?

Mi respuesta, después de trabajar directamente en la construcción de estos sistemas, es que la inteligencia artificial no sustituye al funcionario ni al contador. Cambia radicalmente qué llega a sus manos. Y si el Estado —o cualquier organización— va a saber mucho más sobre quien administra, esa capacidad tiene que funcionar en ambas direcciones. No como aspiración de buena voluntad institucional, sino como algo exigible.

La capa que se inserta entre la información y la decisión

Durante décadas, administrar significó construir estructuras humanas enteras dedicadas a recopilar información, revisarla, clasificarla, compararla, convertirla en reportes, detectar excepciones y finalmente llevar esos resultados hasta alguien con autoridad suficiente para decidir. Buena parte de nuestras organizaciones —públicas y privadas— existe alrededor de esa cadena.

Lo que la inteligencia artificial puede hacer es comprimirla, no eliminarla. Se inserta una nueva capa de capacidad entre la información y la persona responsable: una capa que observa, cruza datos, identifica inconsistencias, conoce las reglas aplicables, prepara expedientes, calcula escenarios, conserva evidencia, detecta excepciones, propone una actuación y, al final, pregunta: ¿autoriza usted?

Ese cambio puede parecer una simple evolución del software administrativo. Creo que es más que eso, porque desplaza el punto exacto donde interviene el criterio humano.

Del funcionario que procesa al funcionario que gobierna excepciones

Pensemos en cómo funciona hoy una oficina que procesa miles de operaciones administrativas al día. Buena parte de ese trabajo atraviesa distintos escritorios porque se necesitan personas para comprobar requisitos, consultar sistemas, comparar documentos, elaborar proyectos de resolución y escalar decisiones cuando algo no encaja.

En una administración construida desde su origen alrededor de estas herramientas, gran parte de ese trabajo intermedio puede ocurrir de forma continua, sin que nadie tenga que moverlo manualmente de un escritorio a otro. La persona responsable no desaparece. Cambia radicalmente su función. En lugar de dedicar buena parte de su jornada a mover información entre sistemas, recibe el caso ya integrado: esto ocurrió, ésta es la información disponible, éstas son las reglas aplicables, ésta es la inconsistencia detectada, ésta es la actuación que se propone, ésta es la evidencia que la sustenta, éste es el grado de incertidumbre que todavía existe. Autorice, rechace, o pida más información.

El valor humano se desplaza del procesamiento al juicio. Y esa es, me parece, la diferencia fundamental: una administración inteligente no es aquella donde un algoritmo gobierna. Es aquella donde la tecnología elimina suficiente trabajo mecánico para que las personas puedan concentrarse precisamente en lo que solo una persona puede aportar: criterio, proporcionalidad, manejo de la excepción y responsabilidad.

De un Estado reactivo a uno preventivo

Actualmente buena parte de la relación entre una autoridad y quien administra ocurre cuando algo ya sucedió: se incumplió, se venció un plazo, faltó un documento, llegó un requerimiento, se impuso una sanción. Una administración inteligente podría empezar antes: detectar una inconsistencia y advertirla, identificar la información faltante y solicitarla, preparar automáticamente lo que ya conoce, explicar una consecuencia antes de que se materialice, y escalar a una persona solamente los casos donde exista controversia real, riesgo o necesidad de criterio.

Un Estado inteligente, bajo esta lógica, no es simplemente uno que fiscaliza más rápido. Es uno que necesita fiscalizar menos, porque consiguió prevenir más.

La reciprocidad no puede quedar como aspiración

Aquí llego al punto que considero más importante de esta entrega, y también el más incómodo. He escrito, y sigo pensando, que si una autoridad va a incrementar extraordinariamente su capacidad para comprender a quien administra, esa capacidad tiene que funcionar en ambas direcciones: para detectar incumplimiento, pero también para facilitar el cumplimiento. Pero decirlo así, sin más, deja una pregunta sin responder: ¿por qué habría de ocurrir eso?

La capacidad de prevenir y la capacidad de fiscalizar son, en realidad, la misma capacidad. Un sistema que puede advertirte antes también puede alcanzarte mejor después. Y las instituciones, históricamente, desarrollan primero la dirección que les genera resultado inmediato —recaudación, sanción, control— y solo después, si acaso, la dirección que le ahorra tiempo al administrado. No hay ninguna ley natural que garantice lo contrario.

Por eso creo que la reciprocidad no puede depender de la buena voluntad institucional. Tiene que volverse exigible, de tres maneras concretas. Primero: si una autoridad ya posee un dato, volver a solicitarlo debería ser jurídicamente improcedente, no simplemente ineficiente —una diferencia que cambia por completo los incentivos para corregirlo. Segundo: si un sistema detectó una inconsistencia antes de que se convirtiera en sanción y no la advirtió, eso debería tener una consecuencia para la autoridad, no solo para quien terminó sancionado. Tercero, y quizás el más importante: la misma trazabilidad que permite auditar una actuación automatizada es exactamente la que permite comprobar si la capacidad preventiva del sistema se usó de verdad o simplemente se guardó. Sin ese mecanismo, ampliar la inteligencia de una autoridad solo termina ampliando su capacidad de sancionar, nunca su capacidad de ayudar a cumplir.

El contraargumento que hay que responder, no esquivar

Sería deshonesto presentar todo esto como una promesa sin matices. La objeción más seria en contra de este planteamiento es real y merece respuesta directa: la fiscalización predictiva, en un contexto donde las garantías procesales del administrado son débiles, puede aumentar la arbitrariedad en lugar de reducirla. Un sistema que anticipa riesgos con base en patrones históricos puede terminar señalando de forma desproporcionada a quien ya estaba en desventaja, y hacerlo con la apariencia de objetividad que da un algoritmo, que suele ser más difícil de cuestionar que la discrecionalidad humana que sustituye.

No creo que la respuesta a esto sea detener el avance de estas herramientas. Creo que es exactamente lo contrario de lo que suele proponerse: cuanto mayor es la capacidad de automatización, más clara —no más difusa— tiene que volverse la frontera humana. Trazabilidad completa de cómo se generó cada señal de riesgo. Mecanismos explícitos de impugnación, accesibles y no solo teóricos. Versionamiento de los criterios y modelos usados, para poder cuestionar exactamente cuál se aplicó y por qué en cada caso. Y una regla que no debería tener excepción: ninguna decisión automatizada que afecte derechos de una persona puede convertirse en una caja negra irreversible. La fiscalización predictiva no es peligrosa por ser predictiva. Es peligrosa cuando se construye sin ninguna de estas condiciones.

Lo que queda para las personas

Si algo de todo esto tiene un límite claro, es que el trabajo humano no desaparece: se concentra en cuatro funciones que ninguna máquina puede asumir por su cuenta. Definir los objetivos que el sistema debe perseguir. Establecer los límites dentro de los cuales puede actuar. Resolver las excepciones que el sistema, correctamente, decide no resolver solo. Y asumir la responsabilidad final de lo que ocurrió.

Eso aplica exactamente igual para quien dirige las finanzas de una empresa que para quien encabeza una dependencia pública. La pregunta que de verdad importa, entonces, no es cuánto trabajo estamos dispuestos a entregarle a las máquinas. Es cuánto trabajo innecesario podemos por fin retirarle a las personas, para devolverles la parte que nunca debimos haber automatizado en primer lugar.

La tercera y última entrega de esta serie trata sobre una distinción que, creo, va a separar a quienes ganen ventaja real con estas tecnologías de quienes solo las hayan comprado: la diferencia entre consumir inteligencia artificial y construir capacidad real alrededor de ella.