2. Las Cuatro Arquitecturas — Configuraciones de Autoridad, No Puntos en una Escala

La Sección 1.2 prometió que las cuatro arquitecturas no serían puntos en una única escala de "cuánto automatizar", sino configuraciones distintas de autoridad a lo largo de las cuatro etapas funcionales de Parasuraman, Sheridan y Wickens. Esta sección cumple esa promesa separando, en cada arquitectura, quién selecciona una acción candidata, quién la autoriza, y quién la implementa. Estas tres operaciones no coinciden necesariamente en la misma persona ni en el mismo momento, y confundirlas borra exactamente la granularidad que la Sección 1.2 importó de Parasuraman, Sheridan y Wickens.

La cadena formal del Artículo 5 —$\text{Ambiente} \rightarrow \text{IA} \rightarrow \text{Humano} \rightarrow \text{Ambiente}$— se construyó para introducir los dos Lens Models y la mediación de la recomendación. Aquí, el objeto central es otro: quién puede actuar, y quién puede impedirlo. Por eso, esta sección usa una cadena más explícita, con la acción como eslabón propio:

$$\text{Ambiente} \rightarrow \text{IA} \rightarrow \text{Decisión Humana} \rightarrow \text{Acción} \rightarrow Y_e$$

Una nota metodológica que la tabla por sí sola no transmite: en humano-sobre-el-bucle y autonomía operacional delimitada, la IA nunca "autoriza" la acción —la autorización relevante fue concedida antes, por una persona u organización, al definir la envolvente operacional. La política algorítmica selecciona o desencadena la acción individual dentro de esa delegación. En autonomía humana asistida, en cambio, la separación entre "selección" y "autorización" que la tabla mantiene para las otras tres arquitecturas colapsa: es la misma decisión humana la que selecciona y autoriza, en un único acto —lo que distingue claramente esta arquitectura de humano-en-el-bucle, donde la selección algorítmica y la autorización humana son verdaderamente dos actos separados, realizados por agentes diferentes.

La diferencia entre la primera y la segunda fila de esta tabla merece decirse en prosa: en autonomía humana asistida, la recomendación de la IA entra como una pista entre otras en un juicio humano que inicia la selección de la acción. En humano-en-el-bucle, la política algorítmica presenta una propuesta concreta, estableciendo una opción de partida que el supervisor puede aprobar, rechazar o modificar. Esta diferencia no elimina necesariamente la integración humana de pistas —un sistema humano-en-el-bucle puede poner a disposición del supervisor las pistas directas, la evolución temporal de las señales, alternativas de acción, la incertidumbre estimada, y la posibilidad de alterar la propuesta, no solo aceptarla o rechazarla. Lo que la diferencia desplaza es la arquitectura cognitiva de la elección: la propuesta de la IA funciona como ancla y encuadre, haciendo la deliberación humana más vulnerable a la aprobación rutinaria precisamente cuando la interfaz no ofrece contexto, alternativas y autoridad sustantiva. La degradación hacia una tarea de confirmación binaria no es, por tanto, una propiedad definicional de humano-en-el-bucle —es un riesgo de diseño, y una instancia específica del desacoplamiento supervisor ya definido en la Sección 1.4.

2.1. Autonomía Humana Asistida

Esta es la arquitectura a la que la cadena de dos Lens Models del Artículo 5 se aplica más directamente —pero "más directamente" no significa "sin condiciones". La auditoría vía $G_{humano}$ agregado y los pesos condicionales $\hat{w}_{Z_j}$ presupone que: el supervisor recibe un conjunto observable de pistas; las pistas directas y la recomendación algorítmica están registradas; la decisión humana tiene una forma modelable; el criterio está suficientemente definido; y la acción no vuelve trivialmente endógeno el criterio observado —esta última condición se retomará, en sus formas débil y fuerte, en la Sección 3 del Artículo 5. Cuando estas condiciones se cumplen, el output de la IA puede modelarse como $Z_{IA}$, junto a las pistas directas disponibles para el supervisor.

Existe un vínculo natural entre una ventana temporal corta, un elevado número de pistas, y una recomendación saliente —pero la consecuencia no es inevitablemente over-reliance. Es una hipótesis diagnóstica entre varias: el resultado puede ser también infraponderación de la recomendación, atención excesiva a una pista ambiental saliente, retrasos de decisión, o delegación selectiva solo en ciertos regímenes. La ventana temporal corta puede aumentar el riesgo de que la recomendación se convierta en un ancla decisoria desproporcionada —hipótesis que el Artículo 5 permite examinar a través del peso condicional atribuido a $Z_{IA}$, de la consistencia de la política humana, y de los patrones de aceptación, modificación o rechazo, no mediante una deducción automática a partir de la estructura de la tarea.

2.2. Humano-en-el-Bucle

Esta arquitectura puede reducir el tiempo necesario para iniciar una decisión, porque la política algorítmica presenta una opción concreta de partida. Esa eficiencia, sin embargo, solo se realiza de forma legítima si el supervisor sigue recibiendo contexto suficiente, alternativas efectivas, y autoridad sustantiva para modificar o rechazar la propuesta —no es una propiedad automática de la arquitectura, es una condición de diseño que la interfaz debe cumplir.

En los términos de Sterz et al. (2024), la supervisión eficaz exige poder causal, acceso epistémico, autocontrol, e intenciones adecuadas al papel de supervisión; una aprobación humana solo mitiga el riesgo si el supervisor puede comprender la situación, cuestionar la propuesta, y ejecutar una trayectoria alternativa de acción. La aprobación automática y rutinaria no debe atribuirse, de forma aislada, a un fallo de autocontrol. Puede resultar de cualquier combinación entre: falta de poder causal para alterar la propuesta presentada; acceso insuficiente a las pistas necesarias para evaluarla; fatiga, presión temporal, o carga de trabajo excesiva; incentivos organizacionales que recompensan la aprobación rápida; competencia insuficiente para evaluar la decisión; ausencia de alternativas visibles en la interfaz; o un diseño de interfaz que presenta la recomendación como inevitable. La auditoría de esta arquitectura no debe, por tanto, buscar una causa única para la aprobación rutinaria, sino probar cada una de estas hipótesis por separado.

Un indicador de auditoría relevante, pero que exige calificación: una tasa de aprobación cercana al 100%, de forma aislada, no prueba desacoplamiento —la IA puede estar bien calibrada, o las propuestas pueden ser genuinamente de bajo riesgo. Solo se convierte en una señal a investigar cuando se combina con tiempos de decisión muy cortos, ausencia de modificaciones a las propuestas, y baja capacidad de detección de propuestas erróneas en pruebas controladas o en auditoría retrospectiva.

2.3. Humano-sobre-el-Bucle

Las cuatro etapas funcionales se automatizan por defecto —la IA detecta, analiza, decide y actúa sin esperar autorización previa— y la autoridad humana pasa a ejercerse por excepción: vetar, suspender o reconfigurar dentro de una ventana de intervención. La cadena de intervención humana no es, sin embargo, equivalente a la cadena de la Sección 2.1 —se observa solo en los episodios que activan alerta, sospecha, discrepancia o iniciativa supervisora. Su auditoría exige, por ello, tratar explícitamente la selección de los casos de intervención: los datos de intervención no representan la distribución íntegra de casos que la IA resolvió autónomamente, y generalizar a partir de ellos sin reconocer esa selección es un error de muestreo, no de teoría.

Más fundamentalmente, el veto solo es real si puede ocurrir antes del umbral relevante de irreversibilidad:

$$t_{\text{hasta irreversibilidad}} > t_{\text{detección}} + t_{\text{comprensión}} + t_{\text{decisión}} + t_{\text{intervención}}$$

—donde cada término incluye, implícitamente, la latencia de sensores, de comunicación, de alerta, y de transmisión del propio comando de intervención. Esta condición es necesaria, pero no suficiente: incluso cuando la ventana temporal permite la intervención, el control humano solo es efectivo si el supervisor dispone también de acceso epistémico, competencia, autoridad causal, y carga de trabajo compatible —los otros cuatro factores ya definidos en la Sección 1.4. Cuando la desigualdad temporal falla, el sistema puede mantener una interfaz de override, pero no mantiene control humano operacional —solo hay registro posterior o gobernanza diferida. Esta condición es consistente con la preocupación central de la ironía de Bainbridge, entendida como continuidad conceptual y no como atribución literal: una arquitectura puede exigir del humano una competencia de recuperación precisamente después de que la operación normal haya reducido las oportunidades para ejercitar y preservar esa competencia.

2.4. Autonomía Operacional Delimitada

La presencia humana se desplaza por completo fuera del ciclo de decisión individual y pasa a residir en la definición de la envolvente operacional, en la validación del sistema antes del deployment, en el mantenimiento y calibración de los sensores, y en la gobernanza continua. La cadena operacional mantiene la forma $E \rightarrow D_{IA} \rightarrow A_{IA} \rightarrow Y_e$, sin el segundo Lens Model del Artículo 5 y sin interrupción prevista caso por caso.

Esto no vuelve inmune a la auditoría a esta arquitectura —solo desplaza lo que se audita, de decisión a frontera. Pero la "auditoría de frontera" no se agota en medir con qué frecuencia la operación se acerca a sus umbrales. Un sistema puede fallar dentro de la envolvente, sin acercarse nunca a un umbral definido, porque los sensores se degradaron, la relación pista-criterio cambió, surgió un nuevo modo de fallo, la acción dejó de producir el efecto físico esperado, o la distribución de los datos se alteró sin cruzar ninguna frontera explícita. La auditoría de frontera debe evaluar, como mínimo:

Esta arquitectura sigue permitiendo una descripción de una sola etapa de la relación entre política algorítmica, acción y desenlace observado —pero la interpretación del achievement se vuelve, aun así, especialmente delicada cuando la acción altera el propio $Y_e$. Este problema no es exclusivo de la autonomía operacional delimitada: cualquier intervención, humana o algorítmica, puede endogeneizar el criterio contra el que se evalúa —una parada humana de una máquina previene el fallo exactamente igual que una parada automática. Lo que cambia en esta arquitectura no es la probabilidad de endogeneidad, sino la dificultad de desenmarañarla: sin mediación humana caso por caso, y sin la heterogeneidad de juicio que distintos supervisores introducirían entre sí —la misma heterogeneidad que Kleinberg et al. (2018) explotaron como instrumento de identificación en el Artículo 5—, resulta estructuralmente más difícil separar la calidad de la política algorítmica, el efecto causal de la propia acción, la selección de los casos en que la acción ocurrió, y la alteración del criterio por el control ejercido. Es esta ausencia de variación natural, no una mayor propensión inherente a la endogeneidad, lo que hace de esta arquitectura la más exigente de auditar —y lo que este artículo señala como una extensión por desarrollar, no como un instrumento ya disponible.

2.5. Una Dimensión Transversal: Recuperabilidad

La dimensión que atraviesa las cuatro arquitecturas no es la reversibilidad de la acción, entendida como una propiedad única y abstracta, sino la recuperabilidad del sistema —la capacidad de deshacer, compensar, o contener los efectos de una acción antes de que ocurra un daño irreversible. Esta no es una contribución original de este artículo; es, más bien, una consideración ya consolidada en frameworks prácticos de control de autonomía de sistemas de IA, aunque no siempre integrada de forma sistemática en la literatura académica que cruza la CCT, la arquitectura de autoridad, y la auditoría ecológica —es precisamente esa integración, no el descubrimiento del principio, lo que este artículo propone. Su relevancia aquí exige, sin embargo, distinguir varios sentidos que la palabra "reversible" confunde con frecuencia:

Reducir la carga de un motor puede ser trivialmente reversible como comando, y aun así económicamente irreversible por la producción perdida. Detener una línea puede ser reversible como acción técnica, pero peligrosa o costosa según el estado del proceso en el momento de la parada. La autonomía operacional delimitada es más defendible cuando las acciones autorizadas son recuperables en estos múltiples sentidos dentro de la ventana relevante, cuando existe un fallback seguro, y cuando el coste de un falso positivo permanece proporcional al riesgo evitado —no cuando la acción es, en abstracto, "reversible".

---

Con las cuatro arquitecturas formalmente definidas, la Sección 3 puede ahora retomar la pregunta dejada abierta desde la Sección 1: ¿cómo deben las propiedades de la tarea condicionar la distribución de autoridad? La hipótesis central no es que las tareas más analíticas produzcan automáticamente desacoplamiento supervisor —una tarea puede ser altamente estructurada, medible, descomponible y validada, y en ese caso la autonomía operacional delimitada puede ser enteramente adecuada, sin que exista siquiera expectativa de intervención humana caso por caso que pueda desacoplarse. El riesgo surge, más bien, de una conjunción específica de cuatro condiciones: automatización fiable en la rutina, intervención humana rara, responsabilidad humana residual, y excepciones críticas, opacas o temporalmente exigentes. Es en esa combinación —no en la "analiticidad" de la tarea de forma aislada— donde el desacoplamiento supervisor se vuelve más silencioso y más difícil de detectar.