Arquitectura Formal de la Cadena

La comparación simétrica entre el juicio humano y el juicio de la IA — colocar lado a lado un $R_s$ del juez humano y un $R_s$ del sistema, como si fueran dos estimaciones del mismo tipo de magnitud observadas en posiciones equivalentes de la cadena causal — falla por una razón estructural que ninguna corrección estadística resuelve: el humano y la IA no ocupan, típicamente, el mismo lugar entre el ambiente y la consecuencia. El humano recibe pistas del ambiente y puede, típicamente, actuar directamente sobre él; la IA recibe pistas del ambiente y produce una recomendación que solo se convierte en acción a través de un humano que la acepta, modifica o rechaza. Escrito de forma minimalista, el primer caso es Humano → Ambiente; el segundo es IA → Humano → Ambiente. Tratar estas dos cadenas como comparables término a término es imponer una simetría que la propia arquitectura del sistema ya desmiente.

La alternativa que aquí se propone no abandona el aparato formal de Brunswik — al contrario, lo extiende, encadenando dos lens models sucesivos en lugar de comparar dos aislados:

$$\text{Ambiente} \xrightarrow{\text{Lens Model 1}} \text{Output de la IA} \xrightarrow{\text{Lens Model 2}} \text{Decisión Humana} \xrightarrow{} \text{Ambiente} \; (Y_e)$$

Adoptamos la notación clásica del Lens Model, donde $R_e$ mide la previsibilidad lineal del criterio distal a partir de las pistas disponibles, $R_s$ la consistencia de la política de respuesta del agente — el grado en que sus respuestas son previsibles a partir de las pistas — y $G$ el matching entre los componentes linealmente predichos de los modelos del ambiente y del agente: técnicamente, $G = \operatorname{corr}(\hat{Y}_e, \hat{Y}_s)$, la correlación entre los valores previstos por los dos modelos lineales, no una comparación directa de sus vectores de pesos. A lo largo de este artículo, leemos $G$ informalmente como "correspondencia de ponderación de pistas" — pero esa lectura es una abreviatura interpretativa que solo se sostiene bajo condiciones adicionales (especificación común de los modelos, escala comparable, tratamiento de la correlación entre pistas); bajo colinealidad fuerte, vectores de pesos muy diferentes pueden generar predicciones semejantes, y viceversa. El término $C$, ya definido en la Sección 0, capta la correlación residual entre los residuos de los dos modelos — nunca la consistencia del agente, que es el papel de $R_s$.

En la primera etapa, el sistema de IA ocupa la posición del juez brunswikiano clásico: recibe un conjunto de pistas del ambiente — lecturas de sensores, series temporales, señales derivadas — y produce un juicio sobre ese ambiente. Esta etapa admite la descomposición habitual: $R_{e_1}$ mide la previsibilidad del ambiente dado el conjunto de pistas disponible para la IA; $G_{IA}$ mide el matching entre los componentes linealmente predichos del modelo de la IA y del modelo ecológico — interpretativamente, en qué medida la política observable del sistema se alinea con la estructura de pistas que predice el criterio; $R_{s_{IA}}$ mide el grado en que el output del sistema es previsible a partir del conjunto de pistas modelado. Pruebas de invariancia a paráfrasis o a configuraciones semánticamente equivalentes de las mismas pistas pueden complementar esta medida — en particular como salvaguarda frente a un $R_s$ inflado únicamente por decodificación determinista —, pero no son idénticas a ella. Vale la pena una nota de lenguaje que no es decorativa: llamamos aquí a $R_{s_{IA}}$ la consistencia de una política de decisión observable input-output, nunca la "consistencia del juez IA" — la diferencia de vocabulario es precisamente lo que evita reimportar, por la puerta trasera, la presuposición de agencia cognitiva que la objeción ontológica identifica como ilegítima. No se afirma que el sistema juzgue; se afirma únicamente que su comportamiento input-output exhibe, o no, las propiedades estadísticas que esta descomposición describe.

Es en la segunda etapa donde la cadena deja de ser una mera repetición de la primera. El output de la IA — la recomendación, el score de confianza, el informe generado — no es, para el humano, el criterio distal a inferir; es, en sí mismo, una pista proximal adicional, situada junto a las otras pistas que llegan directamente del ambiente a través del panel de supervisión. En el Lens Model 2, tratamos el output de la IA como una pista adicional $Z_{IA}$ dentro del conjunto de pistas $\{Z_1, \ldots, Z_k, Z_{IA}\}$ disponible para el supervisor. El humano forma su juicio a partir de esta pista compuesta. La misma familia de parámetros puede estimarse en la segunda etapa, aunque su interpretación es distinta porque $Z_{IA}$ es una pista producida por una etapa anterior de la cadena, no una medición directa del ambiente: $R_{e_2}$ mide la previsibilidad del criterio distal dado el conjunto de pistas disponible para el humano, incluyendo $Z_{IA}$; $R_{s_{humano}}$ mide la consistencia de la política de respuesta del supervisor; $G_{humano}$ mide el matching entre los componentes linealmente predichos de la política del humano y del modelo ecológico, considerando el conjunto de pistas — incluyendo $Z_{IA}$.

Es precisamente aquí, en esta distinción entre fiabilidad real y fiabilidad percibida, donde el sesgo de automatización y la complacencia ya identificados en el artículo anterior encuentran, por primera vez, una expresión formal. La sobredependencia (over-reliance) de la recomendación de la IA no se mide al nivel del $G_{humano}$ global, sino al nivel del peso específico $\hat{w}_{Z_{IA}}$ atribuido a la pista $Z_{IA}$ en la política de regresión del humano. Esta comparación exige una calificación que no es decorativa: como $Z_{IA}$ se deriva típicamente, al menos en parte, de las mismas pistas ambientales que el humano ya observa directamente, $\hat{w}_{Z_{IA}}$ es un coeficiente condicional — su valor depende de la colinealidad entre $Z_{IA}$ y las restantes pistas, y de la especificación exacta del modelo. La sobredependencia debe, por tanto, evaluarse al nivel de la utilización condicional de $Z_{IA}$: el peso $\hat{w}_{Z_{IA}}$ estimado en la política del supervisor, frente al valor incremental ecológicamente válido de $Z_{IA}$, condicionado al mismo conjunto de pistas directas del que deriva la recomendación. Un $\hat{w}_{Z_{IA}}$ sistemáticamente superior a ese peso ecológico condicional es evidencia de sobreponderación; un valor sistemáticamente inferior es evidencia de infraponderación. La lectura correcta es, por tanto: la sobredependencia es un fenómeno al nivel de los pesos condicionales de las pistas, no al nivel del matching global capturado por $G_{humano}$.

Esta distinción entre correspondencia agregada y correspondencia al nivel de la pista individual invita a separar explícitamente dos modos de fallo en el Lens Model 2, que la literatura de human-AI teaming trata frecuentemente como un fenómeno único, pero que la descomposición aquí propuesta permite distinguir con precisión. El fallo de matching agregado ocurre cuando $G_{humano}$ es globalmente bajo — el supervisor no acierta, en su conjunto, la estructura de pesos del ambiente, distribuyendo mal su atención entre todas las pistas disponibles, incluyendo pero no exclusivamente $Z_{IA}$. Es el tipo de fallo que un panel de auditoría convencional, reportando solo $G_{humano}$, está bien equipado para detectar.

El fallo de ponderación localizada es estructuralmente diferente y más insidioso: el supervisor acierta razonablemente la estructura global de pesos — $G_{humano}$ permanece moderado o incluso alto — pero distorsiona sistemáticamente el peso condicional atribuido a una única pista, típicamente $Z_{IA}$, compensando ese desvío mediante ajustes en las restantes. Un supervisor que sobrepondera consistentemente la recomendación de la IA pero compensa infraponderando pistas ambientales directas puede producir un $G_{humano}$ perfectamente saludable mientras acumula una dependencia estructural de la IA que solo se revela cuando esa compensación deja de ser posible — por ejemplo, ante un escenario fuera de la distribución habitual, en el que las pistas ambientales directas se vuelven menos informativas precisamente en el momento en que la fiabilidad de la recomendación de la IA también se degrada. Este es, en lenguaje de seguridad de sistemas, un fallo correlacionado y latente: invisible al indicador agregado hasta el momento en que las condiciones que lo enmascaraban dejan de cumplirse.

La implicación para el diseño de la herramienta de auditoría es directa, y no meramente académica: un informe de auditoría que reporte solo $G_{humano}$ es estructuralmente insuficiente para detectar la sobredependencia latente. La auditoría propuesta en este artículo exige, por construcción, el reporte de los pesos condicionales $\hat{w}_{Z_j}$ por pista individual — no solo el matching agregado — precisamente porque es al nivel de la pista, y no al nivel del resumen, donde la dependencia excesiva de la recomendación algorítmica se vuelve visible antes de volverse consecuente.

El cierre de la cadena es lo que esta arquitectura gana, y lo que la comparación simétrica nunca podría ofrecer — no una descomposición algebraica ya derivada del achievement conjunto, $Y_e$, sino la posibilidad de formular hipótesis diagnósticas separables sobre dónde comenzó a fallar la correspondencia con el ambiente real. Entre las más centrales: (1) $G_{IA}$ bajo — la IA no corresponde a la estructura real del ambiente; (2) $G_{humano}$ bajo — fallo de matching agregado en la etapa humana; (3) $\hat{w}_{Z_{IA}}$ desalineado del peso ecológico condicional de $Z_{IA}$, con $G_{humano}$ preservado — fallo de ponderación localizada, compatible con sobredependencia o infradependencia; (4) un criterio mal definido, inobservable o endógeno desde el principio, cuya discusión — en sus formas débil y fuerte — es el tema de la sección siguiente. Esta lista no es exhaustiva: $R_{e_1}$ bajo (ambiente poco previsible a partir de las pistas de la IA), $R_{s_{IA}}$ bajo (política del sistema inestable), $R_{s_{humano}}$ bajo (supervisor inconsistente) y los componentes residuales $C$ de cada etapa siguen siendo dimensiones diagnósticas relevantes que una auditoría completa también debe reportar.

Vale la pena señalar aquí, aunque su desarrollo quede para la sección siguiente: la flecha final, de la Decisión Humana a $Y_e$, debe leerse como una relación causal potencial, no como garantía de que el desenlace observado es un criterio exógeno y limpio. Cuando la acción tomada modifica el propio desenlace que sirve para evaluarla — detener una máquina puede ser precisamente lo que impide el fallo que serviría de criterio —, $Y_e$ deja de ser un criterio simple de achievement.

Formalmente, el achievement de la cadena es $r_a = \operatorname{corr}(Y_e, Y_{s_{humano}})$. La LME clásica se aplica a cada etapa de forma aislada; una extensión de la ecuación a dos etapas encadenadas, en las que el output de la primera se convierte en pista de la segunda, no ha sido, hasta la fecha, derivada en la literatura. La intuición estructural es que la introducción de $Z_{IA}$ puede alterar la previsibilidad del criterio en la segunda etapa, $R_{e_2}$ — que sigue siendo propiedad del conjunto entero de pistas disponible para el humano, no solo de $Z_{IA}$ aisladamente —, pero el efecto de esa introducción depende tanto de la calidad predictiva del output de la IA en la primera etapa (implicando no solo $G_{IA}$ y $R_{s_{IA}}$, sino también $R_{e_1}$ y, cuando sea relevante, $C_{IA}$) como de la información incremental que $Z_{IA}$ añade frente a las pistas directas ya accesibles para el supervisor — información que puede ser pequeña si $Z_{IA}$ es altamente redundante con esas pistas. Esta relación permanece, por ahora, cualitativa.

La pregunta que esta arquitectura permite formular no es "¿quién juzga mejor, el humano o la IA?" — pregunta que las cinco críticas reunidas muestran estar mal planteada — sino más bien: "¿en qué eslabón de esta cadena particular, para este sistema particular, la correspondencia con el ambiente real comenzó a fallar?"

Queda deliberadamente sin resolver en esta sección la cuestión de si $G_{humano}$ y los pesos condicionales $\hat{w}_{Z_j}$ son siquiera estimables en la práctica sin un historial suficientemente largo y suficientemente variado de decisiones del supervisor — un problema de datos, no de teoría, particularmente agudo en dominios de alto riesgo donde los eventos críticos son raros.