1. De la Comparación Simétrica a la Cadena — Por Qué "Humano vs. IA" Es la Unidad de Análisis Equivocada

La objeción más recurrente entre las cinco revisiones adversariales reunidas para este artículo no apunta a ningún componente individual de la LME — apunta a la propia arquitectura de la comparación. Formulada con más precisión por una de ellas: si el humano recibe un ambiente y puede modificarlo mediante la decisión, y el LLM, aisladamente, no, entonces colocar $R_{s_{humano}}$ y $R_{s_{IA}}$ lado a lado — como si, por sí solos, constituyeran evaluaciones paralelas y suficientes de la calidad de dos elementos situados de modo equivalente en la cadena causal — presupone una equivalencia estructural que la mayor parte de los sistemas reales simplemente no tiene. En los sistemas humano-en-el-bucle que este artículo considera, la IA recomienda — o prioriza, señala, propone — y el supervisor humano conserva la decisión final, aceptando, modificando o rechazando esa salida. El objeto verdadero no es Humano vs. IA — es Humano + IA + Ambiente, y tratarlo como una comparación binaria es, literalmente, comparar entidades que ocupan posiciones distintas en la cadena causal que une el ambiente con la consecuencia.

Esta objeción tiene más alcance de lo que podría parecer a primera vista, porque no afecta solo a los intentos más recientes de auditar la decisión algorítmica — atraviesa también buena parte de la literatura establecida sobre algorithm aversion y appreciation. Esa literatura mide, típicamente, aceptación, confianza o el peso atribuido al consejo algorítmico — variables indispensables para comprender la reliance humana —, sin formalizar la estructura de dos etapas, pista ambiental → recomendación → decisión, que la propia noción de "consejo" ya implica. Cuando Kaufmann y colaboradores (2023) proponen situar cada tarea de consejo algorítmico en el continuo intuición-análisis de la CCT, lo que está implícitamente en juego es precisamente esta estructura en dos etapas; pero la propuesta permanece en el nivel de la receptividad al consejo, no en el de auditar formalmente la cadena que une el ambiente, la recomendación y la decisión final.

Existe, no obstante, un precedente formal más cercano, y conviene empezar por él antes de proponer una extensión: el Bifocal Lens Model Equation de Beckstead (2017). Beckstead enfrenta un problema estructuralmente análogo dentro del juicio clínico — la distancia entre la evaluación de riesgo que un médico produce y la decisión de intervención que ese mismo médico toma a continuación. Su solución es descomponer el juicio clínico en dos capas vinculadas, cada una con su propia LME, permitiendo preguntar por separado "¿evalúa bien el riesgo el médico?" y "¿convierte el médico ese riesgo en la decisión clínica correcta?" — dos preguntas que la LME clásica, de una sola capa, colapsa en una.

El Bifocal LME es el precedente correcto, pero resuelve un problema distinto del que aquí se propone. En Beckstead, las dos capas pertenecen al mismo agente — es el mismo médico quien evalúa el riesgo y quien después decide la intervención; la "bifocalidad" está en la tarea, no en el número de agentes involucrados. El problema que plantean las cinco revisiones es distinto: no es un único agente realizando dos juicios sucesivos, son dos políticas de respuesta diferentes — una política algorítmica observable y la política de decisión de un supervisor humano — en las que la salida de la primera se convierte, ella misma, en una pista de entrada para la segunda, y solo la decisión de la segunda se cierra sobre el ambiente real. La extensión propuesta en este artículo hereda la lógica de dos capas de Beckstead, pero cambia lo que cada capa representa: no dos tareas del mismo agente, sino dos políticas de respuesta distintas, encadenadas en serie, en las que la salida de la primera funciona como pista de entrada de la segunda — y, de forma crítica, con la relación entre la decisión final y el criterio ambiental situada explícitamente en el cierre de la cadena. El BiLME de Beckstead fue concebido para descomponer la cohesión entre juicio clínico y decisión de tratamiento, no para modelar la propagación de una recomendación producida por otro agente, ni los efectos posteriores de la decisión sobre el ambiente — es esa diferencia de objetivo formal, más que cualquier limitación temporal del diseño original, lo que justifica la extensión.

Esta reformulación ya estaba latente en el artículo anterior de esta serie, aunque no formalizada: allí, el supervisor humano se describía como "juez del juez" — un sistema de evaluación que recibe, a través de paneles y alertas, pistas sobre el desempeño de un ciclo ciber-físico que él mismo no observa directamente. Lo que faltaba — y es la contribución arquitectónica de este artículo — era dar a esa intuición una forma analítica que permitiera separar las etapas de la cadena y formular hipótesis diagnósticas sobre dónde se degrada la correspondencia pista-criterio: en la política algorítmica, en la integración humana de la recomendación, o en la propia definición del criterio. No se afirma, por tanto, que la cadena ya disponga de una descomposición algebraica única, análoga a la LME clásica; se afirma que suministra la unidad de análisis necesaria para hacer posible esa auditoría. Es esa arquitectura la que formaliza la sección siguiente.