1. De la Comparación Simétrica a la Cadena — Por Qué "Humano vs. IA" Es la Unidad de Análisis Equivocada
La objeción más recurrente entre las cinco revisiones adversariales reunidas para este artículo no recae sobre ninguno de los componentes individuales de la LME — recae sobre la propia arquitectura de la comparación. Formulada con mayor precisión por una de ellas: si el humano recibe un ambiente y puede modificarlo a través de la decisión, y el LLM, aisladamente, no, entonces colocar y uno al lado del otro — como si, por sí solos, constituyeran evaluaciones paralelas y suficientes de la calidad de dos elementos situados de modo equivalente en la cadena causal — presupone una equivalencia estructural que la mayoría de los sistemas reales simplemente no tiene. En los sistemas humano-en-el-bucle que este artículo considera, la IA recomienda — o prioriza, señala, propone — y el supervisor humano conserva la decisión final, aceptando, modificando o rechazando esa salida. El objeto verdadero no es Humano vs. IA — es Humano + IA + Ambiente, y tratarlo como una comparación binaria es, literalmente, comparar entidades que ocupan posiciones diferentes en la cadena causal que une el ambiente a la consecuencia.
Esta objeción tiene más alcance del que podría parecer a primera vista, porque no afecta solo a los intentos más recientes de auditar la decisión algorítmica — atraviesa también buena parte de la literatura establecida sobre algorithm aversion y appreciation. Esa literatura mide, típicamente, aceptación, confianza o el peso atribuido al consejo algorítmico — variables indispensables para comprender la reliance humana —, sin formalizar la estructura de dos etapas, pista ambiental → recomendación → decisión, que la propia noción de "consejo" ya implica. Cuando Kaufmann y colaboradores (2023) proponen situar cada tarea de consejo algorítmico en el continuo intuición-análisis de la CCT, lo que está implícitamente en juego es precisamente esta estructura en dos etapas; pero la propuesta se queda al nivel de la receptividad al consejo, no al nivel de auditar formalmente la cadena que une el ambiente, la recomendación y la decisión final.
Existe, sin embargo, un precedente formal más cercano, y vale la pena empezar por él antes de proponer una extensión: la Bifocal Lens Model Equation de Beckstead (2017). Beckstead enfrenta un problema estructuralmente análogo dentro del juicio clínico — la distancia entre la evaluación de riesgo que un médico produce y la decisión de intervención que ese mismo médico toma posteriormente. Su solución es descomponer el juicio clínico en dos capas ligadas, cada una con su propia LME, permitiendo preguntar por separado "¿el médico evalúa bien el riesgo?" y "¿el médico convierte correctamente ese riesgo en la decisión clínica correcta?" — dos preguntas que la LME clásica, de una sola capa, colapsa en una.
La Bifocal LME es el precedente correcto, pero resuelve un problema distinto del que aquí se propone. En Beckstead, las dos capas pertenecen al mismo agente — es el mismo médico quien evalúa el riesgo y quien luego decide la intervención; la "bifocalidad" está en la tarea, no en el número de agentes involucrados. El problema que las cinco revisiones plantean es distinto: no es un único agente realizando dos juicios sucesivos, son dos políticas de respuesta diferentes — una política algorítmica observable y la política de decisión de un supervisor humano — en las que el output de la primera se convierte, él mismo, en una pista de entrada para la segunda, y solo la decisión de la segunda se cierra sobre el ambiente real. La extensión propuesta en este artículo hereda la lógica de dos capas de Beckstead, pero cambia lo que cada capa representa: no dos tareas del mismo agente, sino dos políticas de respuesta distintas, encadenadas en serie, en las que el output de la primera funciona como pista de entrada de la segunda — y, de manera crítica, con la relación entre la decisión final y el criterio ambiental colocada explícitamente en el cierre de la cadena. La BiLME de Beckstead fue concebida para descomponer la cohesión entre el juicio clínico y la decisión de tratamiento, no para modelar la propagación de una recomendación producida por otro agente, ni los efectos subsiguientes de la decisión sobre el ambiente — es esta diferencia de objetivo formal, más que cualquier limitación temporal del diseño original, la que justifica la extensión.
Esta reformulación ya estaba latente en el artículo anterior de esta serie, aunque no formalizada: allí, el supervisor humano era descrito como "juez del juez" — un sistema de revisión que recibe, a través de paneles y alertas, pistas sobre el desempeño de un ciclo ciberfísico que él mismo no observa directamente. Lo que faltaba — y es la contribución arquitectónica de este artículo — era dar a esa intuición una forma analítica que permitiera separar las etapas de la cadena y formular hipótesis diagnósticas sobre dónde se degrada la correspondencia pista-criterio: en la política algorítmica, en la integración humana de la recomendación, o en la propia definición del criterio. No se afirma, por tanto, que la cadena ya disponga de una descomposición algebraica única, análoga a la LME clásica; se afirma que proporciona la unidad de análisis necesaria para hacer posible esa auditoría. Es esa arquitectura la que la sección siguiente formaliza.