1. La Tradición Recibida — Genealogía, Vocabulario Multidimensional, Controversia, y el Límite entre Autoridad y Control
1.1. Genealogía
La idea de que los modos de cognición deben considerarse en el diseño de sistemas distribuidos no comienza con los sistemas AI-IoT. Hamm (1989) constituye un precedente conceptual confirmado: el título y el resumen accesibles de su trabajo establecen explícitamente que los modos de cognición deben considerarse en el diseño de sistemas que exigen decisión distribuida. El grado de solapamiento metodológico entre ese artículo y la propuesta presentada aquí permanece, sin embargo, indeterminado mientras no se examine el texto íntegro. La referencia aparece también en la bibliografía de Dhami y Thomson sobre la relevancia de la Cognitive Continuum Theory, lo que confirma su pertenencia a la genealogía reconocida de la tradición de Hammond, pero no permite reconstruir su argumento en detalle.
Ese precedente basta para fijar una frontera de originalidad. La contribución de este artículo no es afirmar, por primera vez, que los modos de cognición son relevantes para el diseño de sistemas de decisión distribuida. Ese vínculo general ya ha sido formulado. La contribución está en una operacionalización contemporánea para sistemas AI-IoT: traducir el perfil estructural de la tarea, definido por las propiedades de la Cognitive Continuum Theory, en una envolvente condicional de autonomía; distribuir autoridad entre la política algorítmica, el supervisor humano y los mecanismos físicos de seguridad; especificar disparadores de escalada, veto, suspensión y recuperación; y vincular posteriormente esa arquitectura a una auditoría ecológica de la cadena de decisión.
También Illankoon, Tretten y Kumar (2019) constituyen un antecedente relevante, aunque no idéntico. Los autores proponen un marco para comprender la cognición humana ante el comportamiento anómalo de máquinas, informado por teorías de cognición, conocimiento explícito e implícito, conciencia situacional y, entre otras referencias, por la Cognitive Continuum Theory. Su contribución confirma que la CCT es relevante para la interacción humano-máquina en mantenimiento y para la respuesta a anomalías técnicas. No sustituye, sin embargo, una clasificación explícita de tareas mediante las once propiedades estructurales de la CCT, ni una tipología de distribución de autoridad entre IA, humano y mecanismos de seguridad.
La distinción importa porque "considerar la cognición" es una fórmula demasiado amplia para orientar el diseño. Un sistema puede reconocer que el operador tiene limitaciones cognitivas y, aun así, limitarse a añadir más alertas, más dashboards o más explicaciones a una arquitectura cuya distribución de autoridad permanece mal definida. La pregunta de este artículo es más específica: dadas las propiedades estructurales de una tarea ciberfísica, ¿cuándo debe la IA limitarse a informar, cuándo debe proponer, cuándo puede actuar bajo veto, y cuándo —si acaso— puede operar sin intervención humana contemporánea?
La respuesta no es una atribución fija de competencias entre "humano" y "máquina". Es una arquitectura condicional, dependiente del régimen, del riesgo, del tiempo disponible, de la reversibilidad, de la calidad de los datos y de la capacidad real de recuperación.
1.2. Vocabulario Multidimensional
El vocabulario más influyente para describir estas elecciones se desarrolló en la tradición de los niveles de automatización. Parasuraman, Sheridan y Wickens (2000) propusieron un modelo que distingue cuatro etapas funcionales: adquisición de información, análisis de información, selección de decisión y acción, e implementación de la acción. La importancia duradera de ese modelo no reside únicamente en sus diez niveles de automatización, sino en el rechazo implícito de una idea demasiado simple: que un sistema pueda describirse mediante un único grado global de automatización.
La automatización no es una variable única. Un sistema puede automatizar casi por completo la adquisición de datos —recoger señales de sensores, filtrar ruido, sincronizar series temporales y detectar valores anómalos— pero dejar la interpretación al humano. Puede automatizar el análisis y la clasificación, pero exigir autorización humana antes de implementar la acción. Puede incluso automatizar una acción física estrictamente delimitada, como reducir la carga o detener una máquina ante un límite de seguridad, sin automatizar la decisión más amplia sobre mantenimiento, sustitución de equipo o reconfiguración del proceso.
Las cuatro arquitecturas propuestas más adelante no son, por tanto, cuatro puntos en una única escala de "cuánto automatizar". Son configuraciones de autoridad sobre la decisión y la acción, compatibles con diferentes grados de automatización en cada etapa funcional.
La genealogía de esta tradición se remonta a la llamada Fitts list, asociada al informe de Paul Fitts (1951) sobre ingeniería humana para la navegación aérea y el control de tráfico. La lista buscaba distribuir funciones a partir de capacidades comparadas entre humanos y máquinas. Esta lógica se conoció más tarde, de forma abreviada, como MABA-MABA —Men Are Better At / Machines Are Better At. La atribución debe, sin embargo, hacerse con cuidado: Fitts es el origen de la lista y de la lógica comparativa; no debe presentarse como autor del acrónimo posterior.
La influencia histórica de la lógica MABA-MABA no la vuelve suficiente. Dekker y Woods (2002) criticaron precisamente la idea de que la coordinación humano-automatización pudiera resolverse mediante una sustitución estática de funciones: identificar aquello en lo que los humanos serían mejores, identificar aquello en lo que las máquinas serían mejores, y dividir el trabajo en consecuencia. El problema no es solo que una tabla fija de competencias deje de funcionar cuando cambia el contexto. Es que la propia introducción de la automatización altera el trabajo humano que la tabla pretendía asignar. El operador deja de ejecutar directamente ciertas tareas y pasa a monitorizar, interpretar, confirmar, recuperar, gestionar excepciones y responder a fallos que el diseño anterior puede no haber previsto.
Es esa crítica la que justifica la arquitectura propuesta en este artículo. La pregunta no es simplemente "¿quién es mejor en esta tarea?". Es: "¿qué trabajo humano crea la automatización, en qué regímenes ese trabajo es viable, y qué autoridad debe conservar el humano cuando el sistema abandona el dominio para el que fue concebido?"
1.3. Controversia Interna
La tradición de los niveles de automatización no llega al Artículo 4 como un conjunto pacífico de resultados. Contiene una controversia empírica relevante sobre la relación entre grado de automatización, desempeño rutinario, conciencia situacional y desempeño ante el fallo.
Onnasch, Wickens, Li y Manzey (2014) realizaron un metaanálisis basado en datos de dieciocho experimentos. Encontraron que niveles más elevados de automatización tienden a mejorar el desempeño rutinario y a reducir la carga de trabajo cuando la automatización funciona correctamente, pero pueden perjudicar el desempeño cuando la automatización falla y reducir la conciencia situacional del operador. Este patrón se asoció a la metáfora del lumberjack effect: una automatización puede aumentar el desempeño mientras corta los "árboles" rutinarios, pero dejar al operador menos preparado para actuar cuando la herramienta falla o cuando la situación deja de ser rutinaria.
El resultado no debe convertirse en una ley simple contra la automatización. La propia literatura sugiere que los efectos dependen de la etapa funcional automatizada, del diseño de la interacción, de la fiabilidad del sistema, de la posibilidad de recuperación y de la naturaleza de la tarea. Existen indicios de que las consecuencias negativas son especialmente relevantes cuando la automatización cruza la frontera entre automatizar la adquisición o el análisis de información y automatizar la selección de decisión o acción. Esta posibilidad refuerza la tesis de este artículo: el problema no es solo cuánto automatizar; es qué automatizar, en qué etapa funcional, bajo qué condiciones de tarea y con qué capacidad de recuperación humana.
La generalización del lumberjack effect a entornos de trabajo complejos sigue siendo objeto de disputa. Jamieson y Skraaning cuestionaron si los trade-offs identificados en tareas más controladas o de laboratorio se transfieren directamente a contextos operacionales complejos. Wickens, Onnasch, Sebok y Manzey respondieron que el estudio crítico no ofrecía una prueba adecuada del efecto; Jamieson y Skraaning replicaron, defendiendo que los entornos de trabajo complejos son precisamente aquellos en los que la generalización necesita examinarse. La controversia posterior desplazó aún más la discusión hacia una cuestión conceptual anterior: Skraaning y Jamieson (2023) argumentaron que "fallo de automatización" se utiliza frecuentemente sin una definición suficientemente clara, dificultando la comparación entre estudios, sistemas e intervenciones.
La consecuencia para este artículo es directa. La tipología propuesta no resuelve la controversia sobre automatización y conciencia situacional; la hereda. Lo que puede hacer es hacer explícitas las condiciones bajo las cuales una determinada distribución de autoridad parece defendible y, después, exigir que esa elección se audite contra el comportamiento efectivo del sistema y contra el ambiente.
1.4. Autoridad Diseñada vs. Capacidad Supervisora Efectiva
Las tres subsecciones anteriores comparten un supuesto que ahora debe hacerse explícito y luego romperse: que la posición del humano en una arquitectura —"en el bucle", "sobre el bucle"— describe su relación real con el sistema. No la describe. Describe solo la relación pretendida.
Esta distinción tiene, afortunadamente, un anclaje académico directo y reciente. Sterz, Baum, Biewer, Hermanns, Lauber-Rönsberg, Meinel y Langer (2024), en un artículo publicado en la ACM Conference on Fairness, Accountability, and Transparency, proponen que la supervisión humana de sistemas de IA de alto riesgo solo es efectiva si el supervisor tiene: poder causal suficiente sobre el sistema y sus efectos; acceso epistémico adecuado a los aspectos relevantes de la situación; autocontrol; e intenciones adecuadas a su papel. Los autores argumentan que esto equivale a exigir que el supervisor sea moralmente responsable y tenga intenciones compatibles con esa responsabilidad —una supervisión nominalmente atribuida, pero desprovista de cualquiera de estas condiciones, no es supervisión, es ficción jurídica.
Este artículo propone una operacionalización de ingeniería de esas cuatro condiciones, orientada a sistemas ciberfísicos en tiempo real, y no pretende sustituirlas ni redescubrirlas: el poder causal de Sterz et al. corresponde, en el contexto operacional aquí tratado, a la autoridad real del supervisor para contrariar o suspender una acción; el acceso epistémico corresponde a la información disponible e interpretable en el momento de la decisión. A esta base se añaden dos dimensiones que la literatura de factores humanos en ambientes de alto riesgo ya trata como determinantes del desempeño supervisor, aunque las cuatro condiciones filosóficas de Sterz et al. no las aíslen como categorías propias: el tiempo disponible para percibir, decidir e intervenir —la misma dimensión que el metaanálisis de Onnasch et al. vincula a la conciencia situacional— y la carga de trabajo, entendida como el número de sistemas y alertas concurrentes bajo supervisión. Esta última dimensión, junto con la competencia para comprender la situación y la recomendación, corresponde de cerca a los Performance Influencing Factors ya establecidos en la ingeniería de seguridad de procesos industriales de alto riesgo —a saber, presión temporal, carga de trabajo y competencia— que operadores e ingenieros de mantenimiento en contextos como el de Argus ya reconocen de su propio vocabulario de seguridad.
El control humano efectivo depende, por tanto, conjuntamente de cinco factores —información, tiempo, competencia, autoridad, carga de trabajo—, sin que esto constituya una función matemática validada; es, en el mismo espíritu cualitativo de la ecuación de la cadena aún no derivada en el Artículo 5, una notación abreviada para una dependencia conjunta, no una fórmula a calcular. Una arquitectura formalmente humano-sobre-el-bucle solo es sustantivamente humano-sobre-el-bucle si estos cinco factores son, en conjunto, suficientes. Si uno de ellos falla de forma material —por ejemplo, si el tiempo hasta el daño es inferior al tiempo necesario para la detección, interpretación e intervención— el sistema entra en lo que este artículo denomina desacoplamiento supervisor: el fallo en el que el humano permanece formalmente responsable, pero deja de estar funcionalmente conectado al ciclo de percepción, interpretación, decisión e intervención.
Vale la pena señalar, además, que las dos últimas condiciones de Sterz et al. —autocontrol e intenciones adecuadas al papel— no son sustituidas por esta operacionalización, sino que encuentran una expresión empírica directa en la arquitectura de auditoría ya desarrollada en el Artículo 5: la distinción entre agregado y el peso condicional es, en rigor, una forma de medir precisamente si el autocontrol del supervisor ante la recomendación algorítmica se mantiene —la firma de over-reliance es, leída a la luz de Sterz et al., un fallo de autocontrol vuelto estadísticamente visible.
El desacoplamiento supervisor no es una quinta arquitectura. Es un modo de degradación transversal, que puede afectar a cualquiera de las arquitecturas formalmente concebidas para incluir supervisión humana —y es precisamente por poder ocurrir sin que nada en la arquitectura formal cambie que resulta tan difícil de detectar sin auditoría.
1.5. Posicionamiento y Transición
La postura adoptada aquí hace eco de la del Artículo 1 ante la tradición de Brunswik y de la del Artículo 3 ante la Cognitive Continuum Theory. La tradición de niveles de automatización, y ahora la literatura sobre la efectividad de la supervisión humana, se usarán como vocabulario compartido y como fuente de problemas bien formulados; no se tratarán como verdad validada ni como escala universal de madurez técnica.
La siguiente sección traduce este vocabulario en cuatro arquitecturas de autoridad: autonomía humana asistida —la IA informa, recomienda, prioriza o explica; el humano decide y actúa; humano-en-el-bucle —la IA propone; la acción exige autorización humana explícita; humano-sobre-el-bucle —la IA puede actuar dentro de una envolvente; el humano monitoriza y puede vetar, suspender o reconfigurar a tiempo; y autonomía operacional delimitada, también denominada humano-fuera-del-bucle por diseño —la IA actúa sin intervención humana contemporánea en decisiones individuales, dentro de un dominio operacional y de límites de seguridad explícitamente definidos. Cada arquitectura se definirá no solo por el grado abstracto de intervención humana, sino por quién recibe las pistas, quién puede autorizar una acción, quién la ejecuta, quién puede vetarla y quién responde cuando el sistema sale del régimen previsto —y cada una de ellas, independientemente de su diseño formal, permanece vulnerable al desacoplamiento supervisor definido más arriba.
En las arquitecturas de autonomía humana asistida y humano-en-el-bucle, la cadena central es
que el Artículo 5 formaliza y audita directamente. En la arquitectura humano-sobre-el-bucle, la cadena de acción por defecto es
pero puede interrumpirse, en cualquier momento dentro de la ventana disponible, mediante una cadena de intervención humana equivalente a la anterior. En la autonomía operacional delimitada, la cadena operacional se reduce a la misma forma sin interrupción prevista caso por caso, permaneciendo la presencia humana al nivel de la definición de la envolvente, la validación, el mantenimiento y la gobernanza —no de la decisión individual. Estas dos últimas arquitecturas exigen, por tanto, una extensión o una variante de la auditoría en cadena; no pueden tratarse como aplicaciones mecánicas del modelo de dos etapas desarrollado en el Artículo 5.
Reconocer este límite no debilita la tipología. Al contrario: impide que "supervisión humana" se invoque como una etiqueta cómoda cuando, en la práctica, la persona ya no posee autoridad decisoria contemporánea sobre la acción del sistema —y prepara el terreno para la Sección 3, donde el desacoplamiento supervisor aquí definido se convierte en el instrumento con el que se examina la tentación de automatizar precisamente las tareas que el Artículo 3 clasificó como más cercanas al polo analítico.