El problema aparece después de que la tecnología funciona
Durante la primera etapa de adopción de inteligencia artificial, gran parte de la conversación empresarial se concentra en capacidad: qué puede hacer el sistema, cuánto cuesta, cuánto tiempo ahorra y qué calidad alcanza. Es una secuencia comprensible. Pero a medida que la IA deja de ser una herramienta periférica y participa en decisiones e interacciones reales, aparece una segunda pregunta: qué están dispuestos los demás a permitirle hacer.
Un cliente puede aceptar que un sistema recomiende un producto y rechazar que determine unilateralmente una excepción contractual. Un empleado puede valorar un asistente que organiza información y desconfiar de un sistema que evalúa su desempeño sin comprender cómo llegó a la conclusión. Un ciudadano puede aceptar automatización administrativa y exigir revisión humana cuando una decisión afecta derechos o acceso a recursos.
La frontera, por tanto, no está determinada únicamente por capacidad tecnológica. También existe una frontera de legitimidad.
El Segundo Juego también es social
El Segundo Juego plantea que la empresa debe rediseñarse para una realidad en la que la inteligencia deja de ser exclusivamente humana. Ese rediseño no ocurre dentro de un laboratorio cerrado. La organización existe en una red de relaciones con personas que interpretan sus decisiones, atribuyen intenciones y deciden si confían en ella.
Por eso coordinar inteligencia humana y artificial no es solamente un problema de arquitectura. Es también un problema de aceptación. La empresa puede diseñar correctamente autoridad, trazabilidad y responsabilidad y aun así perder confianza si las personas perciben que una interacción fue engañosa, una decisión fue injusta o una delegación excedió aquello que consideran razonable.
La capacidad tecnológica puede crecer más rápido que la legitimidad necesaria para utilizarla. Esa diferencia constituye el territorio de esta línea.
Confianza y legitimidad no son lo mismo
La confianza describe una expectativa: la disposición a aceptar vulnerabilidad porque se espera que otra parte actuará de manera competente, predecible o favorable. La literatura organizacional ha mostrado que capacidad, benevolencia e integridad influyen en esa disposición.
La legitimidad plantea una cuestión diferente. Mark Suchman la describió como la percepción generalizada de que las acciones de una entidad son deseables o apropiadas dentro de un sistema social de normas, valores y creencias. Una organización puede ser confiable en términos operativos y, sin embargo, enfrentar una crisis de legitimidad sobre aquello que considera aceptable automatizar.
La distinción importa. Mejorar precisión puede aumentar confianza en la competencia de un sistema, pero no resolver preguntas sobre privacidad, justicia, autonomía o derecho a intervención. La organización necesita gobernar ambas dimensiones.
La confianza cambia según lo que está en juego
No existe un único nivel de confianza aplicable a todas las decisiones. La aceptación de autonomía probablemente depende de la consecuencia, reversibilidad y sensibilidad de la acción.
Delegar a un sistema la clasificación inicial de correos no plantea el mismo problema que delegarle una decisión de contratación. Recomendar un producto no equivale a determinar un crédito. Ajustar inventario no equivale a negar una reclamación. Cuanto mayor sea el impacto sobre una persona y más difícil resulte revertirlo, más exigentes pueden volverse las condiciones de legitimidad.
Esta línea propone investigar ese umbral de autonomía aceptable: cuánto puede delegarse, en qué contextos, bajo qué salvaguardas y cómo cambia la aceptación cuando las consecuencias aumentan. No se asume de antemano que siempre deba decidir una persona ni que una mayor autonomía sea inevitablemente deseable.
Transparencia sin teatro
Una respuesta frecuente a los problemas de confianza consiste en exigir transparencia. El principio es importante, pero puede degradarse en un ritual: avisos extensos que nadie comprende, explicaciones técnicamente correctas que no permiten cuestionar una decisión o etiquetas de IA que informan poco sobre aquello que realmente importa.
La transparencia útil necesita responder preguntas operativas: ¿estoy interactuando con una persona o un sistema?, ¿qué papel tuvo la IA en esta decisión?, ¿qué información utilizó?, ¿qué parte puede ser revisada?, ¿quién tiene autoridad para intervenir?
La investigación sobre explicaciones algorítmicas también advierte que más explicación no siempre produce más confianza. Una explicación puede ser incomprensible, incompleta o generar una ilusión de comprensión. El objetivo no debe ser maximizar información, sino producir transparencia suficiente para que la persona pueda comprender la naturaleza de la intervención y ejercer opciones relevantes.
El derecho a una intervención que sea real
Gobierno Corporativo estudia quién posee autoridad y responsabilidad dentro de la organización. Confianza y Legitimidad observa el problema desde el otro lado: qué mecanismos necesita quien recibe una decisión para cuestionarla o escalarla cuando las consecuencias lo justifican.
Aquí aparece una distinción importante entre humano en el circuito y capacidad humana efectiva de intervención. Si una persona aprueba automáticamente cientos de resultados que no puede revisar, la supervisión existe formalmente pero puede carecer de sustancia. Del mismo modo, ofrecer un canal de apelación que no puede modificar el resultado no constituye una revisión real.
La legitimidad puede depender menos de que una persona participe en cada decisión y más de que exista una ruta efectiva para intervenir cuando el contexto, la excepción o la consecuencia lo requieren.
Justicia percibida y justicia verificable
Los sistemas pueden aplicar reglas de manera más consistente que las personas y, aun así, producir resultados que determinados grupos perciban como injustos. También puede ocurrir lo contrario: una decisión estadísticamente defendible puede ser difícil de aceptar si nadie puede explicar qué criterio la produjo.
La investigación sobre justicia organizacional distingue dimensiones distributivas, procedimentales e interpersonales. Esa arquitectura resulta útil para sistemas híbridos: no importa únicamente el resultado, sino el procedimiento mediante el cual se llegó a él y la forma en que la organización trata a la persona afectada.
La línea deberá estudiar tanto justicia verificable como percepción de justicia. Confundirlas sería un error. Una decisión puede sentirse injusta sin ser discriminatoria; también puede ser discriminatoria aunque quienes la reciben no lo detecten. Confianza y legitimidad requieren evidencia y experiencia social, no solamente percepción.
Privacidad como relación, no solo cumplimiento
La disponibilidad de datos aumenta la capacidad de personalizar, predecir y automatizar. Pero que una organización pueda inferir algo no significa automáticamente que las personas consideren legítimo que lo haga.
Helen Nissenbaum ha propuesto comprender la privacidad mediante integridad contextual: las expectativas sobre el flujo apropiado de información dependen del contexto, los actores y los propósitos. Esta perspectiva es especialmente relevante para IA porque un dato entregado para una función puede adquirir usos nuevos cuando se combina con otros sistemas.
El cumplimiento legal establece un piso necesario; la legitimidad puede exigir más. La pregunta investigable es cuándo el uso de información sigue siendo coherente con la relación que la persona cree mantener con la organización y cuándo, aun siendo técnicamente posible, empieza a erosionar confianza.
Autenticidad en una empresa que puede simular humanidad
Los sistemas generativos introducen una capacidad inédita para producir lenguaje, voz e interacción con apariencia humana a escala. Esto mejora servicio y accesibilidad, pero también crea una nueva frontera: cuándo la automatización de la relación empieza a sentirse como engaño.
Una organización puede utilizar agentes para responder, vender, acompañar o negociar. La pregunta no es si debe anunciar cada componente técnico, sino qué información necesita la contraparte para interpretar correctamente con quién o con qué está interactuando y qué capacidad de decisión posee ese sistema.
La autenticidad organizacional en la era de la IA puede depender menos de que todas las interacciones sean humanas y más de que la organización no construya confianza mediante una representación falsa de humanidad, intención o autoridad.
La confianza interna también cuenta
La legitimidad no es solamente externa. Los empleados también necesitan interpretar qué significa trabajar dentro de una organización donde sistemas observan, recomiendan, evalúan o ejecutan.
Si la IA aparece como mecanismo opaco de vigilancia o sustitución, puede aumentar resistencia, ocultamiento y comportamiento defensivo. Si aparece como capacidad cuyos límites, objetivos y responsabilidades son comprensibles, puede facilitar aprendizaje y cooperación.
Esto conecta con Liderazgo Aumentado y Nueva Fuerza Laboral, pero no los duplica. Aquellas líneas estudian cómo cambia el liderazgo y cómo se desarrollan capacidades. Esta estudia bajo qué condiciones las personas consideran legítima la nueva distribución de inteligencia dentro de la relación laboral.
De la confianza en la IA a la confianza en la organización
Un punto conceptual central es que la responsabilidad de construir confianza no puede desplazarse hacia el modelo. El cliente no mantiene una relación contractual con un algoritmo abstracto; la mantiene con una organización que eligió dónde utilizarlo, qué datos entregarle, qué autonomía concederle y qué controles instalar.
Por eso la unidad de análisis de esta línea no es solamente confianza en tecnología. Es confianza en la organización que utiliza tecnología.
Una empresa no puede externalizar legitimidad diciendo que el sistema fue preciso o que el proveedor es reconocido. La arquitectura técnica puede provenir de terceros; la decisión de utilizarla en una relación concreta pertenece a la organización.
Cinco condiciones para investigar
La línea propone inicialmente cinco condiciones cuya relación con confianza y legitimidad deberá ser contrastada empíricamente.
Identidad: que la persona pueda comprender cuándo interactúa con inteligencia artificial y qué papel cumple.
Trazabilidad comprensible: que exista información suficiente para reconstruir la intervención sin exigir conocimiento técnico especializado.
Proporcionalidad: que el grado de autonomía y uso de datos guarde relación con las consecuencias de la decisión.
Intervención efectiva: que exista una ruta real de revisión, corrección o escalamiento cuando la situación lo justifique.
Responsabilidad atribuible: que la organización conserve un responsable identificable por la decisión y sus consecuencias.
Estas condiciones no constituyen todavía un modelo validado. Son hipótesis de diseño que el Instituto puede someter a experimentación, comparación sectorial y estudios de comportamiento.
América Latina: confianza, informalidad y adopción
En América Latina la confianza institucional y empresarial presenta particularidades que vuelven esta línea especialmente relevante. Gran parte de la economía funciona mediante relaciones personales, reputación, cercanía y mecanismos informales de verificación. La introducción de sistemas opacos puede chocar con esas arquitecturas de confianza incluso cuando mejore eficiencia.
Al mismo tiempo, la IA puede reducir arbitrariedad, ampliar acceso y estandarizar servicios allí donde la discrecionalidad humana produjo inconsistencias. La región no debe asumir que más intervención humana significa necesariamente más confianza ni que más automatización significa menos.
La pregunta correcta es qué combinación de transparencia, responsabilidad, contexto y posibilidad de intervención permite que nuevas capacidades sean aceptadas sin destruir relaciones que sostienen la actividad económica.
Una posible licencia social para la IA
Industrias como minería, energía y biotecnología han utilizado la idea de licencia social para describir una aceptación que excede el permiso jurídico formal. La analogía merece investigación en organizaciones intensivas en IA.
Una empresa puede tener derecho legal a automatizar una interacción y, aun así, descubrir que clientes o empleados rechazan esa práctica. Esa diferencia entre autorización formal y aceptación sostenida puede convertirse en una restricción estratégica.
La hipótesis es que las organizaciones desarrollarán algo parecido a una licencia social para determinadas formas de autonomía artificial: un permiso dinámico que puede ganarse, ampliarse, restringirse o perderse según experiencia, transparencia, resultados y comportamiento.
No proponemos importar el concepto sin validación. Proponemos investigar si ofrece una lente útil para comprender por qué capacidades técnicamente disponibles encuentran umbrales de aceptación diferentes.
El límite del Segundo Juego
El Segundo Juego no consiste en entregar a la IA todo aquello que pueda hacer. Consiste en rediseñar la organización para coordinar inteligencia humana y artificial con criterio, dirección y propósito.
Confianza y Legitimidad añade una condición: esa coordinación ocurre dentro de relaciones sociales. Una empresa puede aumentar capacidad y mantener responsabilidad interna, pero si pierde el permiso de quienes dependen de sus decisiones, su arquitectura deja de ser sostenible.
La pregunta estratégica deja entonces de ser solamente qué puede automatizarse. Pasa a ser qué debe delegarse, bajo qué condiciones, con qué grado de transparencia y con qué capacidad de intervención.
La adopción de inteligencia artificial no dependerá solamente de lo que los sistemas sean capaces de hacer, sino de aquello que las personas estén dispuestas a permitirles hacer.
Investigar cómo se construye, mide y preserva ese permiso constituye el objeto de Confianza y Legitimidad en Sistemas Híbridos del Instituto 1000XIQ.
Referencias conceptuales
Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An Integrative Model of Organizational Trust. Academy of Management Review, 20(3), 709–734.
Suchman, M. C. (1995). Managing Legitimacy: Strategic and Institutional Approaches. Academy of Management Review, 20(3), 571–610.
Colquitt, J. A. (2001). On the Dimensionality of Organizational Justice. Journal of Applied Psychology, 86(3), 386–400.
Nissenbaum, H. (2010). Privacy in Context. Stanford University Press.
Lee, J. D., & See, K. A. (2004). Trust in Automation: Designing for Appropriate Reliance. Human Factors, 46(1), 50–80.
Instituto 1000XIQ (2026). Marco Central de Investigación: Cuando la inteligencia deja de ser exclusivamente humana.
1000XIQ (2026). Recalculando y Framework 1000XIQ.
Instituto 1000XIQ · Confianza y Legitimidad · Montreal, Canadá · 1000xiq.com/instituto