La pregunta no es qué política de IA adoptar
Cuando una junta directiva pregunta hoy por inteligencia artificial, suele hacerlo en uno de dos registros. El primero es de oportunidad: qué podemos hacer con esto, cuánto podemos ahorrar, dónde quedamos frente a los competidores. El segundo es de riesgo: qué política adoptamos, qué principios publicamos y quién firma el documento de uso responsable. Ambos registros son legítimos, pero ninguno toca por sí solo el problema de fondo.
El gobierno corporativo —el sistema mediante el cual una empresa es dirigida y controlada, en la formulación clásica del informe Cadbury— ha operado históricamente bajo una condición: las decisiones relevantes podían atribuirse a personas u órganos identificables, en momentos identificables y dentro de ciclos de supervisión humanos. Cuando parte del análisis, la recomendación y la ejecución ocurre dentro de sistemas que operan continuamente y a escala, esas condiciones se debilitan.
La pregunta relevante deja entonces de ser únicamente qué política de IA necesita la organización. Pasa a ser cómo debe evolucionar su gobierno cuando parte de la cognición que interviene en las decisiones deja de ser exclusivamente humana.
Para qué se construyó el gobierno corporativo
En 1932, Adolf Berle y Gardiner Means describieron el fenómeno que definiría buena parte del derecho societario moderno: en la gran corporación, la propiedad podía separarse del control. Accionistas dispersos poseían la empresa mientras un grupo reducido de administradores la dirigía. De esa separación nacía un riesgo estructural: quien controla dispone de información y capacidad de acción que quien posee no puede observar directamente.
Décadas después, Michael Jensen y William Meckling formalizaron esa tensión como problema de agencia. El principal delega en un agente cuyos intereses no coinciden necesariamente con los suyos y necesita mecanismos para supervisar, alinear y verificar. Directorios independientes, comités de auditoría, información financiera auditada, incentivos y controles internos pueden leerse como respuestas institucionales a esa brecha.
La premisa común es importante: el agente tradicional es humano y posee intereses. Puede privilegiar el corto plazo, proteger su posición o utilizar información asimétrica. Por eso una parte importante del gobierno se construyó alrededor de alineación, transparencia, supervisión independiente y consecuencias personales.
La inteligencia artificial no elimina ese problema. Introduce otro superpuesto: la cognición que participa en una decisión puede dejar de coincidir plenamente con la persona u órgano que conserva la autoridad formal.
Una segunda separación
Berle y Means describieron la separación entre propiedad y control. La nueva condición sugiere una segunda separación: entre el control formal y la cognición que alimenta una decisión. Quien firma no necesariamente produjo todo el análisis; quien autoriza puede apoyarse en una recomendación generada por un sistema; y una acción puede ejecutarse automáticamente después de una combinación de reglas, datos, modelos e intervenciones humanas.
Esta segunda separación no convierte a la IA en un agente humano ni implica atribuirle intereses, intención o responsabilidad moral. Describe una condición organizacional: una parte de la capacidad de analizar, recomendar o ejecutar puede operar fuera de la cognición inmediata de quien conserva la autoridad formal.
El problema de gobierno aparece cuando esa distribución de cognición produce una distribución equivalente de la responsabilidad. Una organización puede aprovechar inteligencia distribuida; no puede permitirse que, por esa razón, deje de ser claro quién tenía autoridad, qué criterio gobernaba la decisión y quién responde por sus consecuencias.
Por eso el problema de gobierno en la era de la IA no consiste solamente en controlar sistemas inteligentes. Consiste en construir una arquitectura capaz de gobernar decisiones cuya cognición puede estar distribuida entre personas y sistemas, sin permitir que la distribución de inteligencia diluya la responsabilidad.
No toda participación cognitiva es una decisión
Una distinción resulta indispensable para esta línea de investigación: análisis, recomendación, decisión y ejecución no son equivalentes. Un sistema puede analizar información sin decidir; puede recomendar una alternativa sin tener autoridad para adoptarla; puede ejecutar una acción previamente autorizada sin haber definido el criterio que la gobierna.
Confundir esas funciones vuelve impreciso el gobierno. Si todo se denomina “decisión automatizada”, se pierde la capacidad de establecer fronteras claras. La pregunta correcta es qué función desempeña cada actor —humano o sistema— dentro de la cadena y dónde se encuentra la autoridad para convertir análisis en acción.
Esta distinción permite formular un perímetro de gobierno más riguroso: qué puede analizarse automáticamente, qué puede recomendarse, qué puede ejecutarse bajo reglas preaprobadas, qué exige validación humana calificada y qué decisiones permanecen reservadas a una persona u órgano determinado.
Las tres grietas
De esta nueva separación se desprenden tres grietas concretas. La primera es la atribución. Cuando un resultado surge de la interacción entre un modelo que recomienda, una persona que interpreta, un procedimiento que autoriza y un sistema que ejecuta, reconstruir quién decidió y bajo qué criterio puede volverse difícil. Helen Nissenbaum describió el problema de las muchas manos en sistemas informáticos complejos: la cadena causal involucra tantos actores que la responsabilidad puede diluirse. Madeleine Elish mostró, además, cómo el operador humano más cercano al fallo puede terminar absorbiendo la culpa de un sistema que no controlaba completamente.
La segunda grieta es el ritmo. Los órganos de gobierno operan mediante ciclos: reuniones, informes y auditorías. Los sistemas automatizados pueden operar continuamente. Cuando entre dos sesiones se producen miles o millones de acciones, la supervisión exclusivamente periódica deja de ser suficiente. Charles Perrow mostró que en sistemas complejos y fuertemente acoplados las fallas pueden propagarse más rápido de lo que los supervisores alcanzan a interpretarlas. La automatización aumenta precisamente la posibilidad de ese acoplamiento.
La tercera grieta es la evidencia. El órgano de gobierno juzga a partir de información que ya llega seleccionada y procesada. La novedad es que parte del análisis utilizado para evaluar el desempeño puede ser producido por los mismos sistemas cuyo comportamiento se intenta supervisar. Si no existe evidencia suficientemente independiente, el proceso puede parecer verificable sin serlo realmente.
Opacidad, velocidad y escala no sustituyen el problema clásico de agencia. Se superponen a él y obligan a ampliar la arquitectura de gobierno.
Por qué no es un asunto del comité de tecnología
La respuesta institucional más frecuente consiste en delegar el problema: crear un comité de tecnología, aprobar una política de uso responsable o encargar a un área que vigile los sistemas. Es una respuesta comprensible y, en muchos casos, insuficiente. Atribución, trazabilidad, ritmo de supervisión y calidad de evidencia no son asuntos periféricos de tecnología; son problemas de control interno, rendición de cuentas y calidad de la información que sustenta las decisiones.
Existe un precedente útil. Cuando las crisis contables mostraron que los estados financieros podían ser correctos en la forma y engañosos en el fondo, la respuesta no fue tratar el problema exclusivamente como contabilidad. Se elevaron las exigencias de control, certificación y verificación independiente. La pregunta equivalente para la era de la IA es qué mecanismos permiten confiar no solamente en un resultado, sino en el proceso mediante el cual análisis humanos y artificiales se convierten en decisiones y acciones.
Cuatro capacidades de gobierno que deben evolucionar
La primera es definir el perímetro de decisión. La organización necesita establecer explícitamente qué clases de análisis pueden automatizarse, qué recomendaciones pueden producir sistemas, qué acciones pueden ejecutarse bajo reglas preaprobadas, cuáles requieren validación humana calificada y cuáles permanecen reservadas a un órgano. Sin ese perímetro, la frontera termina definiéndose por conveniencia operativa, caso por caso y sin diseño deliberado.
La segunda es construir trazabilidad como requisito de gobierno, no como aspiración técnica. Después de una decisión relevante debería ser posible reconstruir qué información se utilizó, qué produjo el sistema, quién interpretó, quién autorizó, qué se ejecutó y qué criterio justificó la acción. La trazabilidad es a la decisión distribuida lo que el registro contable es a la transacción: una condición para poder gobernar lo ocurrido.
La tercera es ajustar el ritmo de supervisión. Si determinados procesos son continuos, una parte del control también necesita estar incorporada al proceso mediante umbrales, alertas, revisiones y mecanismos de detención. El órgano de gobierno no necesita observar cada operación, pero sí comprender y aprobar la arquitectura que determina cuándo un sistema puede continuar, cuándo debe escalar y cuándo debe detenerse.
La cuarta es desarrollar la competencia del propio órgano de gobierno. Sus integrantes no necesitan saber programar, pero sí formular preguntas capaces de revelar opacidad: qué datos sostienen el sistema, qué ocurre cuando falla, quién puede modificarlo o detenerlo, qué evidencia independiente existe, cómo se detectaría una degradación antes de que el daño sea visible y quién responde en cada punto de la cadena. La incapacidad de interrogar un sistema que influye materialmente en la empresa deja de ser una carencia técnica y se convierte en una debilidad de gobierno.
Del gobierno formal al gobierno real
La segunda separación adquiere una forma particular en organizaciones donde el gobierno nunca estuvo plenamente formalizado. En una parte importante del tejido empresarial latinoamericano, propiedad, dirección y operación permanecen concentradas en el fundador o en una familia; los órganos colegiados son reducidos o inexistentes y muchas decisiones relevantes se toman mediante conversaciones, mensajes o acuerdos que no dejan registro.
No conviene describir esa realidad únicamente como una falla. Durante determinadas etapas, la proximidad entre propiedad y dirección puede producir velocidad, flexibilidad y una capacidad extraordinaria para resolver. El problema aparece cuando la organización crece, distribuye decisiones o incorpora sistemas capaces de analizar y ejecutar a una escala que la informalidad original ya no puede gobernar.
En un sistema acumulado, criterio, autoridad y responsabilidad pueden estar claros para el fundador sin estar explícitos para la organización. La IA hace visible esa diferencia. Si una recomendación automatizada entra en un proceso informal, puede resultar imposible reconstruir después qué recomendó el sistema, quién interpretó, quién autorizó, qué criterio se utilizó y quién debía responder.
Por eso, para muchas empresas latinoamericanas, la evolución del gobierno no consiste simplemente en adaptar una junta existente. Puede implicar construir por primera vez fronteras explícitas de autoridad, criterios de escalamiento, trazabilidad y mecanismos de responsabilidad que antes podían permanecer implícitos en las personas.
Gobernar inteligencia compartida
La inteligencia compartida amplía la capacidad de una organización porque permite combinar análisis humano y artificial dentro de un mismo sistema. Pero esa capacidad solamente es sostenible si el gobierno evoluciona al mismo tiempo. Distribuir inteligencia sin diseñar autoridad y responsabilidad puede aumentar la velocidad mientras reduce la capacidad de explicar y corregir lo que ocurre.
El objetivo no es que toda decisión vuelva a una junta ni que cada recomendación de un sistema necesite aprobación humana. Eso reconstruiría el cuello de botella que la tecnología puede ayudar a superar. El objetivo es diseñar niveles de autonomía gobernada: permitir que personas y sistemas actúen dentro de fronteras explícitas, con criterios de escalamiento, evidencia y responsabilidad proporcionales al impacto de cada decisión.
Así entendida, la evolución del gobierno corporativo no consiste en añadir una política de IA al sistema existente. Consiste en rediseñar cómo la organización atribuye autoridad, registra razonamiento, supervisa procesos y responde por consecuencias cuando la cognición ya no reside exclusivamente en personas.
Una agenda de investigación para América Latina
Para América Latina, esta línea plantea una oportunidad particular. Muchas empresas no necesitan desmontar décadas de burocracia corporativa para rediseñar su gobierno; pueden construir mecanismos más claros mientras todavía conservan estructuras relativamente flexibles. Esa ventaja potencial solo existe si la informalidad no se confunde con agilidad y si la adopción tecnológica no avanza más rápido que la capacidad para gobernarla.
La pregunta no es, por tanto, cómo copiar modelos de gobierno diseñados para grandes corporaciones. Es qué arquitectura de gobierno necesita una empresa latinoamericana para coordinar inteligencia humana y artificial de acuerdo con su tamaño, complejidad, exposición al riesgo y posición actual.
Investigar esa transición —desde el gobierno concentrado o implícito hacia una arquitectura capaz de distribuir inteligencia sin diluir autoridad, trazabilidad ni responsabilidad— constituye la línea de investigación de Gobierno Corporativo en la Era de la IA del Instituto 1000XIQ.
Referencias conceptuales
Berle, A. A., & Means, G. C. (1932). The Modern Corporation and Private Property.
Cadbury Committee (1992). Report of the Committee on the Financial Aspects of Corporate Governance.
Elish, M. C. (2019). Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. Engaging Science, Technology, and Society.
Jensen, M. C., & Meckling, W. H. (1976). Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure. Journal of Financial Economics.
Nissenbaum, H. (1996). Accountability in a Computerized Society. Science and Engineering Ethics.
Perrow, C. (1984). Normal Accidents: Living with High-Risk Technologies.
Instituto 1000XIQ (2026). Marco Central de Investigación: Cuando la inteligencia deja de ser exclusivamente humana.
Instituto 1000XIQ · Gobierno Corporativo · Montreal, Canadá · 1000xiq.com/instituto