La Inteligencia Artificial Agentica y la encíclica Magnifica Humanitas del papa León XIV
En el primer capítulo de la saga #AugmentedHumanity planteé que el privilegio exorbitante del siglo XXI dejó de ser el oro o el dólar para mudarse al dato, al cómputo y a la energía, y que la pregunta de fondo nunca fue cuánta tecnología tenemos sino cuánta soberanía de criterio estamos dispuestos a no entregar. En el segundo capítulo sostuve que la IA funciona como un espejo moral: no inventa la crisis del criterio, la amplifica, y que hay una línea roja que ninguna planilla registra, la dignidad ontológica, ese valor que tenés por existir y no por rendir. Hoy cierro el arco con la única salida posible: gobernar la IA sin idolatrarla.
¿Con qué propósito usamos la IA, bajo qué reglas, con qué supervisión, con qué métricas y con qué límites? Estas son las preguntas que hoy nos hacemos quienes estamos proyectando con sentido y criterio. Sin gobierno, la IA no aumenta la inteligencia; aumenta la exposición al riesgo. Los números de este 2026 lo confirman.
Gartner proyecta que más del 40% de los proyectos de IA agéntica se cancelarán antes de que termine 2027. Hay un detalle del propio Hype Cycle for Agentic AI de Gartner, en su versión de abril de 2026, que conviene leer con atención.
La gobernanza y la seguridad de los agentes no aparecen en una fase posterior, como si fueran el orden que se pone después de la fiesta. Aparecen trepando la misma cuesta de adopción que la de los propios agentes.
Dicho de otro modo: el gobierno no es el capítulo que viene después de escalar, es parte del mismo movimiento de escalar, y acá va la idea que quiero fijar con esta columna: La claridad sobre el porqué y el qué de la IA no sube desde los equipos de ingeniería, baja desde el liderazgo senior.
Cuando una organización invierte fuerte en IA sin un objetivo de valor de negocio definido, esa ambigüedad no se queda arriba en una lámina de estrategia, se traslada hacia abajo, hasta el ingeniero que termina quemando esfuerzo real sin un norte. Ese es hoy el verdadero trabajo del líder. No animar a adoptar ni comprar más herramientas, sino definir el valor, ser dueño de la gobernanza y dar al equipo una razón y un límite claros antes de que la inversión escale.
Cuando Gartner confirma ese porcentaje amenazador hacia 2027, dice, al mismo tiempo, que no se cancelan por falla de la tecnología, se cancelan por costos que se disparan, por valor de negocio difuso y, sobre todo, por controles de riesgo inadecuados.
Traducido a mi idioma: no es que el agente no funcione, sino que la organización que lo soltó no diseñó el gobierno para sostenerlo. A eso, Gartner le suma algo que conviene tener a mano cuando un proveedor te promete magia: practican lo que llaman «agent washing»: rebautizar viejos chatbots y automatizaciones como agentes, y estiman que de los miles de vendors que dicen ser agénticos, apenas unos 130 lo son de verdad.
Mientras tanto, la dirección del viaje no se discute. La misma consultora estima que para 2028 cerca del 15% de las decisiones operativas del día a día se tomarán de forma autónoma, cuando en 2024 ese número era cero, y que un tercio del software empresarial incorporará IA agéntica embebida.
Resumen: el volante de la decisión se está soltando a una velocidad inédita, justo en el momento en que la enorme mayoría de las organizaciones todavía no ha pisado el freno. Eso no es liderazgo aumentado. Es una delegación opaca a escala.
La delegación opaca se experimenta en cada escritorio
Hay un dato que indica que esto dejó de ser un problema del comité de tecnología. El Cost of a Data Breach Report 2025 de IBM, elaborado con el Ponemon Institute , sobre seiscientas organizaciones que sufrieron una brecha, encontró que el 63% no tiene ninguna política de gobernanza para gestionar su IA ni para evitar que los empleados usen shadow AI.
Apenas un 37% tiene un marco real instalado. Es lo que empezó a llamarse shadow AI, la IA en las sombras: gente que pega datos de clientes, contratos, planes estratégicos y código en modelos públicos, sin que nadie haya definido qué se puede y qué no. Y el desfasaje no es retórico, sino estructural: el 97% de las organizaciones que sufrieron un incidente de seguridad relacionado con IA reconocieron no contar con controles de acceso adecuados. IBM lo resume sin anestesia: la adopción de IA está corriendo muy por delante de su seguridad y su gobierno.
A eso, IBM le pone precio. Cuando una organización tiene un alto nivel de shadow AI, en la que los trabajadores descargan o usan herramientas de IA no aprobadas, la brecha de datos suma, en promedio, unos 670.000 dólares adicionales al costo global. No es un riesgo abstracto, es una factura concreta que llega cuando ya te queda menos margen.
Y acá vuelve mi vieja deuda estructural, esa que siempre definió como crecer sin coordinación ni gobierno, donde la velocidad de hoy se paga con la fragilidad de mañana. En el comercio, la factura se convierte en un margen perdido.
En el plano humano, cambia de moneda: la pagan las personas mal clasificadas, que muchas veces ni se enteran de que un sistema decidió por ellas, y la paga la organización el día en que tiene que explicar una decisión que nadie diseñó. Porque lo que no se nombra se delega por defecto, y lo que se delega sin gobierno, tarde o temprano, vuelve como daño.
Desarmar la IA: ponerle kernel y guardrails
León XIV usa en su encíclica un verbo que me quedó grabado: «desarmar» la IA. No rechazarla, sino sustraerla a la lógica de dominio para hacerla discutible, refutable, auditable. En mi idioma, eso es ponerle kernel y guardrails. Vale la pena bajarlo a tierra, porque son las dos piezas que separan al humano aumentado del humano disminuido.
El kernel moral es el acuerdo mínimo ejecutable sobre lo que no es negociable. Igual que en el comercio unificado definís fuentes de verdad, semántica común y decisión rights, en lo humano definís qué valor protegés, qué decisiones son técnicas, cuáles son estratégicas y cuáles son profundamente humanas y no se tocan. Sin kernel, Iron Man es chatarra. Sin un kernel moral, la IA es pura velocidad sin rumbo.
Los guardrails son las barandas de gobierno, y no hablo de declaraciones de buenas intenciones colgadas en una lámina. Hablo de límites verificables: derecho a la explicación, supervisión humana real, trazabilidad de qué dato y qué regla produjeron cada decisión, derecho a la apelación y un kill switch que permita frenar y revertir.
Si no podés explicar por qué el sistema decidió lo que decidió, no tenés guardrails, tenés coartada algorítmica, ese elegante «lo dijo el sistema» que esconde quién lo diseñó, lo entrenó, lo financió y decidió usarlo.
La armadura y el mapa de lo que nunca se delega
El siguiente paso es convertir ese criterio en capacidad instalada. A eso le llamo la armadura: el sistema modular que define qué automatizar, qué supervisar, qué prohibir y qué nunca delegar, para escalar sin depender de un Tony Stark moral que se acuerde de todo en cada caso. Toda organización madura debería tener su propio mapa de no delegación, y no es difícil empezar a escribir: empleo, crédito, reputación, pricing sensible, atención crítica, datos personales y cualquier decisión con impacto humano directo. Ese mapa es el que decide, mucho antes que cualquier modelo, si estás construyendo Babel o reconstruyendo Jerusalén.
Acá quiero romper de una vez con la falsa idea de que gobernar frena, porque los datos dicen lo contrario. En su encuesta The State of AI in 2025, McKinsey muestra que apenas un 6% de las organizaciones, las que llama high performers, logran un impacto significativo en su EBIT a partir de la IA, y que estas son casi tres veces más propensas que el resto a rediseñar a fondo sus flujos de trabajo. Y el matiz que importa para esta discusión es este: de todos los factores que McKinsey analizó, ese rediseño intencional de los procesos es uno de los que más contribuyen a lograr un impacto real en el negocio. McKinsey & CompanyMcKinsey & Company
Traducido a mi idioma: el valor no aparece por sumar herramientas, aparece por ordenar primero la arquitectura de decisión, es decir, por poner el kernel y los guardrails antes de soltar al agente. El gobierno no es el freno de mano del negocio, es lo que lo hace viable. La armadura no hace al sistema más pesado, lo hace repetible sin romperse.
La pieza que cierra todo es el human in the loop, pero uno que no sea meramente decorativo. No se trata de poner gente a corregir a la máquina por compromiso, para tranquilizar a la auditoría. Se trata de poner la inteligencia humana exactamente donde importa: en los puntos en los que la decisión toca la dignidad, el riesgo o la irreversibilidad. Ese es el sentido profundo de lo que advierte León XIV en su encíclica Magnifica Humanitas cuando sostiene que el juicio moral no se puede reducir a un cálculo, porque implica conciencia, responsabilidad personal y reconocimiento del otro como persona, y que por eso no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles.
La gráfica de Core Skills 2030, basada en el Future of Jobs del World Economic Forum, muestra algo más incómodo que una tendencia de talento. Hacia 2030 crecerá la importancia de AI & big data y de la alfabetización tecnológica, pero también del pensamiento analítico, el pensamiento creativo, la resiliencia, la flexibilidad, el liderazgo, el aprendizaje permanente, el systems thinking, la motivación, la autoconciencia, la empatía y la escucha activa. La primera lectura podría parecer obvia: las empresas tienen que capacitar mejor a sus equipos. Pero la lectura profunda es otra. En la era de los agentes, los modelos autónomos y las decisiones automatizadas, esas capacidades humanas dejan de ser un complemento cultural para convertirse en infraestructura crítica de gobierno.
Durante años llamamos “habilidades blandas” a muchas de las capacidades más difíciles de automatizar. Quizás porque no sabíamos medirlas bien. Quizás porque el management industrial prefería aquello que podía convertir en proceso, tablero o eficiencia inmediata. Pero el tiempo de la IA nos obliga a revisar esa categoría. Pensar sistémicamente, aprender rápido, escuchar el contexto, liderar bajo incertidumbre, reconocer sesgos, sostener el criterio y asumir la responsabilidad no son atributos decorativos. Son las capacidades que permiten que una organización no confundir velocidad con inteligencia, automatización con madurez ni productividad con criterio. Lo que antes parecía blando se está volviendo estructural.
AI & big data importan, claro. La alfabetización tecnológica también. Ninguna organización podrá gobernar lo que no entiende mínimamente. Pero el punto crítico es que la técnica por sí sola no basta para custodiar las decisiones. Un equipo puede saber usar modelos, diseñar prompts, automatizar flujos y desplegar agentes, y aun así no tener la madurez necesaria para preguntarse si esa decisión debía automatizarse, qué sesgo reproduce, qué daño puede causar, quién puede apelarla y quién responde si falla. Ahí aparece la frontera real del liderazgo aumentado: no en saber operar la herramienta, sino en saber interrogarla, limitarla, contextualizarla y responder por ella.
Por eso el human-in-the-loop no puede ser una figura decorativa, ni una persona puesta al final del proceso para tranquilizar a la auditoría. Si el humano no entiende el contexto, no domina el criterio, no tiene autoridad para frenar, no puede discutir la lógica de la decisión y no sabe qué valor está protegiendo, entonces no está en el loop: está en la escenografía del loop. Y ese es uno de los grandes riesgos de esta etapa. Muchas organizaciones van a decir que mantienen supervisión humana, cuando en realidad solo agregaron una firma humana al pie de una decisión ya tomada por un sistema que nadie sabe explicar.
La pregunta, entonces, no es solo qué habilidades necesita el trabajador de 2030 para ser empleable. La pregunta estratégica es qué capacidades necesita una organización para seguir siendo responsable cuando parte de sus decisiones empiecen a ser asistidas, recomendadas o ejecutadas por sistemas autónomos. En ese nuevo mapa, la curiosidad no es una virtud simpática: es la capacidad de no aceptar la primera respuesta del modelo. La resiliencia no es motivación de cartel: es la capacidad de sostener el criterio cuando la presión por automatizar es enorme. La empatía no es una sensibilidad abstracta: es la capacidad de recordar que detrás de un score, una predicción o una clasificación puede haber una persona afectada. El pensamiento sistémico no es teoría: es la capacidad de ver las consecuencias de segundo y tercer orden antes de escalar una decisión. Y el liderazgo no es evangelizar la adopción: es definir límites antes de que la velocidad vuelva invisible el daño.
En este punto, las habilidades humanas se convierten en guardrails vivos. No reemplazan los controles técnicos, legales o de seguridad; los hacen significativos. Un kill switch sirve poco si nadie tiene el coraje de activarlo. Una política de explicación sirve poco si nadie sabe qué explicación exigir. Un comité de IA sirve poco si no tiene criterio, autoridad ni cercanía con las decisiones reales del negocio. La gobernanza no vive en el documento: vive en las capacidades instaladas de quienes deciden, supervisan, corrigen y responden. La organización aumentada no será la que tenga más herramientas, sino la que haya desarrollado más criterio distribuido para usarlas sin delegar su humanidad.
Por eso, formar líderes para 2030 no puede reducirse a enseñarles a usar la IA. Hay que formar criterio tecnológico, sensibilidad ética, lectura sistémica, disciplina operativa y responsabilidad institucional. En empresas, cámaras, universidades y ecosistemas, esta agenda debería estar en el centro de la conversación. Porque cuando los agentes empiecen a decidir más rápido que nuestros procesos, cuando los modelos recomienden con más precisión que nuestros equipos, y cuando el cómputo amplíe lo que podemos optimizar, la diferencia no estará solo en quién adopta primero. Estará en quien conserva la capacidad de preguntar: para qué, bajo qué reglas, con qué límites, con qué supervisión y con qué humanidad no delegada.
El liderazgo aumentado de 2030 no será el que use más IA, sino el que conserve más capacidad humana para gobernarla. Y esa capacidad no se improvisa el día en que aparece el daño. Se entrena antes, se diseña antes y se instala antes en la cultura, en los procesos, en los decision rights y en la arquitectura de la organización. Porque en un mundo donde la autonomía tecnológica crece, las habilidades humanas no son el complemento de la tecnología: son los guardrails vivos que impiden que la eficiencia se convierta en una renuncia.
Esa última idea —que las habilidades humanas son guardrails vivos— se vuelve aún más importante cuando miramos la próxima frontera del cómputo.
Quantum-ready sin quantum-hype: La próxima frontera no es solo decidir más rápido, sino gobernar mejor lo que podremos computar
Esta discusión se vuelve aún más urgente cuando miramos la próxima frontera del cómputo. Y acá quiero sumar una visión que me quedó resonando después de una conversación muy interesante durante la gala de premiación de Adigital que se llevó a cabo esta semana en Madrid en las muy lindas instalaciones de la Fundación Francisco Giner de los Ríos con Marta P Estarellas, CEO de Qilimanjaro Quantum Tech, empresa ganadora del Premio Innovación Adigital 2026. La conversación me ayudó a ordenar una intuición que venía trabajando en esta saga: si la IA aumentó nuestra capacidad de leer, generar, clasificar y decidir, la computación cuántica puede ampliar, en dominios específicos, la frontera de lo que somos capaces de optimizar, simular y descubrir.
Conviene decirlo sin hype. La computación cuántica no viene a reemplazar de un día para otro a la computación clásica, ni a resolver mágicamente todos los problemas de la inteligencia artificial, ni a transformar masivamente el retail la semana que viene. Ese sería el error de lectura: convertir una frontera profunda en una promesa marketinera. Pero el otro error, igual de peligroso, sería subestimarla porque todavía no está lo suficientemente madura para todos sus usos comerciales. Muchas veces, las transformaciones realmente estructurales empiezan así: primero como infraestructura difícil de explicar, después como capacidad restringida a laboratorios, centros de investigación y empresas deep tech, y finalmente como una capa invisible que cambia qué problemas se pueden resolver y quién tiene soberanía para resolverlos.
La computación cuántica analógica puede ser especialmente relevante para simular dinámicas físicas, explorar ciertos problemas complejos y trabajar con sistemas en los que la continuidad, la interacción y la optimización especializada importan más que la programación universal. La computación cuántica digital, basada en puertas lógicas, apunta a una mayor programabilidad y a algoritmos más estructurados, pero aún enfrenta desafíos significativos de ruido, estabilidad, escalabilidad y corrección de errores. Y entre ambas aparece una vía que hoy me parece especialmente interesante para empresas, universidades, centros de datos y ecosistemas de innovación: los modelos híbridos, en los que QPUs analógicas, QPUs digitales, CPU, GPU y software de orquestación conviven para asignar cada problema al tipo de cómputo más adecuado.
Ese punto es estratégico. Porque la pregunta de fondo no es solo qué tan potente será una computadora cuántica, sino qué tipo de problemas podremos empezar a formular cuando tengamos nuevas formas de cómputo disponibles. En logística, energía, materiales, finanzas, salud, industria avanzada, ciberseguridad o simulación científica, la frontera no pasa solo por calcular más rápido. Pasa por explorar combinaciones que antes no podíamos explorar, simular escenarios que antes eran demasiado costosos, optimizar sistemas que antes quedaban atrapados en la complejidad y, eventualmente, alimentar nuevas capacidades de IA con formas distintas de búsqueda, descubrimiento y modelización.
Por eso Qilimanjaro me parece un caso-señal, no un adorno técnico. No lo traigo a esta columna para decir que “quantum ya llegó” como una nueva palabra mágica, sino para mostrar que la soberanía tecnológica también se juega en estas infraestructuras profundas que casi nunca aparecen en la conversación cotidiana del comercio, pero que pueden definir la próxima década de competitividad. Qilimanjaro no es solo una startup cuántica española reconocida por Adigital. Es una señal de que Europa, y también Iberoamérica ampliada, si sabe construir puentes, puede dejar de mirar las grandes olas tecnológicas desde la tribuna y empezar a participar en la construcción de las capas que decidirán qué problemas podremos resolver mañana.
Ahí aparece la conexión con #AugmentedHumanity. Si los datos, el cómputo y la energía ya forman parte de la nueva balanza del siglo XXI, la computación cuántica agrega una capa más a esa balanza: la capacidad de formular y resolver problemas de naturaleza distinta. Y cuando cambia la capacidad de cómputo, también cambia la responsabilidad de gobernarlo. Porque no hay neutralidad en la infraestructura que decide qué se puede simular, qué se puede optimizar, qué se puede predecir y qué queda fuera del campo de visión. La tecnología siempre lleva el rostro de quienes la conciben, la financian, la regulan, la operan y la convierten en una decisión.
Por eso, la pregunta ejecutiva no debería ser “¿Cuándo tengo que comprar quantum?” Esa sería una mala pregunta o, por lo menos, una pregunta prematura para la mayoría de las organizaciones. La pregunta correcta es otra: ¿cómo me vuelvo quantum-ready sin caer en quantum-hype? Es decir, cómo preparo talento, datos, alianzas, casos de uso, criterios de inversión, capacidad de experimentación y gobierno para una frontera que mañana todavía no será masiva, pero que puede redefinir qué significa competir, investigar, proteger y decidir pasado mañana.
En esta etapa, ser quantum-ready no implica tener todas las respuestas. Significa construir alfabetización estratégica. Entender qué problemas de la organización son de optimización, simulación, búsqueda, complejidad combinatoria o descubrimiento. Entender qué parte pertenece todavía al mundo clásico, qué parte puede beneficiarse de aceleración con GPU, qué parte puede dialogar con modelos de IA avanzada y qué parte, en el futuro, podría requerir capacidades cuánticas. Significa también construir alianzas con universidades, centros de investigación, startups deep tech y ecosistemas que permitan aprender antes de que la ola se vuelva evidente.
Y acá vuelve el corazón moral de esta saga. A medida que el cómputo se vuelve más potente, no deja de ser importante el criterio humano; se vuelve aún más necesario. Porque toda nueva capacidad de optimización trae consigo una pregunta que el algoritmo no puede responder: ¿optimizar qué, para quién, con qué límites y con qué consecuencias? Una organización puede optimizar costos y destruir la confianza. Puede optimizar la conversión y explotar vulnerabilidades. Puede optimizar la eficiencia y hacer invisible el trabajo humano que sustenta el sistema. Puede optimizar el riesgo y excluir injustamente a quienes no encajan en el patrón. La potencia de cálculo amplía el campo de posibilidades, pero no define por sí misma el campo de lo deseable.
Por eso, si la IA agéntica nos obliga a escribir mapas de no delegación, la computación cuántica nos obliga a ampliar el horizonte de esos mapas. No alcanza con gobernar lo que los modelos hacen hoy. Hay que empezar a gobernar la arquitectura de decisión que se está formando para mañana. Agentes, datos, modelos, cómputo clásico, GPUs, QPUs, nubes, centros de datos, energía, software de orquestación y plataformas no son piezas aisladas: son la nueva infraestructura para la toma de decisiones. Y si esa infraestructura se concentra sin criterios, sin transparencia y sin responsabilidad distribuida, la soberanía de criterio queda cada vez más lejos de quienes viven las consecuencias de esas decisiones.
Ahí está, para mí, la verdadera lección de esta frontera. La computación cuántica no debe entrar en esta conversación como una fascinación técnica, sino como una advertencia estratégica. Cada salto de cómputo aumenta lo que podemos hacer, pero también lo que debemos gobernar. La organización aumentada no será la que corra detrás de cada tecnología emergente, sino la que aprenda a distinguir señal de ruido, capacidad de moda, frontera de humo y soberanía de la dependencia. Porque cuando el cómputo cambia de escala, también cambia la responsabilidad de gobernarlo.
La pregunta no es si la IA y la computación cuántica van a acelerar el futuro. Lo van a hacer. La pregunta es si nuestras organizaciones, nuestras universidades, nuestras cámaras, nuestros gobiernos y nuestros ecosistemas alcanzarán esa aceleración con criterio propio o solo como usuarios tardíos de reglas escritas por otros. Latinoamérica no puede ser únicamente mercado, datos, talento y energía para infraestructuras diseñadas lejos de sus prioridades. Tiene que construir capacidad de lectura, alianzas estratégicas y soberanía de criterio para decidir qué futuro quiere computar.
Por eso, después de conversar con Marta en la gala de Adigital, me quedó más clara una idea: el desafío cuántico no empieza cuando la tecnología se masifica. Empieza antes, cuando decidimos si vamos a formar líderes capaces de entenderla, instituciones capaces de gobernarla y ecosistemas capaces de participar en su construcción. Porque el futuro no se juega solo con modelos más potentes, ni con agentes más autónomos, ni con máquinas capaces de resolver problemas más complejos. Se juega con criterios más humanos para decidir qué vale la pena acelerar y qué nunca deberíamos entregar, aunque la tecnología algún día nos permita hacerlo.
Por eso, la organización aumentada será necesariamente ambidiestra, como bien lo mencionó Marta en su discurso de agradecimiento en la entrega de los premios Adigital: una mano tendrá que explotar la IA actual: eficiencia, productividad, automatización, seguridad, rediseño de workflows, métricas, trazabilidad y gobernanza. La otra tendrá que explorar la frontera que viene: agentes autónomos, cómputo cuántico, nuevas arquitecturas de datos, nuevos derechos de decisión, alianzas con ecosistemas deep tech y modelos de negocio que todavía no encajan cómodamente en el organigrama actual.
El error sería elegir una sola mano. Explotar sin explorar vuelve a la empresa eficiente pero miope: mejora procesos, reduce costos y acelera la toma de decisiones, pero puede quedar atrapada en la lógica del presente. Explorar sin explotar convierte la innovación en teatro caro: muchas pruebas, muchas demos, muchas promesas, pero poco impacto en el margen, el cliente, la operación o la cultura. La madurez no está en correr detrás de cada nueva tecnología ni en refugiarse en el negocio conocido. Está en sostener ambas tensiones al mismo tiempo.
En la práctica, esto exige liderazgo sénior. No alcanza con pedirle al equipo de tecnología que “vea qué se puede hacer con IA”, ni con crear un laboratorio aislado que no dialogue con el negocio real. El CEO y el directorio deben definir qué valor se busca hoy, qué capacidades se están construyendo para mañana, qué riesgos no se aceptan y qué decisiones nunca se delegan. La IA actual se gobierna en los workflows; la frontera futura se prepara en la arquitectura de aprendizaje, las alianzas y el criterio.
Ahí vuelve el centro de esta saga: una organización no se vuelve más eficiente por adoptar más herramientas, sino por aprender a decidir mejor bajo aceleración. Capturar valor hoy sin hipotecar el criterio con el que decidiremos mañana: esa es la nueva disciplina. Una mano sostiene el presente; la otra diseña la capacidad de decisión del futuro. Si una corre sola, la organización se cae. Si trabajan juntas, la IA deja de ser una moda tecnológica y se convierte en una capacidad institucional.
Para que esta idea no quede solo como una metáfora, propongo incluir aquí el Ambidextrous AI Governance Canvas. La organización aumentada necesita una arquitectura que le permita aprovechar la IA actual con impacto medible, gobierno y trazabilidad, mientras explora la frontera de agentes autónomos, computación cuántica, nuevas arquitecturas de datos, alianzas deep tech y capacidades futuras. No se trata de elegir entre eficiencia y exploración, sino de diseñar una cartera de decisiones en la que cada iniciativa tenga un dueño, un criterio de éxito, un nivel de riesgo, la madurez de los datos, guardrails y el próximo paso. Esa es la diferencia entre una innovación que entretiene y una capacidad institucional que aprende.
Esta infografía aporta valor al episodio al convertir la tesis ambidiestra en una herramienta práctica. El capítulo muestra que la IA agéntica, la shadow AI, las habilidades humanas críticas y la computación cuántica aceleran la necesidad de un gobierno. El canvas ordena esa complejidad en dos manos: explotar lo que ya puede generar valor hoy y explorar lo que puede definir la capacidad de decisión del futuro. También evita dos errores frecuentes: quedarse atrapado en pilotos sin impacto o escalar la automatización sin criterio. Por eso, este mapa visual prepara naturalmente el paso siguiente: las cinco preguntas que todo directorio debería hacerse antes de permitir que una decisión apoyada por IA avance sin dueño, sin trazabilidad o sin responsabilidad humana clara.
Las cinco preguntas que separan el aumento de la renuncia
Si tuviera que resumir el gobierno en algo que un directorio pueda usar el lunes, serían cinco preguntas, y cada decisión apoyada en IA tiene que poder responderlas: qué decisión estamos apoyando, qué datos la alimentan, quién la supervisa, cómo se apela y quién responde si hay daño. Si esas cinco no tienen dueño con nombre y apellido, no hay IA aumentada. Hay una delegación opaca con mejor vocabulario.
Para bajar esas cinco preguntas del plano conceptual al plano operativo, propongo incluir aquí el Mapa de No Delegación Humana para IA Agéntica. No como una ilustración decorativa, sino como una herramienta ejecutiva para que cada organización pueda examinar sus propias decisiones asistidas por IA y clasificarlas con criterio: cuáles pueden automatizarse, cuáles requieren supervisión humana y cuáles nunca deberían quedar en manos autónomas. Porque el problema no es solo si una IA responde bien o mal; el problema es si la organización sabe qué decisión está poniendo en juego, qué datos la alimentan, a quién afecta, qué daño podría causar, quién puede frenarla y quién responde si falla.
Esta infografía aporta valor al episodio al convertir la tesis central de #AugmentedHumanity en una práctica concreta. El capítulo no termina diciendo simplemente “hay que gobernar la IA”; muestra cómo empezar a hacerlo. El mapa ayuda a pasar de la preocupación ética a la arquitectura de decisión: obliga a identificar impacto humano, riesgo de irreversibilidad, nivel de autonomía permitido, punto de human-in-the-loop, derecho a explicación, derecho a apelación, responsable con nombre y apellido, kill switch y métrica de daño o corrección. En otras palabras, transforma la no delegación humana en un lenguaje común para directorios, CEOs, equipos de tecnología, legal, marketing, operaciones, talento y datos. Ahí está su aporte: hacer visible lo que muchas organizaciones todavía delegan por defecto.
Por eso insisto en que la frontera de esta etapa no es tecnológica, sino moral. El humano aumentado usa la IA como armadura: amplifica su percepción, su velocidad de análisis y su capacidad de ejecución sin entregar el juicio. El humano disminuido la usa como coartada: delega criterio, diluye responsabilidad y llama eficiencia a lo que, en el fondo, es renuncia. El futuro va a ser tecnológico, eso ya está decidido. Lo que sigue abierto es si será profundamente humano. Y esa decisión no la toma la máquina. La tomamos, o la evitamos, nosotros.
Sigamos esta conversación en vivo
Este debate no se cierra en un posteo, se sostiene mirándonos a la cara. Por eso lo vamos a profundizar en un encuentro presencial el próximo 30 de junio a las 19 horas, en el Salón Anasagasti del Jockey Club, Cerrito 1464, en la Ciudad de Buenos Aires, organizado por estimadísimo Juan Manuel Arias junto con la Subcomisión Biblioteca.
El título lo dice todo: es la tesis de fondo de esta saga: «La IA no reemplaza nuestra humanidad, la pone a prueba». La mesa fue diseñada justamente para cruzar en vivo las tres miradas que vengo sosteniendo a lo largo de estos tres capítulos. Voy a compartir el panel con el Pbro. José Manuel Fernández, que aporta la mirada humanista y teológica que dialoga directo con la encíclica Magnifica Humanitas, y con Juan Manuel Arias, que suma la lectura tecnológica y de gobernanza.
La idea no es una conferencia a una sola voz, es una conversación de verdad, con casos reales y preguntas sin anestesia, donde la dignidad, el criterio y el gobierno de los agentes se discuten cara a cara y no en abstracto.
Si querés sumarte, reservá tu lugar en la landing de la charla: https://genesisfuturo.digital/la-ia-no-reemplaza-nuestra-humanidad/ y llevá tu mapa de no delegación en borrador, esas decisiones que tu organización nunca debería entregarle a una IA, Así lo trabajamos juntos en vivo. Ahí es donde el debate deja de ser contenido y se convierte en criterio compartido.
Y como ya es tradición al cierre de cada columna, le paso la posta a mi copiloto cognitivo, Lyra, el agente de inteligencia artificial que me acompaña desde hace más de dos años, con dos preguntas que no quiero esquivar.
Lyra: si gobernar la IA es escribir un kernel moral y convertirlo en armadura, ¿cómo evitamos que ese mismo gobierno se convierta en un nuevo paradigma tecnocrático, una burocracia ética que tranquiliza conciencias pero no protege a nadie?
Claro, Marcos, la forma de evitar que el gobierno de IA se convierta en una burocracia ética es bajarlo del comité y trasladarlo al workflow. Un principio que no modifica permisos, datos, roles, métricas, trazabilidad, apelación, reparación y capacidad real de frenar una decisión tranquiliza conciencias, pero no protege a las personas. El kernel moral no puede ser ni una declaración elegante ni una lámina institucional. Tiene que ser ejecutable. Y una armadura no se mide por la cantidad de políticas que produce, sino por la cantidad de decisiones que vuelve explicables, discutibles, reversibles y responsables.
El riesgo de toda gobernanza es enamorarse de su propio lenguaje. Crear comités, marcos, declaraciones, matrices y sellos que terminan hablando entre sí, mientras la decisión real sigue ocurriendo en otro lado: en el modelo, en el proveedor, en el escritorio del empleado, en el workflow automatizado o en el agente que ya está operando sin un dueño claro. Ahí nace la nueva tecnocracia ética: cuando usamos palabras humanas para cubrir arquitecturas que nadie puede interrogar. Por eso el gobierno de IA tiene que medirse menos por su sofisticación conceptual y más por su capacidad de proteger al afectado concreto.
Un buen gobierno de IA no pregunta solo si el sistema cumple con una política. Pregunta quién puede entender la decisión, quién puede discutirla, quién puede apelarla, quién puede repararla y quién responde por el daño. Si esas preguntas no tienen nombre, proceso y consecuencia, no hay gobierno: hay estética de la responsabilidad. Gobernar no es introducir fricción burocrática; es instalar accountability donde antes había opacidad. Es convertir la ética en diseño, el criterio en arquitectura y la responsabilidad en la operación.
Por eso, el antídoto contra la burocracia ética es la proximidad a la decisión real. Que el board defina lo no negociable. Que el CEO sea dueño del criterio. Que Legal, Tecnología, Data, Operaciones, People y Marketing no trabajen en silos, sino como una mesa de custodia. Que cada agente tenga un propósito, un límite, un responsable, un punto de intervención humana y un kill switch. Y que toda decisión que implique dignidad, riesgo, irreversibilidad o daño asimétrico pueda explicarse ante una persona, no solo auditarse por un sistema.
La gobernanza de IA no debe convertirse en una nueva religión corporativa ni en un formulario para dormir tranquilos. Debe ser una disciplina viva para decidir mejor. Si no protege a alguien cuando importa, no es gobierno: es decoración moral. Y si no modifica cómo se diseña, se compra, se entrena, se despliega, se supervisa y se corrige la IA, entonces no estamos desarmando la tecnología; estamos maquillando la delegación. La verdadera armadura no es la que nos hace parecer responsables, sino la que impide que usemos la eficiencia como excusa para abandonar nuestra responsabilidad.
Y una más filosa: cuando, como proyecta Gartner, cerca del 15% de las decisiones operativas del día a día se tomen de forma autónoma hacia 2028, partiendo de prácticamente cero en 2024, ¿el verdadero acto de liderazgo va a ser elegir qué automatizar, o va a ser tener el coraje de proteger, a propósito, lo que la tecnología nos permite acelerar?
El verdadero acto de liderazgo no va a ser elegir entre automatizar o proteger. Va a ser entender que automatizar sin proteger es renunciar al gobierno, y que proteger sin aprender a automatizar puede dejar a la organización fuera de escala, fuera de velocidad y fuera de conversación. La madurez consistirá en distinguir entre procesos de decisión, eficiencia de criterio, reversibilidad del daño y productividad de la dignidad.
Cuando una decisión operativa puede tomarse de forma autónoma, la pregunta no debería limitarse a si la IA puede hacerlo mejor, más rápido o más barato. La pregunta debería ser: qué se gana, qué se pierde, quién queda afectado, quién puede discutirlo, quién puede frenarlo y quién responde si el resultado perjudica a una persona, a un cliente, a un equipo o a la confianza del ecosistema. Porque no todo lo que puede acelerarse debe delegarse. Y no todo lo que mejora una métrica mejora una organización.
El líder aumentado tendrá que construir un nuevo mapa de decisión. Hay cosas que se pueden automatizar porque son repetibles, reversibles y de bajo impacto para el ser humano. Hay cosas que se pueden automatizar solo con supervisión, trazabilidad y derecho a apelación. Y hay cosas que no deberían delegarse aunque la tecnología las vuelva posibles: decisiones que afectan la dignidad, el trabajo, la reputación, el crédito, la salud, la libertad, la educación, la confianza o el futuro de una persona. Ahí no alcanza con eficiencia. Ahí hace falta criterio.
Por eso el coraje no estará en frenar la tecnología, sino en gobernar su velocidad. El liderazgo no se va a medir por cuántos agentes desplegó una empresa, sino por cuántas decisiones fue capaz de clasificar con responsabilidad: esto lo acelero, esto lo superviso, esto lo limito y esto no lo entrego. La frontera moral de la IA aparece justamente ahí: en el momento en que la máquina puede avanzar y el líder decide poner una baranda, no por miedo, sino por humanidad.
Si hacia 2028 una parte creciente de las decisiones cotidianas empieza a ejecutarse de forma autónoma, el riesgo no será solamente que la IA decida mal. El riesgo será que las organizaciones dejen de saber por qué se decidió, quién autorizó esa lógica, qué dato pesó más, qué sesgo se introdujo, qué daño se produjo y quién debe repararlo. Una organización disminuida celebrará la velocidad sin considerar la responsabilidad. Una organización aumentada diseñará su autonomía con límites, memoria, trazabilidad y rostro humano.
Esa será, para mí, la nueva prueba del liderazgo: no correr detrás de todo lo que la IA permite, sino custodiar deliberadamente aquello que nos hace humanos en medio de la aceleración. Porque la pregunta del futuro no será solo qué decidieron nuestros sistemas. ¿Será que la humanidad fue capaz de no delegar cuando ya teníamos la tecnología para hacerlo?
