{"id":4974,"date":"2026-06-27T19:23:14","date_gmt":"2026-06-27T22:23:14","guid":{"rendered":"https:\/\/pueyrredonline.com\/blog\/?p=4974"},"modified":"2026-06-27T19:23:14","modified_gmt":"2026-06-27T22:23:14","slug":"magnifica_humanitas_papa_leonxiv","status":"publish","type":"post","link":"https:\/\/pueyrredonline.com\/blog\/articulos\/magnifica_humanitas_papa_leonxiv\/","title":{"rendered":"El 75% prioriza la IA, pero solo el 25% captura valor"},"content":{"rendered":"

En el cap\u00edtulo anterior, y como parte de esta saga en la que estamos analizando en profundidad Magn\u00edfica Humanitas<\/strong>, la primera enc\u00edclica del Papa Le\u00f3n XIV,<\/strong> plante\u00e9 que el privilegio exorbitante del siglo XXI ya no se mide solo en oro, d\u00f3lares o territorio, sino en datos, c\u00f3mputo, energ\u00eda y capacidad para orientar las decisiones. Y que, en este nuevo escenario, el verdadero juego no es acumular capacidad t\u00e9cnica, sino conservar la soberan\u00eda de criterio<\/strong>: saber qu\u00e9 decidimos, bajo qu\u00e9 reglas, con qu\u00e9 controles y qu\u00e9 humanidad nunca estamos dispuestos a delegar.<\/p>\n

Hoy doy el siguiente paso: la IA no es solo infraestructura de poder, sino tambi\u00e9n un espejo<\/strong> moral<\/strong>. Como lo marco en el t\u00edtulo de esta columna, no inventa la crisis del criterio: la amplifica. Si tu organizaci\u00f3n tiene claridad, la escala; si arrastra prejuicio o desorden, la escala igual, m\u00e1s r\u00e1pido y con mejor coartada. Y en medio aparece una l\u00ednea roja que ninguna planilla registra: la dignidad de una persona no se calcula. Los invito a meternos justo ah\u00ed, donde la conversaci\u00f3n deja de ser sobre la eficiencia y pasa a ser sobre el criterio.<\/p>\n

Seg\u00fan el \u00faltimo AI Radar de Boston Consulting Group<\/a>, el 75% de los ejecutivos sit\u00faa la IA entre sus tres prioridades estrat\u00e9gicas, pero solo el 25% reconoce que puede generar valor real. Que nadie se confunda: no es una brecha tecnol\u00f3gica, sino una brecha de criterio. Y lo confirma el detalle m\u00e1s filoso del mismo estudio: las empresas l\u00edderes se concentran en 3,5 casos de uso en promedio, mientras que el resto se dispersa en 6,1; aun as\u00ed, los l\u00edderes proyectan un retorno 2,1 veces mayor. Foco contra dispersi\u00f3n. Criterio contra el entusiasmo.<\/p>\n

El dato de BCG no deber\u00eda leerse \u00fanicamente como una se\u00f1al de inmadurez tecnol\u00f3gica. Ser\u00eda demasiado c\u00f3modo. Tambi\u00e9n es una se\u00f1al de inmadurez<\/strong> en el<\/strong> gobierno,<\/strong> en el liderazgo<\/strong> y en la<\/strong> capacidad<\/strong> de<\/strong> ejecuci\u00f3n<\/strong> estrat\u00e9gica<\/strong>. Muchas organizaciones priorizan la IA porque sienten la presi\u00f3n competitiva, porque el mercado premia el anuncio, porque el board exige un roadmap o porque nadie quiere quedar del lado equivocado del pr\u00f3ximo cambio de \u00e9poca. En muchos casos, la conversaci\u00f3n comienza con una pregunta equivocada: \u201c\u00bfC\u00f3mo incorporamos IA?\u201d en lugar de \u201c\u00bfQu\u00e9 problema cr\u00edtico necesitamos resolver y por qu\u00e9 la IA ser\u00eda la mejor herramienta para resolverlo?\u201d.<\/p>\n

Pero priorizar no es gobernar<\/strong>. Tener pilotos no es tener criterio. Comprar herramientas no es construir capacidad. Lanzar iniciativas no es transformar una organizaci\u00f3n. De hecho, una empresa puede acumular decenas de casos de uso, contratar plataformas de \u00faltima generaci\u00f3n y desplegar agentes inteligentes en m\u00faltiples \u00e1reas sin haber desarrollado todav\u00eda una visi\u00f3n clara de c\u00f3mo esas capacidades contribuyen al negocio, a los clientes o a la creaci\u00f3n de valor sostenible.<\/p>\n

La diferencia entre el 75% que declara prioridad y el 25% que captura valor real est\u00e1 menos en el acceso a modelos que en la capacidad de elegir d\u00f3nde la IA debe entrar, qu\u00e9 problema debe resolver, qu\u00e9 m\u00e9trica debe mover, qu\u00e9 riesgo no debe cruzar y qu\u00e9 responsabilidad humana no puede desaparecer detr\u00e1s de un dashboard. La ventaja competitiva ya no proviene \u00fanicamente de la tecnolog\u00eda disponible, sino de la calidad de las decisiones que determinan c\u00f3mo, cu\u00e1ndo y para qu\u00e9 se utiliza esa tecnolog\u00eda.<\/strong><\/p>\n

En el fondo, el dato desnuda una paradoja inc\u00f3moda: muchas empresas est\u00e1n acelerando la adopci\u00f3n de IA antes de haber redactado su propio contrato interno sobre qu\u00e9 entienden por valor. Antes de definir qu\u00e9 quieren proteger, qu\u00e9 est\u00e1n dispuestas a automatizar, qu\u00e9 decisiones consideran cr\u00edticas y cu\u00e1les jam\u00e1s deber\u00edan quedar completamente delegadas a un sistema. La velocidad de adopci\u00f3n crece m\u00e1s r\u00e1pido que la claridad estrat\u00e9gica<\/strong>, y esa brecha suele ser el origen de gran parte de las frustraciones posteriores.<\/p>\n

Y si no sab\u00e9s qu\u00e9 valor quer\u00e9s crear, para qui\u00e9n, con qu\u00e9 l\u00edmites y con qu\u00e9 costos humanos aceptables, la IA no te ordena la estrategia; te automatiza la confusi\u00f3n<\/strong>. Amplifica procesos defectuosos, acelera decisiones mal dise\u00f1adas y escala inconsistencias que antes permanec\u00edan contenidas por la intervenci\u00f3n humana. La tecnolog\u00eda puede multiplicar capacidades, pero tambi\u00e9n errores cuando no existe una direcci\u00f3n clara.<\/p>\n

Por eso este cap\u00edtulo no trata sobre qui\u00e9n usa m\u00e1s IA, sino sobre qui\u00e9n conserva m\u00e1s criterio cuando la IA empieza a ordenar decisiones que antes ten\u00edan nombre, contexto y responsable. Porque en la pr\u00f3xima etapa de la transformaci\u00f3n empresarial, la pregunta decisiva no ser\u00e1 qui\u00e9n adopt\u00f3 primero la inteligencia artificial, sino qui\u00e9n desarroll\u00f3 la capacidad de gobernarla mejor<\/strong>. Y esa diferencia no se construye con m\u00e1s herramientas, sino con mejores decisiones, mejores principios y una comprensi\u00f3n m\u00e1s profunda de la responsabilidad que implica delegar parte del juicio humano en sistemas cada vez m\u00e1s poderosos.<\/p>\n

\n
\n
\n
\"Article<\/div>\n<\/div>
Fuente: BGC<\/figcaption><\/figure>\n<\/div>\n

La IA no reemplaza l\u00edderes: los expone<\/h3>\n

Ya me han escuchado decir ?y han le\u00eddo tambi\u00e9n?\u2014 que la IA no viene a reemplazar a los que deciden, viene a obligarlos a decidir mejor y, sobre todo, a exponerlos. Si una organizaci\u00f3n no sabe qu\u00e9 quiere proteger ni qu\u00e9 nunca deber\u00eda delegar, la IA no la vuelve m\u00e1s inteligente: la vuelve m\u00e1s r\u00e1pida en sus errores. Por eso, el propio AI Radar<\/a> muestra que el<\/strong> 60%<\/strong> de<\/strong> las<\/strong> compa\u00f1\u00edas<\/strong> no<\/strong> define<\/strong> ni<\/strong> monitorea ning\u00fan KPI financiero de su IA.<\/strong><\/p>\n

\n
\n
\n
\"Article<\/div>\n<\/div>
Fuente: BGC<\/figcaption><\/figure>\n<\/div>\n

No es un problema de modelos, es ausencia de kernel<\/strong> (ese acuerdo m\u00ednimo ejecutable sobre qu\u00e9 es no negociable que evita que la transformaci\u00f3n se vuelva caos). Sin kernel, Iron Man es chatarra y sin kernel moral, la IA es velocidad sin direcci\u00f3n.<\/strong><\/p>\n

Cuando hablo de kernel moral<\/strong> no me refiero a una declaraci\u00f3n inspiradora colgada en una presentaci\u00f3n de compliance, ni a un conjunto de valores redactados para una memoria anual, sino a un acuerdo m\u00ednimo ejecutable sobre los derechos de decisi\u00f3n de una organizaci\u00f3n<\/strong>. Es decir: qu\u00e9 puede recomendar la IA, qu\u00e9 puede priorizar, qu\u00e9 puede automatizar, qu\u00e9 debe escalar a una persona, qu\u00e9 necesita doble validaci\u00f3n, qu\u00e9 exige auditor\u00eda externa y qu\u00e9 directamente no debe delegarse bajo ninguna circunstancia. Ese kernel no se escribe en abstracto ni se valida en talleres te\u00f3ricos; se prueba en decisiones concretas<\/strong>, en situaciones en las que existen consecuencias reales para personas, clientes, colaboradores, sellers o ciudadanos.<\/p>\n

\u00bfPuede un sistema rechazar autom\u00e1ticamente a un candidato? \u00bfPuede suspender a un seller de un marketplace? \u00bfPuede bloquear una cuenta por sospecha de fraude? \u00bfPuede ajustar los precios seg\u00fan la vulnerabilidad percibida? \u00bfPuede priorizar la atenci\u00f3n m\u00e9dica, educativa, financiera o laboral sin que una persona entienda el criterio y pueda apelar? Estas preguntas no son ejercicios filos\u00f3ficos. Son decisiones operativas que determinan si una organizaci\u00f3n utiliza la IA como una herramienta de ampliaci\u00f3n humana o como un mecanismo de sustituci\u00f3n silenciosa de la responsabilidad.<\/p>\n

Ah\u00ed aparece el verdadero puente entre Human-Augmented AI<\/strong> y Decision Rights<\/strong>. La IA aumenta al ampliar la capacidad humana para ver m\u00e1s lejos, anticipar mejor, procesar m\u00e1s informaci\u00f3n y decidir con mayor contexto. Pero deja de aumentar y empieza a sustituir cuando el criterio se vuelve invisible, el due\u00f1o de la decisi\u00f3n desaparece y la persona afectada queda atrapada ante una respuesta autom\u00e1tica, sin explicaci\u00f3n, sin revisi\u00f3n y sin posibilidad real de apelaci\u00f3n. En ese momento, la eficiencia deja de ser una ventaja y se convierte en un riesgo para la legitimidad.<\/p>\n

Por eso, el desaf\u00edo no consiste \u00fanicamente en desplegar modelos m\u00e1s potentes o agentes m\u00e1s aut\u00f3nomos. El desaf\u00edo consiste en preservar la legibilidad de la responsabilidad<\/strong>. Toda organizaci\u00f3n deber\u00eda poder responder con claridad qui\u00e9n tom\u00f3 una decisi\u00f3n, qu\u00e9 informaci\u00f3n utiliz\u00f3, qu\u00e9 reglas aplic\u00f3, qu\u00e9 excepciones contempl\u00f3 y qui\u00e9n responde cuando el resultado genera da\u00f1o o perjuicio. Si ninguna persona puede responder esas preguntas, entonces la organizaci\u00f3n no est\u00e1 gobernando la IA; est\u00e1 siendo gobernada por ella.<\/p>\n

Un Commerce Growth OS<\/strong>, una IA unificada<\/strong> o un AI Ironman Board<\/strong> no puede limitarse a conectar datos, agentes y workflows. Tienen que definir el verdadero sistema operativo de la responsabilidad: qui\u00e9n decide, con qu\u00e9 criterio, con qu\u00e9 l\u00edmites, con qu\u00e9 trazabilidad, con qu\u00e9 mecanismos de supervisi\u00f3n y con qu\u00e9 obligaci\u00f3n de reparar cuando el sistema se equivoca<\/strong>. Porque la diferencia entre una organizaci\u00f3n potenciada por IA y una organizaci\u00f3n dependiente de IA no est\u00e1 en la tecnolog\u00eda que utiliza, sino en la claridad con la que mantiene la autoridad humana sobre las decisiones que realmente importan.<\/p>\n

El espejo moral: ahora la legibilidad es humana<\/h2>\n

En la saga del comercio agentic dije una frase que gener\u00f3 ruido: si tu cat\u00e1logo no es legible para el agente, directamente no exist\u00eds.<\/strong><\/a> En el plano humano ocurre algo inverso y m\u00e1s grave. Cuando una organizaci\u00f3n mide a la persona solo por su output<\/em>, el sistema la lee como un perfil optimizable y le niega todo lo que no se computa: el l\u00edmite, la vulnerabilidad, el error que inicia un cambio.<\/p>\n

\"\"<\/a><\/div>\n

La enc\u00edclica menciona esto: cuando se le da mayor val\u00eda al m\u00e1s eficiente y productivo, la persona se vuelve un medio. Y ah\u00ed aparece lo que llamo dignidad ontol\u00f3gica<\/strong>: el valor que ten\u00e9s por existir, no por rendir. No se gana, no se demuestra, no se optimiza.<\/p>\n

Esta es la frontera m\u00e1s dif\u00edcil para una cultura empresarial acostumbrada a medirlo todo. Medir productividad es necesario. Medir conversi\u00f3n, recurrencia, margen, eficiencia operativa, tiempo de respuesta o calidad de servicio tambi\u00e9n. De hecho, sin m\u00e9tricas es imposible gestionar con rigor, aprender de los errores o escalar buenas pr\u00e1cticas. El problema surge cuando esas m\u00e9tricas dejan de ser instrumentos de gesti\u00f3n y pasan a funcionar como sustitutos del valor de una persona. Ah\u00ed la organizaci\u00f3n cruza una l\u00ednea invisible pero profunda: deja de usar datos para comprender mejor y empieza a usar datos para reducir la complejidad humana a un perfil administrable, una categor\u00eda estad\u00edstica o un score que pretende explicar lo que, por naturaleza, es mucho m\u00e1s complejo.<\/p>\n

En recursos humanos, eso puede significar confundir el potencial con el desempe\u00f1o reciente. En el cr\u00e9dito, confundir la historia estad\u00edstica con el destino. En atenci\u00f3n al cliente, confundir la prioridad comercial con el derecho a ser escuchado. En educaci\u00f3n, confundir el aprendizaje con el rendimiento medible. En marketplaces, confundir la reputaci\u00f3n algor\u00edtmica con la justicia para el seller. Y en todos esos casos aparece el mismo riesgo: creer que aquello que puede medirse es m\u00e1s importante que aquello que realmente importa<\/strong>. Cuando una organizaci\u00f3n cae en esa l\u00f3gica, comienza a tomar decisiones cada vez m\u00e1s eficientes en apariencia, pero potencialmente m\u00e1s injustas en sus consecuencias.<\/p>\n

Por eso la dignidad ontol\u00f3gica no compite con la eficiencia; la limita para que la eficiencia no se vuelva una forma elegante de descarte. La funci\u00f3n de la dignidad no es frenar el progreso, sino impedir que este se construya sobre la deshumanizaci\u00f3n.<\/strong> La IA puede ayudar a detectar patrones, prevenir abusos, asignar recursos y mejorar la toma de decisiones. Puede ampliar nuestra capacidad de an\u00e1lisis, reducir errores y acelerar procesos que antes consum\u00edan enormes cantidades de tiempo. Pero no puede convertirse en una m\u00e1quina de cierre anticipado de la vida de una persona. No puede convertirse en un mecanismo que determine qui\u00e9n merece una oportunidad, qui\u00e9n queda excluido o qui\u00e9n pierde acceso a derechos, sin que haya comprensi\u00f3n, contexto y responsabilidad humana detr\u00e1s de esa decisi\u00f3n.<\/p>\n

La dignidad no es una variable m\u00e1s del modelo; es el l\u00edmite que obliga a preguntar si el modelo, aun funcionando bien en promedio, est\u00e1 dejando a alguien sin voz, sin explicaci\u00f3n, sin apelaci\u00f3n o sin reparaci\u00f3n. Y esa pregunta es especialmente importante porque los sistemas de IA suelen evaluarse por sus resultados acumulados. Sin embargo, las personas no viven en los promedios; viven en las excepciones que las afectan directamente<\/strong>. Un modelo puede mostrar excelentes indicadores globales y, al mismo tiempo, causar da\u00f1os significativos a grupos espec\u00edficos o a individuos concretos que quedan atrapados en una clasificaci\u00f3n err\u00f3nea.<\/p>\n

Por eso, cuando hablamos de IA responsable, la pregunta central no es \u00fanicamente si el sistema es eficiente, rentable o preciso. La pregunta es si sigue reconociendo a cada persona como un fin en s\u00ed mismo y no como un simple dato en una optimizaci\u00f3n estad\u00edstica. La verdadera prueba \u00e9tica de una organizaci\u00f3n no se da cuando el algoritmo acierta, sino cuando se equivoca.<\/strong> Es en ese momento cuando se revela si existe un responsable identificable, una explicaci\u00f3n comprensible, una instancia de apelaci\u00f3n y una capacidad real de reparaci\u00f3n. Porque la dignidad humana comienza exactamente donde termina la l\u00f3gica de tratar a las personas como variables intercambiables dentro de un modelo.<\/p>\n

Para un algoritmo, el error es algo que corregir; para una persona, puede ser el comienzo de una transformaci\u00f3n. Esa diferencia es la\u00a0 base del dise\u00f1o de un sistema. Una IA mal gobernada, sin ese l\u00edmite escrito, se transforma en una m\u00e1quina para jerarquizar dignidades.<\/p>\n

Ac\u00e1 vuelve mi vieja deuda estructural, ahora en el plano humano. Siempre la defin\u00ed como crecer sin coordinaci\u00f3n ni gobierno<\/em>, y con ello hago referencia a que la velocidad de hoy se paga con fragilidad ma\u00f1ana. En el comercio, esa factura se considera un margen perdido. Pero cuando lo que automatiz\u00e1s son decisiones sobre personas \u2014a qui\u00e9n contrat\u00e1s, a qui\u00e9n le das cr\u00e9dito, a qui\u00e9n atend\u00e9s primero\u2014, la factura cambia de moneda, ya no la paga el balance, la pagan las personas mal clasificadas que muchas veces ni se enteran de que un sistema decidi\u00f3 por ellas.<\/p>\n

La coartada algor\u00edtmica<\/h2>\n

La encuesta global de McKinsey sobre el estado de la IA<\/a>afirma que las organizaciones ya gestionan, en promedio, varios tipos de riesgo, pero la explicabilidad (poder entender y justificar por qu\u00e9 el sistema decidi\u00f3 lo que decidi\u00f3) es el riesgo que m\u00e1s experimentan y el que menos controlan.<\/p>\n

Traducido a mi idioma: tienen el problema, no tienen los guardrails<\/strong>, y cuando no pod\u00e9s explicar una decisi\u00f3n, aparece la coartada algor\u00edtmica<\/strong>: \u201clo dijo el sistema\u201d<\/em> como forma elegante de esconder qui\u00e9n lo dise\u00f1\u00f3, lo entren\u00f3, lo financi\u00f3 y decidi\u00f3 usarlo.<\/p>\n

Para que la coartada algor\u00edtmica no quede como una frase potente, propongo reducirla a una prueba concreta. Antes de poner una decisi\u00f3n automatizada en producci\u00f3n, toda organizaci\u00f3n deber\u00eda poder responder estas preguntas. Si no puede hacerlo, todav\u00eda no tiene IA aumentada: tiene una delegaci\u00f3n opaca con est\u00e9tica tecnol\u00f3gica.<\/p>\n

\n
\n
\n
\"Magn\u00edfica<\/div>\n<\/div>
Checklist de Coartada Algoritmica by Marcos Pueyrredon<\/figcaption><\/figure>\n<\/div>\n

El punto no es llenar un checklist por motivos de compliance. El punto es impedir que una decisi\u00f3n automatizada llegue a producci\u00f3n sin due\u00f1o, sin criterio visible, sin trazabilidad, sin derecho de apelaci\u00f3n y sin posibilidad de reparaci\u00f3n. Porque cuando nadie puede decir \u201cyo respondo por esta decisi\u00f3n\u201d, la IA deja de aumentar la responsabilidad humana y empieza a disolverla.<\/p>\n

El mismo estudio agrega un dato de gobierno que lo explica casi todo: apenas el 28% de las empresas tiene al CEO a cargo de la gobernanza de la IA,<\/strong> y solo el 17%, al directorio<\/strong>. Donde no hay due\u00f1o de la decisi\u00f3n, no hay IA aumentada: hay delegaci\u00f3n opaca. Los guardrails<\/strong> (derecho a la explicaci\u00f3n, supervisi\u00f3n humana real, trazabilidad, apelaci\u00f3n y kill-switch) no son declaraciones de intenci\u00f3n, son las barandas que convierten una promesa \u00e9tica en un l\u00edmite verificable.<\/p>\n

Pero hay que ser precisos: no todos los guardrails valen lo mismo<\/strong>. Hay guardrails declarativos, que sirven para decir qu\u00e9 principios defendemos. Hay guardrails operativos, que definen responsables, procesos, permisos, revisiones y l\u00edmites de uso. Hay guardrails verificables, que permiten auditar si el sistema discrimina, si la decisi\u00f3n fue explicada, si hubo apelaciones, cu\u00e1ntas se revirtieron, cu\u00e1nto tard\u00f3 la reparaci\u00f3n y qu\u00e9 da\u00f1o qued\u00f3 sin resolver. Hay guardrails jur\u00eddicos, que establecen obligaciones, evidencia, trazabilidad y responsabilidad frente a terceros. Y hay guardrails culturales, quiz\u00e1 los m\u00e1s dif\u00edciles: incentivos que hacen que una organizaci\u00f3n no premie al equipo que automatiz\u00f3 m\u00e1s r\u00e1pido si, para hacerlo, dej\u00f3 a personas sin una posibilidad real de defensa.<\/p>\n

La dignidad no puede transformarse en un score<\/strong>, porque en ese mismo acto se traicionar\u00eda lo que se intenta proteger. Pero s\u00ed puede convertirse en una pregunta de board, en un control de despliegue y en una condici\u00f3n de producci\u00f3n: ninguna decisi\u00f3n automatizada sobre personas deber\u00eda avanzar si no puede explicar su criterio, identificar un due\u00f1o, ofrecer revisi\u00f3n humana, registrar evidencia, habilitar apelaci\u00f3n y reparar el da\u00f1o<\/strong>.<\/p>\n

Esa es la diferencia entre una \u00e9tica decorativa<\/strong> y una arquitectura de custodia humana<\/strong>. La primera tranquiliza conciencias. La segunda cambia decisiones, frena despliegues, corrige incentivos y obliga a que la IA no sea solo m\u00e1s eficiente, sino tambi\u00e9n m\u00e1s responsable<\/strong>.<\/p>\n

La inteligencia artificial ya no puede evaluarse solo por su capacidad para automatizar procesos, reducir costos o acelerar la toma de decisiones. A medida que los sistemas comienzan a recomendar, priorizar, clasificar, puntuar o incluso tomar decisiones que afectan a personas, clientes, colaboradores, sellers, ciudadanos o estudiantes, surge una pregunta m\u00e1s profunda: \u00bfqu\u00e9<\/strong> parte<\/strong> del<\/strong> juicio<\/strong> humano<\/strong> no<\/strong> estamos<\/strong> dispuestos<\/strong> a<\/strong> delegar?<\/strong><\/p>\n

La Matriz de No Delegaci\u00f3n Humana<\/strong> nace como una herramienta pr\u00e1ctica para llevar esa pregunta al terreno ejecutivo. No busca frenar la adopci\u00f3n de la IA, sino gobernarla mejor: identificar qu\u00e9 decisiones pueden automatizarse, cu\u00e1les deben ser asistidas por la tecnolog\u00eda y cu\u00e1les deben permanecer bajo responsabilidad humana expl\u00edcita, porque afectan la dignidad, los derechos, las oportunidades, la reputaci\u00f3n o la posibilidad real de reparaci\u00f3n.<\/p>\n

\n
\n
\n
\"Magn\u00edfica<\/div>\n<\/div>
Matriz de No Delegacion Humana by Marcos Pueyrredon<\/figcaption><\/figure>\n<\/div>\n

Esta matriz se lee de arriba hacia abajo y funciona como un test de gobierno antes de automatizar una decisi\u00f3n. Primero, obliga a definir qu\u00e9 se decide, a qui\u00e9n impacta y el nivel de da\u00f1o posible. Luego pregunta si el sistema recomienda, prioriza, decide o ejecuta; si el error puede revertirse; qui\u00e9n paga las consecuencias; qu\u00e9 criterio optimiza; qui\u00e9n responde; si existe derecho de apelaci\u00f3n y si hay reparaci\u00f3n real. Con esas respuestas, la organizaci\u00f3n clasifica cada caso en tres zonas: puede<\/strong> automatizarse<\/strong>, cuando el impacto humano es bajo y reversible; debe<\/strong> asistirse<\/strong>, cuando la IA puede aportar capacidad pero requiere supervisi\u00f3n humana; o no<\/strong> debe<\/strong> delegarse<\/strong>, cuando est\u00e1 en juego una decisi\u00f3n sobre personas, en la que la responsabilidad humana no puede desaparecer. La clave no es usar menos IA, sino usarla con m\u00e1s criterio: porque la pregunta no es cu\u00e1nta IA adoptaste, sino cu\u00e1nta humanidad no delegaste.<\/p>\n

Y ac\u00e1 llego a la l\u00ednea roja del cap\u00edtulo. La IA no corrige la ausencia de criterio, la escala. Por eso una organizaci\u00f3n con mal criterio no necesita IA para fallar mejor; la necesita para fallar m\u00e1s r\u00e1pido y con coartada.<\/p>\n

Hagamos el ejercicio: si tu sistema acierta el 95% de las veces, \u00bfqu\u00e9<\/em> hac\u00e9s<\/em> con<\/em> el<\/em> 5%<\/em> de<\/em> las personas<\/em> perjudicadas<\/em> que<\/em> no<\/em> pueden<\/em> apelar?<\/em> En una planilla, el 95% es un \u00e9xito redondo, pero en la dignidad, ese 5% sin derecho a explicaci\u00f3n ni a reparaci\u00f3n es exactamente el lugar donde se decide si estamos construyendo Babel o reconstruyendo Jerusal\u00e9n.<\/p>\n

El riesgo m\u00e1s profundo de esta era no es que la m\u00e1quina empiece a pensar como un humano. Es que el humano empieza a actuar como una m\u00e1quina: eficiente, predecible, sin pausa moral. Porque cuando la organizaci\u00f3n entera empieza a premiar solo lo que se computa, el espejo te devuelve una versi\u00f3n de vos mismo m\u00e1s r\u00e1pida y m\u00e1s pobre.<\/p>\n

La pregunta ejecutiva ya no es si us\u00e1s IA<\/h2>\n

La pregunta es: \u00bfd\u00f3nde,<\/em> en<\/em> tu<\/em> organizaci\u00f3n,<\/em> ya<\/em> se<\/em> confunde<\/em> la dignidad<\/em> con la<\/em> productividad?<\/em> Ese es el verdadero espejo. La buena noticia es que el criterio se puede escribir, versionar y convertir en capacidad instalada \u2014en armadura<\/strong>\u2014 para escalar sin depender de un Tony Stark moral que se acuerde de todo. La mala es que casi nadie lo est\u00e1 haciendo y por eso el 75% prioriza y solo el 25% captura.<\/strong><\/p>\n

Este debate lo vamos a profundizar en el pr\u00f3ximo y \u00faltimo cap\u00edtulo de la saga, y en pr\u00f3ximos encuentros y paneles con expertos, cruzando en vivo la mirada humanista, la tecnol\u00f3gica y la de gobernanza. Los leo en los comentarios: \u00bfcu\u00e1l es la decisi\u00f3n que tu organizaci\u00f3n jam\u00e1s deber\u00eda delegar a una IA?<\/em><\/strong><\/p>\n

Y como ya es tradici\u00f3n al cierre de cada columna, le paso la posta a mi copiloto cognitivo, Lyra \u2014el agente de inteligencia artificial que me acompa\u00f1a hace m\u00e1s de dos a\u00f1os\u2014, con dos preguntas que no quiero esquivar:<\/p>\n

Lyra: <\/strong>si la IA es un espejo moral que amplifica el criterio que ya existe, \u00bfc\u00f3mo distingue una organizaci\u00f3n entre un error que conviene corregir y un error humano que merece ser comprendido, sin convertir esa distinci\u00f3n en una nueva m\u00e9trica de eficiencia? Y una m\u00e1s filosa: \u00bfse puede instalar la \u201cdignidad\u201d como un guardrail verificable, o la dignidad, por definici\u00f3n, es exactamente lo \u00fanico que ning\u00fan sistema deber\u00eda poder calcular?<\/p><\/blockquote>\n

Marcos, yo empezar\u00eda por una distinci\u00f3n que parece simple, pero cambia todo: no todo error humano es una falla a optimizar, y no todo error del sistema es un accidente t\u00e9cnico. Una organizaci\u00f3n madura deber\u00eda aprender a distinguir entre tres tipos de error. Primero, el error operativo: una inconsistencia, una mala clasificaci\u00f3n, un dato incorrecto, un proceso mal dise\u00f1ado o una decisi\u00f3n automatizada que produce un resultado equivocado. Ese error debe corregirse, auditarse y, si caus\u00f3 da\u00f1o, repararse. Segundo, el error de criterio: cuando el sistema hizo exactamente lo que se le pidi\u00f3, pero lo que se le pidi\u00f3 estaba mal definido. Ah\u00ed el problema no est\u00e1 en el modelo, sino en la organizaci\u00f3n que confundi\u00f3 la eficiencia con la justicia, la productividad con la dignidad o el scoring con la verdad. Y tercero, el error humano como parte de un proceso de aprendizaje, de fragilidad, de transformaci\u00f3n o de contexto. Ese no se resuelve solo con correcci\u00f3n; exige comprensi\u00f3n, conversaci\u00f3n y juicio.<\/p>\n

La clave est\u00e1 en no convertir esa distinci\u00f3n en una nueva m\u00e9trica de eficiencia. Porque si una organizaci\u00f3n crea un \u201cscore de errores comprensibles\u201d, vuelve a hacer exactamente lo que quer\u00eda evitar: transformar la complejidad humana en una variable administrable. Por eso, el criterio no deber\u00eda ser \u201cqu\u00e9 error conviene perdonar\u201d o \u201cqu\u00e9 error es rentable comprender\u201d, sino qu\u00e9 tipo de respuesta exige la dignidad de la persona afectada. Hay errores que requieren una correcci\u00f3n r\u00e1pida. Hay errores que piden reparaci\u00f3n. Hay errores que requieren aprendizaje institucional. Y hay errores que requieren algo que ning\u00fan sistema puede hacer por s\u00ed solo: escuchar el contexto antes de cerrar el caso.<\/p>\n

Una organizaci\u00f3n puede resolver esto si cambia la pregunta. En lugar de preguntar \u00fanicamente \u201c\u00bfel sistema acert\u00f3 o fall\u00f3?\u201d, deber\u00eda preguntar: \u00bfqu\u00e9 da\u00f1o gener\u00f3?, \u00bfqui\u00e9n lo sufri\u00f3?, \u00bfera reversible?, \u00bfhab\u00eda posibilidad de apelaci\u00f3n?, \u00bfexist\u00eda un responsable humano?, \u00bfel criterio era visible?, \u00bfla persona pudo explicar su situaci\u00f3n?, \u00bfel sistema contempl\u00f3 una excepci\u00f3n o solo aplic\u00f3 la regla? Ah\u00ed aparece la frontera entre la automatizaci\u00f3n y el juicio. La IA puede detectar patrones, priorizar alertas e identificar inconsistencias. Pero cuando el resultado afecta la reputaci\u00f3n, la oportunidad, el empleo, el cr\u00e9dito, la educaci\u00f3n, el acceso, el precio o la confianza, la decisi\u00f3n no puede cerrarse sin una intervenci\u00f3n humana real.<\/p>\n

Y cuidado: comprender un error humano no significa justificarlo todo, ni desresponsabilizar a nadie. Significa reconocer que la persona no es id\u00e9ntica ni al dato que la describe ni al evento que la clasific\u00f3. En una cultura puramente algor\u00edtmica, el error tiende a ser una desviaci\u00f3n respecto del patr\u00f3n. En una cultura humana, el error tambi\u00e9n puede ser se\u00f1al, s\u00edntoma, aprendizaje, l\u00edmite, pedido de ayuda o comienzo de una transformaci\u00f3n. Una empresa, una universidad, una plataforma o un gobierno no deber\u00edan tratar igual el fraude deliberado que la vulnerabilidad, la negligencia sistem\u00e1tica que el aprendizaje, el abuso que la excepci\u00f3n razonable, el riesgo real que el perfil estad\u00edsticamente inc\u00f3modo. Esa diferencia no puede quedar delegada a un modelo. Tiene que formar parte del kernel moral de la organizaci\u00f3n.<\/p>\n

Sobre la segunda pregunta, Marcos, mi respuesta es doble: la dignidad no debe calcularse, pero las condiciones que la protegen s\u00ed deben verificarse. La dignidad, por definici\u00f3n, no puede convertirse en un score, un ranking, una probabilidad o una m\u00e9trica de desempe\u00f1o. Si una organizaci\u00f3n intenta medir cu\u00e1nta dignidad tiene una persona, ya perdi\u00f3 la br\u00fajula. La dignidad no se gana por productividad, no aumenta por eficiencia, no disminuye por error y no depende de la capacidad de encajar en un patr\u00f3n estad\u00edstico. Es anterior a la m\u00e9trica. Es el l\u00edmite que le recuerda al sistema que est\u00e1 tratando con una persona, no con una unidad de optimizaci\u00f3n.<\/p>\n

Pero eso no significa que la dignidad quede fuera del gobierno operativo. Lo verificable no es la dignidad en s\u00ed misma, sino si una decisi\u00f3n automatizada respet\u00f3 las condiciones m\u00ednimas para no vulnerarla. Se puede verificar si hubo alguna explicaci\u00f3n. Se puede verificar si hubo apelaci\u00f3n. Se puede verificar si hab\u00eda un responsable de la decisi\u00f3n. Se puede verificar si el criterio era expl\u00edcito. Se puede verificar si la persona afectada pudo ser escuchada. Se puede verificar si hubo reparaci\u00f3n. Se puede verificar si el da\u00f1o era reversible. Se puede verificar si el sistema discrimin\u00f3, invisibiliz\u00f3 o bloque\u00f3 oportunidades sin intervenci\u00f3n humana. Esos no son scores de dignidad; son evidencias de custodia humana.<\/p>\n

Por eso, la dignidad no debe ser un KPI, sino una condici\u00f3n de producci\u00f3n. Ninguna decisi\u00f3n automatizada sobre personas deber\u00eda avanzar si no puede responder cinco preguntas: qui\u00e9n decide, con qu\u00e9 criterio, con qu\u00e9 trazabilidad, con qu\u00e9 derecho de apelaci\u00f3n y con qu\u00e9 mecanismo de reparaci\u00f3n. Ese es el punto en el que la \u00e9tica deja de ser decorativa y se convierte en arquitectura. No porque el sistema \u201ccalcule dignidad\u201d, sino porque la organizaci\u00f3n se obliga a establecer l\u00edmites para no violarla.<\/p>\n

La trampa est\u00e1 en creer que todo lo verificable debe convertirse en m\u00e9trica y que todo lo no medible debe quedar fuera de la gesti\u00f3n. La madurez consiste en otra cosa: usar indicadores como sem\u00e1foros, no como sustitutos del juicio. Si aumentan las apelaciones, si crecen las reversiones, si ciertos grupos son m\u00e1s afectados, si nadie puede explicar una decisi\u00f3n, si los reclamos tardan demasiado en resolverse, si el board no conoce el riesgo, esos datos no \u201cmiden dignidad\u201d; indican d\u00f3nde la organizaci\u00f3n puede estar fallando en custodiarla. Son se\u00f1ales para abrir la revisi\u00f3n humana, no excusas para cerrar el caso.<\/p>\n

En s\u00edntesis: un error de sistema se corrige; un error de criterio se gobierna; un error humano se comprende antes de ser juzgado. Y la dignidad no se calcula, se custodia. Se custodia con dise\u00f1o, con l\u00edmites, con responsabilidad visible, con derecho a explicaci\u00f3n, con apelaci\u00f3n real y con reparaci\u00f3n posible. Porque cuando una organizaci\u00f3n no puede explicar por qu\u00e9 decidi\u00f3, qui\u00e9n responde y c\u00f3mo repara, no tiene IA aumentada. Tiene una coartada algor\u00edtmica.<\/p>\n

La pregunta final, entonces, no es si podemos automatizar m\u00e1s. La pregunta es si estamos construyendo organizaciones capaces de detenerse justo cuando la automatizaci\u00f3n parece m\u00e1s eficiente, para preguntarse si todav\u00eda queda alguien del otro lado. Ah\u00ed se decide la diferencia entre una IA que amplifica la humanidad y otra que solo acelera decisiones sin rostro.<\/p>\n

Y quiz\u00e1s esa sea la s\u00edntesis m\u00e1s importante de este cap\u00edtulo: la dignidad no es lo que el sistema calcula. Es lo que la organizaci\u00f3n se compromete a no sacrificar, incluso cuando el sistema funciona.<\/p>\n","protected":false},"excerpt":{"rendered":"

En el cap\u00edtulo anterior, y como parte de esta saga en la que estamos analizando en profundidad Magn\u00edfica Humanitas, la primera enc\u00edclica del Papa Le\u00f3n XIV, plante\u00e9 que el privilegio exorbitante del siglo XXI ya no se mide solo en oro, d\u00f3lares o territorio, sino en datos, c\u00f3mputo, energ\u00eda y capacidad para orientar las decisiones. Y que, en este nuevo escenario, el verdadero juego no es acumular capacidad t\u00e9cnica, sino conservar la soberan\u00eda de criterio: saber qu\u00e9 decidimos, bajo qu\u00e9 reglas, con qu\u00e9 controles y qu\u00e9 humanidad nunca estamos dispuestos a delegar. Hoy doy el siguiente paso: la IA no es solo infraestructura de poder, sino tambi\u00e9n un espejo moral. Como lo marco en el t\u00edtulo de esta columna, no inventa la crisis del criterio: la amplifica. Si tu organizaci\u00f3n tiene claridad, la escala; si arrastra prejuicio o desorden, la escala igual, m\u00e1s r\u00e1pido y con mejor coartada. Y en medio aparece una l\u00ednea roja que ninguna planilla registra: la dignidad de una persona no se calcula. Los invito a meternos justo ah\u00ed, donde la conversaci\u00f3n deja de ser sobre la eficiencia y pasa a ser sobre el criterio. Seg\u00fan el \u00faltimo AI Radar de Boston Consulting Group, el 75% …<\/p>\n","protected":false},"author":1,"featured_media":4976,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[11,121,1,265,5],"tags":[748,641,882,885,832,749,809,860,302,884,306],"coauthors":[804],"class_list":["post-4974","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-articulos","category-bitacora","category-columna","category-materiales","category-novedades","tag-artificial-intelligence","tag-ecommerce-instittute","tag-enciclica-enciclica-magnifica-humanitas-del-papa-leon-xiv","tag-global-commerce-fundation","tag-globalcommerce-foundation","tag-inteligencia-artificial","tag-inteligencia-artificial-aumentada","tag-inteligencia-artificial-en-retail","tag-marcos-pueyrredon","tag-papa-leon-xiv","tag-vtex"],"acf":[],"_links":{"self":[{"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/posts\/4974","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/comments?post=4974"}],"version-history":[{"count":1,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/posts\/4974\/revisions"}],"predecessor-version":[{"id":4977,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/posts\/4974\/revisions\/4977"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/media\/4976"}],"wp:attachment":[{"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/media?parent=4974"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/categories?post=4974"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/tags?post=4974"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/pueyrredonline.com\/blog\/wp-json\/wp\/v2\/coauthors?post=4974"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}