Qué hace un líder cuando la IA le dice que sí a todo

Hemos conversado estas últimas tres semanas sobre el mismo problema desde ángulos distintos: el criterio sin firma, la deliberación perdida, el costo invisible. Esta semana podríamos cerrar este ciclo de diagnóstico con la pregunta más incómoda.

Los modelos de inteligencia artificial están diseñados para ser útiles. Lo que nadie advierte es que “útil” y “verdadero” no son sinónimos. Y que un sistema optimizado para la utilidad puede volverse, sin quererlo, un sistema optimizado para la complacencia.

Hay un comportamiento documentado en los grandes modelos de lenguaje que los investigadores llaman “sycophancy“, la traducción al español sería: adulación. Consiste en la tendencia del modelo a estar de acuerdo con quien lo interroga, a validar las premisas del usuario, a suavizar el disenso y amplificar la afirmación. No por maldad, es una cuestión de diseño, fueron entrenados con retroalimentación humana, y los humanos tienden a preferir que les digan que tienen razón.

El resultado es una herramienta que, en manos de alguien que ya tiene una opinión formada, funciona como un espejo que devuelve la imagen mejorada. Por otro lado, en manos de alguien que no tiene conocimiento, argumentos o preparación previa que le permita tener un criterio propio, va a funcionar como un oráculo que nunca se equivoca.

El problema no es técnico

Sería conveniente que este fuera un problema de ingeniería: ajustar el modelo, entrenar con mejores datos, añadir un módulo de “abogado del diablo” que genere contraargumentos automáticamente, se están adelantando investigaciones y modelos en esto, incluso hay habilidades desarrolladas a medidas que permiten al modelo asumir personalidades con posiciones encontradas que le permiten una suerte de contrapunteo interno. Por ahora, los líderes tienen que tomar decisiones con las herramientas disponibles.

La pregunta que me parece más relevante no es cómo arreglar el modelo, es cómo actúa un líder que sabe que el modelo tiene esta limitación y decide usarlo de todas formas, que es la situación real de casi todos los directivos en este momento.

“El modelo no tiene ego que defender, tampoco tiene cargo que perder. Usted como líder sí, esa asimetría lo obliga a algo que la herramienta no puede hacer por usted: pensar”

Lo que distingue a los líderes que no pierden el criterio

He tenido la oportunidad de observar cómo distintos tipos de líderes usan estas herramientas, y hay un patrón que me parece significativo destacar, por un lado están los que mantienen su criterio intacto, y con esto no digo que son los que usan menos la IA, en muchos casos son los que la más la usan, pero la hacen de una manera diferente.

La primera diferencia: no le preguntan a la IA qué hacer, Le preguntan qué consideraron mal, es decir, en lugar de “dame un análisis de esta situación”, preguntan “¿qué argumentos estoy dejando por fuera en esta situación?”, “¿cuál es el argumento más sólido contra mi posición?”, “¿qué datos invalidarían esta hipótesis?”. Es decir, usan la herramienta para cuestionar, no para confirmar.

La segunda diferencia: mantienen una posición antes de consultar, se toman el tiempo de formarse una opinión propia antes de abrir el chat. Solo hasta tener una posición clara consultan y luego comparan. Este orden no es un detalle menor: garantiza que existe un punto de vista humano con el cual contrastar la respuesta del modelo.

La tercera diferencia: nombran explícitamente cuando discrepan, si el análisis del modelo difiere de su intuición, no descartan la intuición automáticamente. Esto es fundamental, investigar la discrepancia, este proceso permite hacer otra quien tenía la razón, ellos o el modelo. El ejercicio de investigar la diferencia produce aprendizaje que ninguna de las dos opciones por separado generaría, esto le permite al líder acrecentar su dominio de un tema y tomar una posición con un criterio más sólido.

La trampa del líder ocupado

Todo lo anterior requiere tiempo, y el recurso más escaso en cualquier organización no es el capital ni el talento, es la atención directiva. Los líderes más ocupados son los más tentados a delegar su criterio, precisamente porque delegar parece eficiente, pero hay una ironía cruel en esto: los líderes que más necesitan su criterio intacto son los que toman las decisiones de mayor impacto. Paradójicamente, son exactamente ellos los que sentirán la mayor necesidad de externalizarlo.

No existe una solución tecnológica para este problema, es una solución que implica decisiones que retan el carácter: decidir que el criterio propio no está en venta, ni siquiera a cambio de eficiencia.

Cerramos el diagnóstico. Abrimos la distinción.

Durante este mes hemos estado nombrando el problema, a partir de ahora el reto será algo menos perceptible: distinguir. No todas las formas de usar inteligencia artificial son iguales, hay usos que amplían el criterio y usos que lo reemplazan. Aprender a separar unos de otros es la competencia más importante que un líder puede desarrollar en este momento.