La teoría del management ha demostrado las limitaciones del juicio humano en entornos complejos, donde predominan sesgos y dificultades para procesar grandes volúmenes de información. La IA se presentó como una solución, pero su adopción revela que el reto es más complejo. No sustituye a los directivos, sino que transforma la naturaleza del acto de decidir.
Un sistema predictivo que señala una dirección estratégica con un alto nivel de confianza estadística, plantea a los ejecutivos la cuestión de cuánto valor deben dar a una recomendación que no pueden examinar como un argumento humano. Esto introduce una nueva forma de incertidumbre.
La investigación sugiere que esto lleva a dos respuestas problemáticas: la deferencia excesiva a las recomendaciones del sistema sin crítica, y el rechazo instintivo a los modelos, utilizandolos solo para validar decisiones tomadas por intuición. En ambos casos, se invierte en análisis sin obtener el beneficio esperado.
Las organizaciones avanzadas en la integración de IA comparten características clave. Han demarcado claramente dónde la IA tiene ventaja, como en el procesamiento de datos masivos y la identificación de patrones no lineales, y dónde el juicio humano es indispensable, como en la interpretación del y la valoración de consecuencias éticas.
Además, han rediseñado sus procesos de decisión para que la intervención del sistema sea explícita, documentada y debatible. Esto implica que los equipos directivos deben conocer, en términos generales, sobre qué datos fue entrenado el modelo que están consultando, los supuestos y las condiciones bajo las que sus predicciones son válidas.
Etiquetas: Tecnología, Inteligencia Artificial, Tomada de Decisiones, Tecnología · IA general
About the Author
