El consejo que aprobaba IA sin saber qué aprobaba
- Problema
- La compañía tenía once iniciativas de IA en producción y ninguna forma de responder, en reunión de consejo, quién respondía por cada una. Cada aprobación se discutía por el retorno proyectado; ninguna por lo que pasaría si el modelo se equivocaba con un cliente real.
- Actuación
- Introducción de un criterio simple de clasificación por consecuencia, y no por tecnología, como requisito para cualquier aprobación. Cada sistema pasó a llegar al consejo con responsable nombrado, escenario de falla explícito y camino de impugnación para el cliente afectado.
- Impacto
- Dos de las once iniciativas se suspendieron por no tener responsable identificable. Las nueve restantes pasaron a revisarse trimestralmente con datos de reversión humana. El tiempo medio de aprobación bajó, porque la agenda llegaba lista.
El punto de partida no fue un diagnóstico de tecnología, sino la lectura del acta de seis reuniones anteriores. En ninguna había registro de una pregunta sobre consecuencia, solo sobre retorno y plazo.
La clasificación por consecuencia dividió los sistemas en tres franjas: sin efecto directo sobre personas, efecto indirecto y efecto directo sobre la vida de un cliente o empleado. Solo la tercera franja pasó a exigir aprobación en consejo; las demás bajaron al comité ejecutivo. Eso descongestionó la agenda y aumentó el rigor donde importaba.
La resistencia inicial vino del área de tecnología, que leyó el cambio como desconfianza. Se revirtió cuando quedó claro que el responsable nombrado ganaba también autoridad formal de veto, lo que en la práctica aumentó el poder del área, no lo contrario.
El indicador que más cambió la conversación fue la tasa de reversión humana. Se descubrió que en uno de los sistemas era cero desde hacía catorce meses. No porque el sistema fuera bueno: porque nadie sabía que podía revertirlo.
