Cuando un sistema falla, nadie acepta como respuesta:

La inteligencia artificial decidió.

El cliente no contrató a un modelo.

Contrató a una organización.

Y dentro de esa organización tiene que existir una persona que responda por la decisión.

Podemos delegar análisis.

Podemos delegar generación.

Podemos automatizar gran parte de la ejecución.

Lo que no podemos delegar es la responsabilidad.

Mientras más trabajo produzca una inteligencia artificial, más claro debería quedar quién valida el resultado y con qué criterio.

No me preocupa que una máquina proponga cien alternativas.

Me preocupa que ninguna persona pueda explicar por qué se eligió una.

La firma final sigue siendo humana.