La alucinación no es un error:
Es una propiedad de diseño de la arquitectura del sistema GenAI.
Esa distinción es enormemente importante para la gobernanza:
Un error se puede corregir y cerrar. Una propiedad debe gestionarse continuamente, con controles, supervisión y una anulación humana probada.
Ya hemos visto lo que sucede cuando las organizaciones lo tratan como un error: firmas profesionales avergonzadas por trabajos redactados por IA que nadie revisó, abogados experimentados que presentan escritos con citas que nunca existieron.
Profesor Asociado Andy Schmulow, uno de los avalistas del libro, lo expresa claramente: "...los empleados e incluso los líderes se saltan pasos, le piden a la IA que haga su trabajo y no revisan lo que produce". Su veredicto sobre el libro: "Debería considerarse indispensable".
Gestión de Riesgos de IA a Nivel Empresarial® (EW-AiRM®) ewairm.com trata la alucinación, la deriva y el colapso del modelo como residentes permanentes del panorama de riesgos, y construye los controles en torno a esa realidad.