¿Qué son las alucinaciones de IA?

Las alucinaciones de IA son errores en los que la IA genera información falsa o sin sentido. Son más comunes en los modelos de lenguaje de gran tamaño (LLM), los generadores de imágenes y otros modelos generativos de IA.

Estas alucinaciones pueden parecer seguras y correctas al principio, pero si se examinan más de cerca pueden revelar imprecisiones.

Por ejemplo, una imagen generada por IA puede tener buen aspecto en general, pero detalles como las manos o el texto pueden no estar generados con precisión. O, si se le pide a la IA que proporcione información y cite fuentes, puede que transmita la información con precisión, pero cite una fuente en la que esa información no aparece.

Entender qué es la IA nos permite entender por qué la IA alucina. Las IA son programas informáticos entrenados en conjuntos de datos. Los sesgos, lagunas, imprecisiones y ambigüedades de estos datos pueden provocar alucinaciones.