Alucinación de la IA

Una alucinación de IA es una afirmación segura pero falsa o inventada que produce un modelo de IA, como un dato inventado, un detalle de producto erróneo o una fuente que no existe.

Alucinación de la IA es el término para las respuestas en las que un modelo de lenguaje afirma algo falso como si fuera un hecho. Por ejemplo, inventarse una cita, dar un precio o un año de fundación incorrectos de una empresa, atribuir una función de producto a la marca equivocada o citar un estudio que no existe. El modelo no miente a propósito. Genera el texto que suena más probable, y a veces ese texto es erróneo.

Por qué se producen las alucinaciones

  • Lagunas en los datos de entrenamiento. Si un modelo vio poca información sobre un tema o una marca, rellena el hueco con suposiciones verosímiles.
  • Conocimiento desactualizado. Sin búsqueda web, un modelo solo sabe lo que aprendió antes de su fecha de corte.
  • Fuentes contradictorias. Cuando distintos sitios dan información distinta, el modelo puede mezclarla.
  • Mala recuperación. En la búsqueda con IA, el sistema puede elegir una página irrelevante o de baja calidad y resumirla fielmente, lo que igualmente da una respuesta errónea.
  • Malinterpretar el contexto. Un modelo puede atribuir una afirmación de una parte de la página al sujeto equivocado.

Basar las respuestas en fuentes recuperadas reduce mucho las alucinaciones, pero no las elimina.

Por qué importa para las marcas

Cuando un asistente de IA le dice a un posible cliente que tu producto no tiene una función que sí tiene, o cita precios antiguos, pierdes ventas sin saberlo. Las alucinaciones sobre marcas suelen deberse a información online escasa o incoherente. Cuanto menos material claro y coherente haya, más tiene que adivinar el modelo.

Cómo reducir las alucinaciones sobre tu marca

  • Publica páginas claras y basadas en hechos sobre tu empresa, tus productos, precios y políticas, y mantenlas actualizadas.
  • Usa nombres y descripciones coherentes en tu web, perfiles, directorios y material de prensa.
  • Añade datos estructurados para tu organización y tus productos, para que los datos clave sean legibles por máquinas.
  • Corrige la información desactualizada en sitios de terceros, como reseñas antiguas, directorios y artículos.
  • Consigue cobertura en medios de confianza que describan tu marca con precisión, ya que es probable que sean fuentes tanto para el entrenamiento como para la recuperación.
  • Revisa con regularidad los prompts clave para detectar errores a tiempo.

Errores habituales

Dar por hecho que basta con una home correcta, mientras decenas de páginas desactualizadas en otros sitios dicen otra cosa. Tampoco uses respuestas de IA como fuente para tu propio contenido sin comprobarlas. Copiar un dato alucinado en un artículo extiende el error y puede dañar la confianza en tu sitio.

Preguntas sobre la alucinación de IA

¿Qué es una alucinación de IA?

Es una afirmación falsa o inventada que un modelo de IA presenta como un hecho, como una fecha incorrecta, una fuente inventada o información de producto errónea.

¿Puedo corregir lo que dice ChatGPT sobre mi marca?

No puedes editar la respuesta directamente, pero sí publicar información clara y coherente y corregir las fuentes desactualizadas, lo que mejora lo que las herramientas de IA recuperan y aprenden.

¿Evita el grounding las alucinaciones?

Las reduce al basar las respuestas en fuentes recuperadas, pero un modelo todavía puede malinterpretar o mezclar esas fuentes.

Términos relacionados