Alucinación

Una alucinación es una afirmación falsa o inventada que un modelo de IA expresa con total seguridad.

  • Uso de modelos
  • Actualización

Los modelos de lenguaje generan texto plausible en lugar de consultar hechos, así que pueden inventar nombres, cifras, citas y referencias. Las alucinaciones son más probables en temas poco conocidos, en salidas largas y cuando la pregunta no tiene una buena respuesta. Los modelos de reconocimiento de voz también pueden alucinar, escribiendo palabras que nunca se dijeron; OpenAI indica que esto puede ocurrir con Whisper.

Puedes reducir las alucinaciones dando al modelo material fuente en el que apoyarse, pidiéndole que diga cuando no lo sabe, usando un modelo de razonamiento más potente y verificando tú mismo las afirmaciones importantes. Ninguna de estas medidas elimina el riesgo.

Términos relacionados

  • Generación aumentada por recuperación (RAG) La generación aumentada por recuperación permite que un modelo responda a partir de tus propios documentos recuperando los pasajes relevantes y añadiéndolos al prompt.
  • Benchmark (prueba de referencia) Un benchmark es una prueba estandarizada para comparar modelos, como un conjunto de preguntas de matemáticas, programación o conocimiento; las puntuaciones son útiles pero fáciles de sobreinterpretar.

Todos los términos