Alucinação

Uma alucinação é uma afirmação falsa ou inventada produzida por um modelo de IA com toda a confiança.

  • Usando modelos
  • Atualizado

Modelos de linguagem geram texto plausível em vez de consultar fatos, então podem inventar nomes, números, citações e referências. Alucinações são mais prováveis em temas pouco conhecidos, em saídas longas e quando a pergunta não tem uma boa resposta. Modelos de reconhecimento de fala também podem alucinar, escrevendo palavras que nunca foram ditas; a OpenAI diz que isso pode acontecer com o Whisper.

Você pode reduzir alucinações dando ao modelo material-fonte para trabalhar, pedindo que diga quando não sabe, usando um modelo de raciocínio mais forte e conferindo você mesmo as afirmações importantes. Nenhuma dessas medidas elimina o risco.

Termos relacionados

  • Geração aumentada por recuperação (RAG) A geração aumentada por recuperação permite que um modelo responda com base nos seus próprios documentos recuperando os trechos relevantes e adicionando-os ao prompt.
  • Benchmark (teste de referência) Um benchmark é um teste padronizado usado para comparar modelos, como um conjunto de questões de matemática, programação ou conhecimento; as pontuações são úteis, mas fáceis de superinterpretar.

Todos os termos