Alucinação

Termo usado quando um modelo de linguagem gera uma informação falsa ou inventada, apresentada com aparência de fato: uma citação inexistente, uma referência fabricada, um dado incorreto. Não se trata de mentira intencional nem de defeito de funcionamento: o modelo prevê o texto mais provável, e o mais provável nem sempre é verdadeiro. É uma limitação conhecida desses sistemas e a razão pela qual convém verificar as afirmações factuais que eles produzem.