Галлюцинация

Галлюцинация — ответ нейросети, который звучит уверенно и правдоподобно, но фактически неверен или полностью выдуман. Возникает потому, что модель предсказывает наиболее вероятное продолжение текста, а не сверяет его с реальностью. Это не неисправность в привычном смысле — это свойство самого принципа работы.