Что такое Галлюцинация?
Когда модель уверенно заявляет нечто ложное или не подкреплённое её данными.
Формальное определение
Галлюцинация, это вывод модели, беглый и уверенный, но фактически неверный или не подкреплённый предоставленными доказательствами. Она возникает потому, что модели предсказывают правдоподобный текст, а не проверенную истину. В торговом контексте галлюцинация, это когда модель цитирует показатель прибыли, ценовой уровень или тренд, которые предоставленные рыночные данные на самом деле не подтверждают, что штрафуется рубрикой обоснованности.
Простыми словами
Это когда ИИ что-то выдумывает и говорит это с невозмутимым лицом. Формулировка звучит верно, но факт неверен или выдуман. В торговле это может быть придуманное число, толкающее к плохому решению.
Пример
Модель заявляет, что компания превысила ожидания по прибыли, когда данные показывают недобор. Сделка может выглядеть обоснованной в тексте, но она опирается на галлюцинированный факт.