什麼是幻覺(Hallucination)?
當模型自信地陳述某項虛假或不受其資料支持的內容時。
正式定義
幻覺是模型流暢而自信、卻在事實上錯誤或不受所提供證據支持的輸出。它之所以產生,是因為模型預測的是貌似合理的文字,而非經查證的真相。在交易脈絡中,幻覺是指模型引用了所提供市場資料實際上並不支持的盈餘數字、價格位或趨勢,而依據評分標準會予以懲罰。
白話來說
它是指 AI 捏造某事並一本正經地說出來。措辭聽起來沒錯,但事實卻是錯的或杜撰的。在交易中,那可能是一個推動壞決策的憑空數字。
實例
一個模型宣稱某公司盈餘超乎預期,但資料顯示為不如預期。該筆交易在文字上或許看似合理,卻立基於一項幻覺的事實。