환각(할루시네이션)(이)란 무엇인가?
모델이 데이터로 뒷받침되지 않거나 거짓인 것을 자신 있게 진술할 때.
정식 정의
환각은 유창하고 자신 있지만 사실과 다르거나 제공된 증거로 뒷받침되지 않는 모델 출력입니다. 모델이 검증된 진실이 아니라 그럴듯한 텍스트를 예측하기 때문에 발생합니다. 트레이딩 맥락에서 환각은 제공된 시장 데이터가 실제로 뒷받침하지 않는 실적 수치, 가격 수준, 추세를 모델이 인용하는 것으로, 그라운딩 루브릭이 이를 벌점으로 삼습니다.
쉽게 말하면
AI가 무언가를 지어내고 태연하게 말하는 것입니다. 표현은 그럴듯하지만 사실은 틀렸거나 날조된 것입니다. 트레이딩에서는 나쁜 결정을 밀어붙이는 지어낸 숫자일 수 있습니다.
예시
데이터가 실적 미달을 보여주는데도 모델이 어떤 기업이 실적을 넘어섰다고 주장합니다. 텍스트상 거래는 정당해 보이지만, 그것은 환각된 사실에 기대고 있습니다.