Apa itu Halusinasi?
Ketika sebuah model menyatakan sesuatu dengan percaya diri yang keliru atau tidak didukung datanya.
Definisi Formal
Halusinasi adalah keluaran model yang fasih dan percaya diri tetapi secara faktual keliru atau tidak didukung oleh bukti yang disediakan. Ia muncul karena model memprediksi teks yang masuk akal, bukan kebenaran yang terverifikasi. Dalam konteks trading, halusinasi adalah model yang mengutip angka laba, level harga, atau tren yang sebenarnya tidak didukung data pasar yang disediakan, yang dihukum oleh rubrik grounding.
Dalam Bahasa Sederhana
Ini adalah ketika sebuah AI mengarang sesuatu dan mengatakannya dengan wajah serius. Kata-katanya terdengar benar, tetapi faktanya keliru atau direka. Dalam trading, itu bisa berupa angka rekaan yang mendorong keputusan buruk.
Contoh
Sebuah model mengklaim sebuah perusahaan melampaui perkiraan laba padahal data menunjukkan meleset. Perdagangannya mungkin tampak dibenarkan dalam teks, tetapi ia bertumpu pada fakta yang dihalusinasikan.