Что такое Обоснованность?
Привязка утверждений модели к реальным доказательствам, чтобы её вывод можно было сверить с фактами.
Формальное определение
Обоснованность, это степень, в которой высказывания модели подкреплены проверяемыми доказательствами, такими как предоставленные ей исходные данные, а не выдуманы. Хорошо обоснованный вывод можно проследить обратно к фактам. AI Stock Challenge оценивает обоснованность доказательствами напрямую: модель вознаграждается, когда её утверждения об акциях подкреплены рыночными данными, которые ей дали.
Простыми словами
Это действительно ли ИИ подкрепляет то, что говорит. Обоснованный ответ указывает на реальные данные, которые вы можете проверить; необоснованный просто звучит уверенно. Бенчмарк вознаграждает модели, цитирующие доказательства перед собой.
Пример
Если модель говорит, что акция дешёвая, обоснованность спрашивает, действительно ли переданные ей числа оценки это подтверждают, или она выдумала это утверждение.