研究者らは、モデルが質問に対してどの程度自信を持って答えているかを見極める方法を探っています。 本記事の関連研究： ファインチューニングがLLMの幻覚（ハルシネーション）に与える影響　Googleなどによる検証結果 LLMの内部状態を観察することで「出力がハルシネーションか否かを判別する」手法『LLMファクトスコープ』 LLMの誤り（ハルシネーション）発生原因と、「創造性と事実性のバランス」などの対策ロードマップ 背景 LLMが出力する内容は常に正しいとは限らず、時には「幻覚（ハルシネーション）」と呼ばれる事実と異なる内容を生成してしまうことがあります。 LLMの予測における不確かさには2種類…