研究者らは、LLMの内部表現を調べる新しいフレームワークを開発しました。LLMの内部表現とは、モデルがテキストを処理する際に内部的に生成する、ある種のデータやパターンのことを指します。 今回、LLM自身によって内部の動作を説明させることに取り組まれており、モデルの決定や出力がどのように行われているかがより明らかになることを目指しています。 本記事の関連研究： LLMが「教えてはいけない事実」を抑制するパーツが明らかに　Llama-2を1057個に分解 LLMの内部状態を観察することで「出力がハルシネーションか否かを判別する」手法『LLMファクトスコープ』 LLMは世界モデルを持ち「物事がどのよ…