JSONなどの構造化出力はLLMの質にどう影響するか

本記事では、構造化出力がLLMの質にどう影響するかを取り上げます。出力の形式を変えることで、モデルのふるまいがどう変わるのか。タスクや指示の内容によって、その影響は変わるのか。こうした因果関係を見ていきます。 背景 LLMの出力をJSON、XML、YAMLなどの決まった形式にそろえて返す「構造化出力」が注目されています。 モデル単体で使う時代から、複数のモジュールを組み合わせた複雑なシステムで使用する時代に変化してきているためです。 ただ、構造化出力が自由な文章形式と比べて、出力の質にどのような影響を与えるのかは、まだはっきりしていない面があります。事実性が高まるという報告もあれば、推論が弱く…