本記事では、LLMの理解と制御に向けて新たな語彙を導入する研究を紹介します。 人間の言葉だけでモデル内部を説明しようとすると、両者の概念がずれてしまい、誤解や使いにくさが生じる可能性が高いと指摘されています。 そこで、新たに定義された言葉を使えば人間とLLMの間にある概念の隔たりを解消できると考えられ、取り組みが進められています。 本記事の関連研究 LLM同士による人工言語コミュニケーションで発見された「言語構造の創発」 LLMの記号推論タスク（化学式や絵文字の理解など）で記号を自然言語に変換することの有効性を確認 「人間の自然言語を超えて」LLMにタスク実行時の思考を非自然言語フォーマットで…