本記事では、LLMと人間の価値観とのずれを調整する「アライメント」という考え方と、その代表的な手法を紹介します。 アライメントは、安全性や信頼性といった実用面にも関わる技術です。RLHFやConstitutional AIといったアプローチが登場し、注目が集まっています。 LLMを活用する立場にある方にとって、アライメントの理解は個人だけでなく組織としての仕事になりつつあると言えるかもしれません。 本記事の関連研究 開発企業や言語ごとに異なるLLMのイデオロギー、価値観や態度 プロンプトに5つほど”価値観の例”を示すだけで、LLMは特定の文化に適応した回答ができるようになるとの報告 わずか2行…