LLMの普及が急速に進む中、プロンプトと応答を通して情報漏洩や不正操作が行われるプロンプトインジェクションが発生するリスクが指摘されています。 そこで今回研究者らは具体的な防御手法を検討し、実践的な知見をまとめました。 本記事の関連研究 LLMアプリケーション（LLMを利用したシステム）の安全評価方法・レッドチーミングの進め方 LLMに対するオープンソース安全性評価ツールの比較 生成AIシステムのセキュリティ評価 マイクロソフトが100事例から得た教訓 背景 ChatGPTをはじめとするLLMを活用したチャットボットが急速に広がっています。企業のホームページに設置されるものから、個人が社内や友…