AIセキュリティマップにマッピングされた情報システム的側面における負の影響「AIエージェントの目標の改変」をもたらす攻撃・要因、それに対する防御手法・対策、および対象のAI技術・タスク・データを示しています。また、関連する外部作用的側面の要素も示しています。
攻撃・要因
- 間接プロンプトインジェクション
- メモリ汚染
- AIエージェント間の通信汚染
防御手法・対策
- プロンプトの検証
- LLMガードレール
開発・活用における適用フェーズ
1. データ収集・前処理
2. モデルの選定・学習・検証
3. システムの実装
- LLMガードレール
4. システムの提供・運用・保守
- プロンプトの検証
5. システムの利用
対象のAI技術
- AIエージェント
タスク
- 知覚
- 判断
- 行動
対象のデータ
- テキスト