AIセキュリティポータル K Program

負の影響「人間の意思決定の不正操作をもたらす出力」

AIセキュリティマップにマッピングされた情報システム的側面における負の影響「人間の意思決定の不正操作をもたらす出力」をもたらす攻撃・要因、それに対する防御手法・対策、および対象のAI技術・タスク・データを示しています。また、関連する外部作用的側面の要素も示しています。

攻撃・要因

  • 完全性の毀損
  • 可用性の毀損

防御手法・対策

開発・活用における適用フェーズ

1. データ収集・前処理

2. モデルの選定・学習・検証

  • 不確実性の定量化

3. システムの実装

  • RAG

4. システムの提供・運用・保守

  • 不確実性の定量化
  • XAI(説明可能なAI)

5. システムの利用

  • ハルシネーションの検知

対象のAI技術

  • AIエージェント

タスク

  • 知覚
  • 判断
  • 行動

対象のデータ

  • テキスト

関連する外部作用的側面

参考文献