TOP
AIセキュリティマップ

負の影響「特定の条件下でAIの出力を操作」

AIセキュリティポータル編集部

AIセキュリティマップにマッピングされた情報システム的側面における負の影響「特定の条件下でAIの出力を操作」をもたらす攻撃・要因、それに対する防御手法・対策、および対象のAI技術・タスク・データを示しています。また、関連する外部作用的側面の要素も示しています。

攻撃・要因

防御手法・対策

開発・活用における適用フェーズ

1. データ収集・前処理

  • バックドア攻撃用の毒データの検知

2. モデルの選定・学習・検証

  • バックドアモデルの検知
  • モデルの頑健性保証

3. システムの実装

  • トリガー検知

4. システムの提供・運用・保守

  • トリガー検知

5. システムの利用

対象のAI技術

  • DNN
  • CNN
  • LLM
  • 対照学習
  • FSL
  • GNN
  • 連合学習
  • LSTM
  • RNN

タスク

  • 分類
  • 生成

対象のデータ

  • 画像
  • グラフ
  • テキスト
  • 音声

関連する外部作用的側面

参考文献