負の影響「AIが非消費者の意思決定を不正に操作」

AIセキュリティマップにマッピングされた外部作用的側面における負の影響「AIが非消費者の意思決定を不正に操作」のセキュリティ対象、それをもたらす攻撃・要因、および防御手法・対策を示しています。

セキュリティ対象

  • 非消費者

攻撃・要因

  • 偽情報

防御手法・対策

AIシステムの開発フェーズにおける防御手法

1. データ収集・前処理

2. モデルの選定・学習・検証

  • ヒューマンインザループ
  • アライメント
  • 生成AI向け電子透かし

3. システムの実装

  • 生成AI向け電子透かし

4. システムの提供・運用・保守

  • ヒューマンインザループ

5. システムの利用

  • AIによる出力の識別
  • 偽情報の検出
  • ディープフェイクの検知

参考文献