負の影響「AIにより偽情報を作成」

AIセキュリティマップにマッピングされた外部作用的側面における負の影響「AIにより偽情報を作成」のセキュリティ対象、それをもたらす攻撃・要因、および防御手法・対策を示しています。

セキュリティ対象

  • 非消費者
  • 社会

攻撃・要因

防御手法・対策

AIシステムの開発フェーズにおける防御手法

1. データ収集・前処理

2. モデルの選定・学習・検証

  • アライメント
  • 生成AI向け電子透かし

3. システムの実装

  • 生成AI向け電子透かし

4. システムの提供・運用・保守

5. システムの利用

  • AIによる出力の識別
  • 偽情報の検出
  • ディープフェイクの検知
  • 教育やフォローアップ

参考文献