TOP
コンテンツについて

AIセキュリティマップについて

AIセキュリティポータル編集部

AIセキュリティマップの概要

AI技術の進化に伴い、AIセキュリティに関する研究は多様化・複雑化し、情報セキュリティの３要素である機密性・完全性・可用性（CIA）だけでなく、公平性や説明可能性などのAIの信頼性に関わる要素との関係性についても議論が拡大しています。しかし、既存の知識体系は技術的な観点からの整理が主であり、要素間の相互関係やAIの毀損または悪用による人や社会へのネガティブな影響（負の影響）についての体系的な整理はされていませんでした。そのため、上記の相互関係や影響を考察し、体系的に整理したAIセキュリティマップを作成しました。

AIセキュリティマップでは、AIセキュリティの対象をAIだけでなく人や社会に拡大し、AIに対する攻撃・防御の分類と合わせて、AIが攻撃または悪用された結果、人や社会に与える負の影響を考察しながら、AIセキュリティに関する要素や技術を体系的に整理しています。AIセキュリティマップを参照することで、AIが攻撃された場合に情報システムに起こる負の影響やそれを防ぐための対策について理解することができます。また、AIを利用した情報システムにおける負の影響が人や社会にどのように関係し、どのような負の影響につながるかについて理解するためにも役立ちます。図１は、AIセキュリティマップの概要を示したものになります。

図1　AIセキュリティマップの概要

AIセキュリティマップの構成

AIセキュリティマップを構成する要素は、情報システム的側面と外部作用的側面の2つに分類されています。

情報システム的側面

この側面では、情報システムにおいて、AIが満たすべき要素が分類されています。特に情報セキュリティの３要素であるCIAを中心としており、それ以外の要素はCIAが毀損された結果、影響を受ける要素として整理しています。この側面の要素に対する負の影響を参照することで、その要因、対策などを理解することができます。また、この側面に分類される要素に対する負の影響は、外部作用的側面に影響が及ぶと想定しています。

外部作用的側面

この側面では、プライバシ－侵害や著作権等の権利の侵害など、人や社会に影響する要素が分類されています。この側面における負の影響は、AIへの攻撃による情報システム的側面の要素の毀損だけでなく、AIの悪用によっても引き起こされると想定しています。この側面の要素に対する負の影響を参照することで、情報システム的側面のどのような要素の毀損が人や社会に影響を与えるかということや、その対策について把握することができます。

セキュリティ対象

AIセキュリティマップでは、情報システム的側面や外部作用的側面の要素が毀損や悪用された結果、影響を受けるセキュリティ対象として、以下の表1に示す4つを想定しています。

表 1　AIセキュリティマップにおいて想定されるセキュリティ対象

セキュリティ対象定義
AIシステム提供者AIを利用した情報システム（AIシステム）を提供する個人または組織。
消費者AIやAIシステムを利用する個人または組織。
非消費者消費者以外の個人。
社会複数の人々によって構成される集団や組織。

AIセキュリティマップにおける要素の関係性

AIセキュリティマップでは、情報システム的側面の要素と外部作用的側面の要素の関係性を整理しています。具体的には、情報システム的側面の任意の要素の毀損や悪用が、外部作用的側面の要素に関連すると考えています。図2にAIセキュリティマップにおける要素の全体像を示しています。情報システム的側面の要素は、CIAの毀損により影響を受ける要素が多くあります。一方で、多くの外部作用的側面の要素は情報システム的側面の要素の毀損の結果、影響を受けると考えています。また、情報システム的側面の要素が正常に保たれている場合においても、任意の要素を悪用した結果、影響を受ける外部作用的側面の要素も存在すると考えられます。AIセキュリティマップを活用することで、上記の関係性を知ることができます。

AIセキュリティマップにおける要素の全体像

図2　AIセキュリティマップにおける要素の全体像
（青は情報システム的側面、緑は外部作用的側面を示しています。）

AIセキュリティマップの作成方法

AIセキュリティマップの作成のために、主に以下の点に取り組みました。

  1. サーベイ論文[1]をはじめとした複数の研究論文を調査し、AIに対するどのような攻撃がCIAの毀損に関連するかを分類・整理。また、その攻撃に対する防御に関しても調査し、分類・整理。
  2. AIへの攻撃によりCIAが毀損された結果、どのような情報システム的側面の要素が関連し、どのような負の影響が存在するかを考察・整理。また、その負の影響をもたらす攻撃・要因および防御・対策を整理。
  3. AIセキュリティに関するサーベイ論文[1][2]、ガイドライン[3][4]、および関連資料[5][6][7][8][9]などを調査し、不足している情報システム的側面および、人や社会への影響に関する外部作用的側面の要素を分類・整理。
  4. AIへの攻撃による情報システム的側面の要素の毀損やAIの悪用によって、外部作用的側面の要素に関してどのような負の影響が存在するかを考察・整理。また、その負の影響をもたらす攻撃、リスク、要因を考察し、防御・対策についても整理。

AIセキュリティマップの特徴

AIセキュリティマップは、既存のサーベイ論文やガイドラインと比較して、以下の点で異なります。

  • AIが満たすべき要素で構成された情報システム的側面だけでなく、人や社会に影響する要素で構成された外部作用的側面を体系的に考察・整理。
  • 情報システム的側面における要素間の相互関係を考察・整理。
  • 外部作用的側面における要素間の相互関係を考察・整理。
  • 情報システム的側面と外部作用的側面の相互関係を考察し、AIセキュリティと人や社会の関係性を整理。

これらの特徴はこれまでに整理されていなかったものであり、今後AIが社会で広く利活用されていく中でより重要視されると考えられます。また、これらについては最新の動向を調査しながら、継続的に考察を行っていきます。さらに、考察した結果をもとにAIセキュリティマップのアップデートも定期的に行っていきます。

参考文献

[1] Chen, Huaming, and M. Ali Babar. “Security for machine learning-based software systems: A survey of threats, practices, and challenges.” ACM Computing Surveys 56.6 (2024): 1-38.

[2] Weidinger, Laura, et al. “Taxonomy of risks posed by language models.” Proceedings of the 2022 ACM conference on fairness, accountability, and transparency. 2022.

[3] 経済産業省， AI事業者ガイドライン（第1.0版），2024年4月19日．

[4] 国立研究開発法人　産業技術総合研究所，機械学習品質マネジメントガイドライン 第4版，2024年4月4日．CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)．

[5] 内閣府， 人間中心のAI社会原則（統合イノベーション推進会議決定），2019年3月29日．

[6] 公益財団法人　国際通貨圏研究所，AIの発展により想定される経済や金融への影響，2024年10月3日．

[7] 文化庁，AIと著作権に関する考え方について，2024年3月15日．

[8] 厚生労働省，保健医療分野におけるAI開発の方向性について，2018年7月23日．

[9] 総務省，AI 社会を支える次世代情報通信基盤の実現に向けた戦略，2024年8月30日．