解説記事

敵対的サンプルに対する対策技術

AIの判断を意図的に誤らせる敵対的サンプルの脅威が指摘されています。本記事では、敵対的サンプルからAIを防御するための対策技術を解説します。

EUにおけるAI規制の動向

EUにおけるAI規制動向について概観します。特に、EUにおいて成立したAI法について解説します。

分類モデルに対するポイズニング

分類モデルに対するポイズニング攻撃、その影響、および対策について解説します。

AIに対する攻撃の概要

AIへの攻撃手法やそれにより引き起こされる社会的な影響について解説します。

AIの種類

本記事では、AI技術のうち、特に広い分野で利用されている機械学習について説明します。

AIをだます、敵対的サンプル

AIの判断を意図的に誤らせる攻撃として、敵対的サンプル攻撃(回避攻撃)が知られています。ここでは、敵対的サンプル攻撃とはどのようなものか、なぜ引き起こされるかを解説します。