解説記事

EUにおけるAI規制の動向

はじめに2024年7月12日、Artificial Intelligence Act(AI Act、以下、AI法)がEU官報 に掲載されました。AI法はAIのリスクに対処し、欧州が世界的に主導的な役割を果たすAIに関する史上初の法的枠組みと...

分類モデルに対するポイズニング

はじめに本記事は、顔認証をはじめ多くのサービスに利用されている分類モデルに対する攻撃の一種である、ポイズニング攻撃について解説します。本記事を読むことで、分類モデルに対するポイズニング攻撃とその影響、対策について知ることができます。分類モデ...

AIに対する攻撃の概要

はじめに本記事は、AIへの攻撃やそれにより引き起こされる社会的な影響などについて解説します。特に、AIモデルの予測を混乱させることを目的とした敵対的攻撃について紹介します。ChatGPTのような生成AIサービスをはじめとしたAI技術は飛躍的...

AIの種類

はじめにAIという言葉をニュースなどで耳にする機会が多くなっています。しかし、一言でAIと言っても、技術的にはさまざまな種類のAIが存在します。本記事では、AIのうち、特に広い分野で利用されている機械学習に関連する技術について紹介します。機...

AIをだます、敵対的サンプル

はじめにAIは、私たちの身の回りのさまざまなシステムで活用されています。例えば、最近の自動車にはAIを用いた運転支援システムが搭載されています。自動車に搭載されたカメラで周囲の画像を撮影することで、撮影された画像の中からAIが標識を見つけ出...