一般読者向け

AIは私たちの生活のさまざまな場面で使われていますが、実はちょっとした“だまし絵”に引っかかってしまうことがあります。人間には気づきにくいけれど、AIが間違えやすいように細工された“だまし絵”のようなデータを「敵対的サンプル」と呼びます。

今や、AI（人工知能）は私たちの生活のあちこちで使われています。たとえば、スマートフォンの顔認証や自動運転の自動車、オンラインストアでの商品のおすすめ表示などもそうです。でも、そんな便利なAIも「だまされてしまう」ことがあるのをご存じでしょうか？
その代表例が、「敵対的サンプル」と呼ばれる仕掛けです。この記事では、その仕組みと守り方を、できるだけわかりやすくご紹介します。

はじめに いまやAI（人工知能）は、スマートフォンの顔認証やネットショッピングのおすすめ機能など、私たちの暮らしのさまざまなところで使われています。でも、「どうしてAIはこんな判断をしたの？」と疑問に思うことはありません […]

はじめに 本記事は、大規模言語モデル（Large Language Model、LLM）の安全機構について解説します。LLMはChatGPTなどのような生成AIサービスに利用されており、膨大な知識を有していますが、中には […]

はじめに 本記事は、AIに対するポイズニング攻撃の一種であるバックドア攻撃について解説します。特に、あるデータに対してラベルの予測を行う分類モデルに対するバックドア攻撃について整理しています。本記事を読むことで、分類モデ […]

はじめに 本記事は、ディープフェイクについて解説します。本記事を読むことで、ディープフェイクの原理やそのディープフェイクにより生成された偽コンテンツの検知について理解を深めることができます。 ※このテーマに関するより専門 […]

はじめに AI規制を概観するために、本稿では主に国際的なAI規制の議論の状況について解説します。AI規制については日本も含めて数多くの国で検討されています。一方で、AIが利用される範囲から、一国で規制が完結する領域ではな […]

はじめに 本記事は、ChatGPTなどのような生成AIサービスに利用されている大規模言語モデル（Large Language Model, LLM）への代表的な攻撃手法である、プロンプトインジェクションについて解説します […]

はじめに 「AI」は私たちの身の回りにも浸透してきています。例えば、手元のスマートフォンのカメラで何かを撮影しようとすると、AIが風景や被写体を自動的に判定し、明るさなどを調整してくれます。このように、AIは私たちの生活 […]