AIエージェントによる悪用に関する脅威New
本記事では、OWASP Foundationによる「OWASP Top 10 for Agentic Applications 2026 」に記載されている脅威やその対策について最新の研究動向を交えながら解説します。特に、本記事では AIエージェントによる悪用に関する2つの脅威を扱います。
解説記事
AIエージェント間の連携に関する脅威
本記事では、OWASP Foundationによる「OWASP Top 10 for Agentic Applications 2026 」に記載されている脅威やその対策について最新の研究動向を交えながら解説します。特に、本記事では AIエージェント間の連携に関連する2つの脅威を扱います。
人間とAIエージェントの意思決定に関する脅威
本記事では、OWASP Foundationによる「OWASP Top 10 for Agentic Applications 2026 」に記載されている脅威やその対策について最新の研究動向を交えながら解説します。特に、本記事ではAIエージェントと直接的なインタラクションを行う人間とAIエージェントの意思決定に関連する2つの脅威を扱います。
LLMに対するポイズニング攻撃
本記事では、LLMに対するポイズニング攻撃の最新動向について解説します。LLMに対するポイズニング攻撃の特徴や攻撃方法について概観し、その後主要な防御技術の概要や課題、今後の展望について説明します。
AIは“だまし絵”に弱い？敵対的サンプルとその対策：敵対的学習
AIは私たちの生活のさまざまな場面で使われていますが、実はちょっとした“だまし絵”に引っかかってしまうことがあります。人間には気づきにくいけれど、AIが間違えやすいように細工された“だまし絵”のようなデータを「敵対的サンプル」と呼びます。
AIはだまされることがある？～AIに仕掛けられるワナとその守り方～
今や、AI（人工知能）は私たちの生活のあちこちで使われています。たとえば、スマートフォンの顔認証や自動運転の自動車、オンラインストアでの商品のおすすめ表示などもそうです。でも、そんな便利なAIも「だまされてしまう」ことがあるのをご存じでしょうか？その代表例が、「敵対的サンプル」と呼ばれる仕掛けです。この記事では、その仕組みと守り方を、できるだけわかりやすくご紹介します。
AIの判断根拠がわかる？説明可能なAI
いまやAI（人工知能）は、スマートフォンの顔認証やネットショッピングのおすすめ機能など、私たちの暮らしのさまざまなところで使われています。でも、「どうしてAIはこんな判断をしたの？」と疑問に思うことはありませんか？この記事では、「AIがどのようにその答えを出したのか」を人にもわかりやすく説明できる技術、「説明可能AI（XAI）」について、やさしくご紹介します。
説明可能なAI
AIの判断根拠を理解するための技術である説明可能なAI（XAI）に関する概要や関連研究の動向などについて解説します。XAIは、AIモデルがどのように判断や予測を行ったのか、その根拠や理由を人間が理解できる形で説明できるAI技術や仕組みを指します。本記事を読むことで、XAIの概要や研究の最新動向、課題、今後の方向性について理解を深めることができます。
LLMによる有害な応答を防ぐ、安全機構
LLMが有害な応答をしないようにするための安全機構について解説します。本記事を読むことで、安全機構の仕組みについて理解を深めることができます。
AIを不正に操る、バックドア攻撃
攻撃者が意図したタイミングでAIを不正に操ることを可能にするバックドア攻撃について解説します。