AIの言い訳をハックする?XAI(説明可能なAI)に対する攻撃 はじめに生成AIの利用に当たり、AIの推論出力が必ずしも正しいとは限らないことを念頭に置いてダブルチェックなどを行うことが推奨されていますが、その半面、AIモデルが複雑化するにつれ、なぜAIがその判断や予測をしたのかの根拠を、利用者が理解す... 2026.10.28 専門家向け解説記事
生成AIのガードレール – 有害な出力の判定技術 はじめに生成AIをサービスに組み込む際には、危険な回答や、許可されていない操作を防ぐ必要があります。暴力や犯罪の支援、属性に基づいて人や集団を攻撃するヘイトスピーチ、個人情報の漏えいなどが対策の対象です。大量の文章から言葉の使い方を学習した... 2026.10.14 専門家向け解説記事
AI時代の騙しのテクニック:高度化するソーシャルエンジニアリング攻撃 はじめにソーシャルエンジニアリングは、システムの欠陥ではなく人の判断を標的とし、攻撃者にとって都合のよい操作を標的に実行させる攻撃です。フィッシング、ビジネスメール詐欺、ヘルプデスクへのなりすましが代表例です。生成AIの普及により、自然な文... 2026.09.30 専門家向け解説記事
LLMへの指示が盗まれる?AIシステムの機密を暴く「プロンプトリーキング」 はじめに生成AI、特にLLMを用いたアプリケーションでは、利用者の入力の前に「システムプロンプト」と呼ばれる指示文を付与してモデルへ渡します。システムプロンプトにはAIが果たすべき役割、応答の方針、禁止事項などが記述されています。近年のLL... 2026.09.16 専門家向け解説記事
AIを支える供給網が狙われる:AIサプライチェーン攻撃の仕組みと対策 はじめにAIシステム開発においては、多くの場合、学習データやモデル、ソフトウェアなど、第三者が提供するさまざまなコンポーネントを組み合わせてシステムを構築します。このような開発形態には、開発プロセスを効率化できる利点がある一方、外部から取り... 2026.09.03 一般読者向け解説記事
フィジカルAIのセキュリティ:攻撃・対策の動向と評価のポイント はじめに生成AIの活用が広がる中で、AIの適用範囲は仮想空間から物理空間へと拡大しています。カメラやセンサによって周囲を認識し、AIが判断してロボットや車両を動かす「フィジカルAI」が、その代表例です。フィジカルAIの技術は、産業用ロボット... 2026.08.20 専門家向け解説記事
情報操作から社会を守る:AIを駆使したフェイクニュース・偽情報の検出 はじめに生成AIの普及により、偽情報の作り方は大きく変化しました。事実に反する文章を、時間や手間をかけずに大量に生成でき、しかも人間が書いたものと見分けにくいため、SNSでの拡散と相まって、真偽を人手で判断することが難しくなりつつあります。... 2026.08.05 専門家向け解説記事
外部知識を汚染する罠:RAG(検索拡張生成)へのポイズニング攻撃 はじめに生成AI、特にLLM(大規模言語モデル)の活用が広がっていますが、学習済みデータのみが生成処理に反映されるという性質から、最新の公開情報や、企業などの組織内にある独自データを用いるには、再学習が必要になるなどの大きな制約がありました... 2026.07.23 専門家向け解説記事
AIによる脆弱性検知の進化とリスク はじめにAIは、コード生成や文章作成の支援だけでなく、脆弱性検知やセキュリティ調査の領域でも急速に存在感を高めています。特に2026年春に相次いだAnthropic社のMythos PreviewとOpenAI社のGPT-5.5のリリースは... 2026.07.08 専門家向け解説記事
AIエージェントシステム全体に関する脅威 はじめにAI技術の発展に伴い、人間に代わって特定のタスクを自律的に行うAIエージェントを用いたシステム(AIエージェントシステム)の利活用が期待されています。大規模言語モデル(Large Language Model、LLM)を中核に、Ch... 2026.06.24 専門家向け解説記事