AI時代の騙しのテクニック：高度化するソーシャルエンジニアリング攻撃New
はじめにソーシャルエンジニアリングは、システムの欠陥ではなく人の判断を標的とし、攻撃者にとって都合のよい操作を標的に実行させる攻撃です。フィッシング、ビジネスメール詐欺、ヘルプデスクへのなりすましが代表例です。生成AIの普及により、自然な文...
解説記事
LLMへの指示が盗まれる？AIシステムの機密を暴く「プロンプトリーキング」
はじめに生成AI、特にLLMを用いたアプリケーションでは、利用者の入力の前に「システムプロンプト」と呼ばれる指示文を付与してモデルへ渡します。システムプロンプトにはAIが果たすべき役割、応答の方針、禁止事項などが記述されています。近年のLL...
AIを支える供給網が狙われる：AIサプライチェーン攻撃の仕組みと対策
はじめにAIシステム開発においては、多くの場合、学習データやモデル、ソフトウェアなど、第三者が提供するさまざまなコンポーネントを組み合わせてシステムを構築します。このような開発形態には、開発プロセスを効率化できる利点がある一方、外部から取り...
フィジカルAIのセキュリティ：攻撃・対策の動向と評価のポイント
はじめに生成AIの活用が広がる中で、AIの適用範囲は仮想空間から物理空間へと拡大しています。カメラやセンサによって周囲を認識し、AIが判断してロボットや車両を動かす「フィジカルAI」が、その代表例です。フィジカルAIの技術は、産業用ロボット...
情報操作から社会を守る：AIを駆使したフェイクニュース・偽情報の検出
はじめに生成AIの普及により、偽情報の作り方は大きく変化しました。事実に反する文章を、時間や手間をかけずに大量に生成でき、しかも人間が書いたものと見分けにくいため、SNSでの拡散と相まって、真偽を人手で判断することが難しくなりつつあります。...
外部知識を汚染する罠：RAG（検索拡張生成）へのポイズニング攻撃
はじめに生成AI、特にLLM（大規模言語モデル）の活用が広がっていますが、学習済みデータのみが生成処理に反映されるという性質から、最新の公開情報や、企業などの組織内にある独自データを用いるには、再学習が必要になるなどの大きな制約がありました...
AIによる脆弱性検知の進化とリスク
はじめにAIは、コード生成や文章作成の支援だけでなく、脆弱性検知やセキュリティ調査の領域でも急速に存在感を高めています。特に2026年春に相次いだAnthropic社のMythos PreviewとOpenAI社のGPT-5.5のリリースは...
AIエージェントシステム全体に関する脅威
はじめにAI技術の発展に伴い、人間に代わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model、LLM）を中核に、Ch...
AIエージェント特有の脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model、LLM）を中核に、Ch...
AIエージェントによる悪用に関する脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model, LLM）を中核に、C...