情報操作から社会を守る：AIを駆使したフェイクニュース・偽情報の検出
はじめに生成AIの普及により、偽情報の作り方は大きく変化しました。事実に反する文章を、時間や手間をかけずに大量に生成でき、しかも人間が書いたものと見分けにくいため、SNSでの拡散と相まって、真偽を人手で判断することが難しくなりつつあります。...
解説記事
外部知識を汚染する罠：RAG（検索拡張生成）へのポイズニング攻撃
はじめに生成AI、特にLLM（大規模言語モデル）の活用が広がっていますが、学習済みデータのみが生成処理に反映されるという性質から、最新の公開情報や、企業などの組織内にある独自データを用いるには、再学習が必要になるなどの大きな制約がありました...
AIによる脆弱性検知の進化とリスク
はじめにAIは、コード生成や文章作成の支援だけでなく、脆弱性検知やセキュリティ調査の領域でも急速に存在感を高めています。特に2026年春に相次いだAnthropic社のMythos PreviewとOpenAI社のGPT-5.5のリリースは...
AIエージェントシステム全体に関する脅威
はじめにAI技術の発展に伴い、人間に代わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model、LLM）を中核に、Ch...
AIエージェント特有の脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model、LLM）を中核に、Ch...
AIエージェントによる悪用に関する脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model, LLM）を中核に、C...
AIエージェント間の連携に関する脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model, LLM）を中核に、C...
人間とAIエージェントの意思決定に関する脅威
はじめにAI技術の発展に伴い、人間に変わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model, LLM）を中核に、C...
LLMに対するポイズニング攻撃
はじめに大規模言語モデル（Large Language Model、LLM）は、その急速な進化に伴い、教育、医療、法務、金融などさまざまな分野での利活用が拡大しています。しかし、従来のAI技術と同様に、LLMの性能は、学習データの信頼性に依...
AIは“だまし絵”に弱い？敵対的サンプルとその対策：敵対的学習
はじめに最近、「AI（人工知能）」という言葉をよく耳にするようになりました。AIは私たちの生活のさまざまな場面で使われていますが、実はちょっとした“だまし絵”に引っかかってしまうことがあります。たとえば、AIが道路標識を見分けるとき、「一時...