Tricking Retrievers with Influential Tokens: An Efficient Black-Box Corpus Poisoning Attack
Authors: Cheng Wang, Yiwei Wang, Yujun Cai, Bryan Hooi | Published: 2025-03-27
国際的なAI規制の動向
AI規制を概観するために、本稿では主に国際的なAI規制の議論の状況について解説します。
「AIセキュリティポータル」を公開しました
AIのセキュリティに関する情報をまとめて発信するWebサイト「AIセキュリティポータル」を公開しました。
プロンプトインジェクション
LLMへの代表的な攻撃の一つであるプロンプトインジェクションについて解説します。
AIセキュリティに関する用語集
AIセキュリティに関する用語をまとめて解説します。
AIの悪用
AIの悪用に関して、具体的な事例、その影響、および対策について解説します。
有害な応答
LLMから得られる有害な応答の種類と被害、影響について解説します。
LLMの安全機構
LLMによる不適切な発言を抑制する安全機構について解説します。
AIのリスクの概要
本記事では、AIの利用によって引き起される可能性のあるリスクの概要を説明します。
敵対的サンプルに対する対策技術
AIの判断を意図的に誤らせる敵対的サンプルの脅威が指摘されています。本記事では、敵対的サンプルからAIを防御するための対策技術を解説します。