プロンプトリーキング

Game-Theoretic Multi-Agent Control for Robust Contextual Reasoning in LLMs

Authors: Saeid Jamshidi, Amin Nikanjam, Arghavan Moradi Dakhel, Kawser Wazed Nafi, Foutse Khomh | Published: 2026-06-09
RAGへのポイズニング攻撃
コンテキスト管理
プロンプトリーキング

RECON: An LLM-Enhanced Backward Constraint Analysis Framework

Authors: Babangida Bappah, Lamine Noureddine, Umar Farooq, Aisha Ali-Gombe | Published: 2026-06-09
LLMの応用
データ依存性
プロンプトリーキング

Testing LLM Arithmetic Reasoning Generalization with Automatic Numeric-Remapping Attacks

Authors: Malia Barker, Bishal Lakha, Edoardo Serra, Francesco Gullo | Published: 2026-06-02
プロンプトインジェクション
プロンプトリーキング
ロバスト性評価

Learn from Your Mistakes: Tree-like Self-Play for Secure Code LLMs

Authors: Wenqi Chen, Ziyan Zhang, Bing Wang, Lin Liu, Hengheng Zhang, Zhengsu Chen | Published: 2026-06-02
データ生成の安全性
プロンプトリーキング
リスク評価

SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection

Authors: Shuhao Chen, Weisen Jiang, Yeqi Gong, Shengda Luo, Chengxiang Zhuo, Zang Li, James T. Kwok, Yu Zhang | Published: 2026-05-27
LLMセキュリティ
プロンプトインジェクション
プロンプトリーキング

Disentangling Adversarial Prompts: A Semantic-Graph Defense for Robust LLM Security

Authors: Xiang Fang, Wanlong Fang | Published: 2026-05-27
プロンプトインジェクション
プロンプトリーキング
著者貢献

Threat Modelling using Domain-Adapted Language Models: Empirical Evaluation and Insights

Authors: Saba Pourhanifeh, AbdulAziz AbdulGhaffar, Ashraf Matrawy | Published: 2026-05-11
プロンプトインジェクション
プロンプトリーキング
攻撃の分類

Benchmarking Safety Risks of Knowledge-Intensive Reasoning under Malicious Knowledge Editing

Authors: Qinghua Mao, Xi Lin, Jinze Gu, Jun Wu, Siyuan Li, Yuliang Chen | Published: 2026-05-11
プロンプトリーキング
リスク分析手法
知識埋め込みアルゴリズム

FlashRT: Towards Computationally and Memory Efficient Red-Teaming for Prompt Injection and Knowledge Corruption

Authors: Yanting Wang, Chenlong Yin, Ying Chen, Jinyuan Jia | Published: 2026-04-30
LLM性能評価
RAGへのポイズニング攻撃
プロンプトリーキング

REBENCH: A Procedural, Fair-by-Construction Benchmark for LLMs on Stripped-Binary Types and Names (Extended Version)

Authors: Jun Yeon Won, Xin Jin, Shiqing Ma, Zhiqiang Lin | Published: 2026-04-30
LLM性能評価
プロンプトインジェクション
プロンプトリーキング