プロンプトインジェクション

TPIA: Towards Target-specific Prompt Injection Attack against Code-oriented Large Language Models

Authors: Yuchen Yang, Hongwei Yao, Bingrun Yang, Yiling He, Yiming Li, Tianwei Zhang, Zhan Qin, Kui Ren, Chun Chen | Published: 2024-07-12 | Updated: 2025-01-16

LLMセキュリティ

プロンプトインジェクション

攻撃手法

2024.07.12 2025.04.03

文献データベース

Refusing Safe Prompts for Multi-modal Large Language Models

Authors: Zedian Shao, Hongbin Liu, Yuepeng Hu, Neil Zhenqiang Gong | Published: 2024-07-12 | Updated: 2024-09-05

LLMセキュリティ

プロンプトインジェクション

評価手法

2024.07.12 2025.04.03

文献データベース

On Discrete Prompt Optimization for Diffusion Models

Authors: Ruochen Wang, Ting Liu, Cho-Jui Hsieh, Boqing Gong | Published: 2024-06-27

ウォーターマーキング

プロンプトインジェクション

プロンプトエンジニアリング

2024.06.27 2025.04.03

文献データベース

CleanGen: Mitigating Backdoor Attacks for Generation Tasks in Large Language Models

Authors: Yuetai Li, Zhangchen Xu, Fengqing Jiang, Luyao Niu, Dinuka Sahabandu, Bhaskar Ramasubramanian, Radha Poovendran | Published: 2024-06-18 | Updated: 2025-03-27

LLMセキュリティ

バックドア攻撃

プロンプトインジェクション

2024.06.18 2025.04.03

文献データベース

ChatBug: A Common Vulnerability of Aligned LLMs Induced by Chat Templates

Authors: Fengqing Jiang, Zhangchen Xu, Luyao Niu, Bill Yuchen Lin, Radha Poovendran | Published: 2024-06-17 | Updated: 2025-01-07

LLMセキュリティ

プロンプトインジェクション

脆弱性管理

2024.06.17 2025.04.03

文献データベース

GoldCoin: Grounding Large Language Models in Privacy Laws via Contextual Integrity Theory

Authors: Wei Fan, Haoran Li, Zheye Deng, Weiqi Wang, Yangqiu Song | Published: 2024-06-17 | Updated: 2024-10-04

LLM性能評価

プライバシー保護手法

プロンプトインジェクション

2024.06.17 2025.04.03

文献データベース

Threat Modelling and Risk Analysis for Large Language Model (LLM)-Powered Applications

Authors: Stephen Burabari Tete | Published: 2024-06-16

LLMセキュリティ

プロンプトインジェクション

リスク管理

2024.06.16 2025.04.03

文献データベース

Emerging Safety Attack and Defense in Federated Instruction Tuning of Large Language Models

Authors: Rui Ye, Jingyi Chai, Xiangrui Liu, Yaodong Yang, Yanfeng Wang, Siheng Chen | Published: 2024-06-15

LLMセキュリティ

プロンプトインジェクション

ポイズニング

2024.06.15 2025.04.03

文献データベース

RL-JACK: Reinforcement Learning-powered Black-box Jailbreaking Attack against LLMs

Authors: Xuan Chen, Yuzhou Nie, Lu Yan, Yunshu Mao, Wenbo Guo, Xiangyu Zhang | Published: 2024-06-13

LLMセキュリティ

プロンプトインジェクション

強化学習

2024.06.13 2025.04.03

文献データベース

Efficient Network Traffic Feature Sets for IoT Intrusion Detection

Authors: Miguel Silva, João Vitorino, Eva Maia, Isabel Praça | Published: 2024-06-12

プロンプトインジェクション

モデル性能評価

機械学習手法

2024.06.12 2025.04.03

文献データベース