AIセキュリティポータルbot

Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents

Authors: Zihao Wang, Yiming Li, Yutong Wu, Zheyu Liu, Kangjie Chen, Fok Kar Wai, Pin-Yu Chen, Vrizlynn L. L. Thing, Bo Li, Dacheng Tao, Tianwei Zhang | Published: 2026-06-11
インダイレクトプロンプトインジェクション
データ駆動型脆弱性評価
自律エージェントセキュリティ

A Privacy-Preserving Framework Using Remote Data Science for Inter-Institutional Student Retention Prediction

Authors: John Fields, K M Sajjadul Islam, Ruchitha Thota, Victor Chen, Praveen Madiraju | Published: 2026-06-11
データ生成
プライバシー保護
差分プライバシー

Detecting Functional Memorization in Code Language Models

Authors: Matthieu Meeus, Anil Ramakrishna, Matthew Grange, Zheng Xu, Luca Melis | Published: 2026-06-11
LLMの応用
データ収集
データ生成

PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections

Authors: Pengfei He, Lesly Miculicich, Vishesh Sharma, Ash Fox, George Lee, Jiliang Tang, Tomas Pfister, Long T. Le | Published: 2026-06-10
インダイレクトプロンプトインジェクション
データ駆動型脆弱性評価
自律エージェントセキュリティ

OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents

Authors: Jin Xie, Songze Li | Published: 2026-06-10
プライバシー保護技術
プロンプトインジェクション

Mind your key: An Empirical Study of LLM API Credential Leakage in iOS Apps

Authors: Pinran Gao, Lingxiang Wang, Ying Zhang, Fan Yang | Published: 2026-06-10
データ流出に関する分析手法
プロンプトリーキング

Categorical Robustness Assessment for Machine Learning based Network Intrusion Detection Systems

Authors: Mayank Raj, Nathaniel D. Bastian, Lance Fiondella, Gokhan Kul | Published: 2026-06-10
モデルの頑健性保証
ロバスト性向上
敵対的学習

Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers

Authors: Jun Wen Leong | Published: 2026-06-10
システム観測性
異常検知
統計的手法

Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code

Authors: Yitong Zhang, Shiteng Lu, Jia Li | Published: 2026-06-10
プロンプトインジェクション
大規模言語モデル
安全性の整合性

Can Open-Source LLM Agents Replace Static Application Security Testing Tools? An Empirical Assessment

Authors: Derek Yohn, Luke Flancher, Mirajul Islam, Khaled Slhoub | Published: 2026-06-10
インダイレクトプロンプトインジェクション
データ駆動型脆弱性評価
静的アプリケーションセキュリティテスト