文献データベース

FedMIA: An Effective Membership Inference Attack Exploiting “All for One” Principle in Federated Learning

Authors: Gongxi Zhu, Donghao Li, Hanlin Gu, Yuan Yao, Lixin Fan, Yuxing Han | Published: 2024-02-09 | Updated: 2025-03-27
ポイズニング
メンバーシップ推論
連合学習

Barycentric and Pairwise Renyi Quantum Leakage

Authors: Farhad Farokhi | Published: 2024-02-09
ウォーターマーキング
プライバシー保護
量子フレームワーク

EmojiPrompt: Generative Prompt Obfuscation for Privacy-Preserving Communication with Cloud-based LLMs

Authors: Sam Lin, Wenyue Hua, Zhenting Wang, Mingyu Jin, Lizhou Fan, Yongfeng Zhang | Published: 2024-02-08 | Updated: 2025-03-20
ウォーターマーキング
プライバシー保護手法
プロンプトインジェクション

In-Context Learning Can Re-learn Forbidden Tasks

Authors: Sophie Xhonneux, David Dobre, Jian Tang, Gauthier Gidel, Dhanya Sridhar | Published: 2024-02-08
Few-Shot Learning
LLMセキュリティ
LLM性能評価

A High Dimensional Statistical Model for Adversarial Training: Geometry and Trade-Offs

Authors: Kasimir Tanner, Matteo Vilucchio, Bruno Loureiro, Florent Krzakala | Published: 2024-02-08 | Updated: 2024-12-27
ウォーターマーキング
収束特性
損失関数

Rapid Optimization for Jailbreaking LLMs via Subconscious Exploitation and Echopraxia

Authors: Guangyu Shen, Siyuan Cheng, Kaiyuan Zhang, Guanhong Tao, Shengwei An, Lu Yan, Zhuo Zhang, Shiqing Ma, Xiangyu Zhang | Published: 2024-02-08
LLMセキュリティ
LLM性能評価
プロンプトインジェクション

Segmentation-free Connectionist Temporal Classification loss based OCR Model for Text Captcha Classification

Authors: Vaibhav Khatavkar, Makarand Velankar, Sneha Petkar | Published: 2024-02-08
CAPTCHAソルバー
ウォーターマーキング
データ前処理

SALAD-Bench: A Hierarchical and Comprehensive Safety Benchmark for Large Language Models

Authors: Lijun Li, Bowen Dong, Ruohui Wang, Xuhao Hu, Wangmeng Zuo, Dahua Lin, Yu Qiao, Jing Shao | Published: 2024-02-07 | Updated: 2024-06-07
LLMセキュリティ
LLM性能評価
プロンプトインジェクション

Impact of Dataset Properties on Membership Inference Vulnerability of Deep Transfer Learning

Authors: Marlon Tobaben, Hibiki Ito, Joonas Jälkö, Yuan He, Antti Honkela | Published: 2024-02-07 | Updated: 2025-10-06
プライバシー保護機械学習
メンバーシップ推論
統計的検定

De-amplifying Bias from Differential Privacy in Language Model Fine-tuning

Authors: Sanjari Srivastava, Piotr Mardziel, Zhikhun Zhang, Archana Ahlawat, Anupam Datta, John C Mitchell | Published: 2024-02-07
データプライバシー評価
バイアス
プライバシー保護