AIセキュリティポータルbot

MasterKey: Automated Jailbreak Across Multiple Large Language Model Chatbots

Authors: Gelei Deng, Yi Liu, Yuekang Li, Kailong Wang, Ying Zhang, Zefeng Li, Haoyu Wang, Tianwei Zhang, Yang Liu | Published: 2023-07-16 | Updated: 2023-10-25
データ漏洩
プロンプトインジェクション
透かしの耐久性

Real-time Traffic Classification for 5G NSA Encrypted Data Flows With Physical Channel Records

Authors: Xiao Fei, Philippe Martins, Jialiang Lu | Published: 2023-07-15
データセット生成
時間ウィンドウ解析
機械学習手法

On the Robustness of Epoch-Greedy in Multi-Agent Contextual Bandit Mechanisms

Authors: Yinglun Xu, Bhuvesh Kumar, Jacob Abernethy | Published: 2023-07-15
アルゴリズム設計
ロバスト性評価
学習タスクの効率的な解決

Population Expansion for Training Language Models with Private Federated Learning

Authors: Tatsuki Koga, Congzheng Song, Martin Pelikan, Mona Chitnis | Published: 2023-07-14
LSTMモデル性能評価
学習の改善
連合学習

Differentially Private Clustering in Data Streams

Authors: Alessandro Epasto, Tamalika Mukherjee, Peilin Zhong | Published: 2023-07-14 | Updated: 2024-01-08
アルゴリズム設計
スケーラビリティ分析
データの隠蔽

Time for aCTIon: Automated Analysis of Cyber Threat Intelligence in the Wild

Authors: Giuseppe Siracusano, Davide Sanvito, Roberto Gonzalez, Manikantan Srinivasan, Sivakaman Kamatchi, Wataru Takahashi, Masaru Kawakita, Takahiro Kakumaru, Roberto Bifulco | Published: 2023-07-14
データセット生成
プロンプトインジェクション
攻撃パターン抽出

Understanding Multi-Turn Toxic Behaviors in Open-Domain Chatbots

Authors: Bocheng Chen, Guangjing Wang, Hanqing Guo, Yuanda Wang, Qiben Yan | Published: 2023-07-14
プロンプトインジェクション
対話システム
攻撃の評価

Student Assessment in Cybersecurity Training Automated by Pattern Mining and Clustering

Authors: Valdemar Švábenský, Jan Vykopal, Pavel Čeleda, Kristián Tkáčik, Daniel Popovič | Published: 2023-07-13
セキュリティ分析
データセット生成
教育データマイニング

Effective Prompt Extraction from Language Models

Authors: Yiming Zhang, Nicholas Carlini, Daphne Ippolito | Published: 2023-07-13 | Updated: 2024-08-07
プロンプトインジェクション
プロンプトリーキング
対話システム

Information-Theoretically Private Federated Submodel Learning with Storage Constrained Databases

Authors: Sajani Vithana, Sennur Ulukus | Published: 2023-07-12
アルゴリズム設計
データ整合性制約
効率性評価