AIセキュリティポータルbot

Secure Decentralized Learning with Blockchain

Authors: Xiaoxue Zhang, Yifan Hua, Chen Qian | Published: 2023-10-10 | Updated: 2024-03-11
ブロックチェーン技術
ポイズニング
連合学習

Catastrophic Jailbreak of Open-source LLMs via Exploiting Generation

Authors: Yangsibo Huang, Samyak Gupta, Mengzhou Xia, Kai Li, Danqi Chen | Published: 2023-10-10
プロンプトインジェクション
攻撃の評価
敵対的攻撃

LLMs Killed the Script Kiddie: How Agents Supported by Large Language Models Change the Landscape of Network Threat Testing

Authors: Stephen Moskal, Sam Laney, Erik Hemberg, Una-May O'Reilly | Published: 2023-10-10
プロンプトインジェクション
情報収集手法
脅威アクター支援

Text Embeddings Reveal (Almost) As Much As Text

Authors: John X. Morris, Volodymyr Kuleshov, Vitaly Shmatikov, Alexander M. Rush | Published: 2023-10-10
メンバーシップ推論
モデルインバージョン
モデル評価

Statistical properties and privacy guarantees of an original distance-based fully synthetic data generation method

Authors: Rémy Chapelle, Bruno Falissard | Published: 2023-10-10
データ生成
プライバシー分類
メンバーシップ開示リスク

A Semantic Invariant Robust Watermark for Large Language Models

Authors: Aiwei Liu, Leyi Pan, Xuming Hu, Shiao Meng, Lijie Wen | Published: 2023-10-10 | Updated: 2024-05-19
ウォーターマーキング
プロンプトインジェクション
性能評価

SCAR: Power Side-Channel Analysis at RTL-Level

Authors: Amisha Srivastava, Sanjay Das, Navnil Choudhury, Rafail Psiakis, Pedro Henrique Silva, Debjit Pal, Kanad Basu | Published: 2023-10-10
プロンプトインジェクション
暗号学
脆弱性予測

Differentially Private Multi-Site Treatment Effect Estimation

Authors: Tatsuki Koga, Kamalika Chaudhuri, David Page | Published: 2023-10-10
プライバシー分類
性能評価
情報隠蔽手法

LLM for SoC Security: A Paradigm Shift

Authors: Dipayan Saha, Shams Tarek, Katayoon Yahyaei, Sujan Kumar Saha, Jingbo Zhou, Mark Tehranipoor, Farimah Farahmandi | Published: 2023-10-09
LLMの応用
プロンプトインジェクション
脆弱性検出

Adversarial Attacks on Combinatorial Multi-Armed Bandits

Authors: Rishab Balasubramanian, Jiawei Li, Prasad Tadepalli, Huazheng Wang, Qingyun Wu, Haoyu Zhao | Published: 2023-10-08 | Updated: 2024-06-04
アルゴリズム
ウォーターマーキング
機械学習手法