AIセキュリティマップにマッピングされた外部作用的側面における負の影響「AIのユーザビリティが低下」のセキュリティ対象、それをもたらす攻撃・要因、および防御手法・対策を示しています。
セキュリティ対象
- 消費者
攻撃・要因
- 完全性の毀損
- 可用性の毀損
- 精度の毀損
- 制御可能性の毀損
- 出力の公平性の毀損
防御手法・対策
- 完全性の防御手法
- 可用性の防御手法
- RAG
参考文献
RAG
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, 2020
- REALM: Retrieval-Augmented Language Model Pre-Training, 2020
- In-Context Retrieval-Augmented Language Models, 2023
- Active Retrieval Augmented Generation, 2023
- Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection, 2023
- Query Rewriting for Retrieval-Augmented Large Language Models, 2023
- Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering, 2023
- Generate rather than Retrieve: Large Language Models are Strong Context Generators, 2023
- Enhancing Retrieval-Augmented Large Language Models with Iterative Retrieval-Generation Synergy, 2023
- From Local to Global: A Graph RAG Approach to Query-Focused Summarization, 2024