AIの悪用
はじめに本記事では、AIの悪用について解説します。AIは我々の生活を豊かにするだけでなく、悪用されることで我々の生活を脅かすものになり得ます。本記事を読むことで、AIの悪用の事例やその影響、対策について理解を深めることができます。AIの悪用...
有害な応答
はじめに本記事は、ChatGPTなどのような生成AIサービスに利用されている大規模言語モデル（LLM）を利用する際に出力される可能性のある有害な応答について解説します。本記事を読むことで、LLMからの有害な応答の種類や想定される影響、被害に...
LLMの安全機構
はじめに本記事は、大規模言語モデル（Large Language Model, LLM）の安全機構について解説します。LLMはChatGPTなどのような生成AIサービスに利用されており、膨大な知識を有していますが、中には有害な内容も学習して...
AIのリスクの概要
はじめに人工知能（AI）は、医療、金融、交通などのさまざまな業界に革命を起こす可能性を秘めています。その一方で、AI技術とその利用には重大なリスクが伴うため、慎重な検討が必要です。この記事では、それらのリスクの概要について説明します。セキュ...
敵対的サンプルに対する対策技術
はじめに敵対的サンプルとは、AIに誤った出力を引き起こすよう細工された入力データのことです。例えば、標識を認識する画像認識AIに対して、「一時停止」の標識を正しく認識するのを妨げるために、わずかなノイズを加えた画像が挙げられます。こうした画...
EUにおけるAI規制の動向
はじめに2024年7月12日、Artificial Intelligence Act（AI Act、以下、AI法）がEU官報 に掲載されました。AI法はAIのリスクに対処し、欧州が世界的に主導的な役割を果たすAIに関する史上初の法的枠組みと...
分類モデルに対するポイズニング
はじめに本記事は、顔認証をはじめ多くのサービスに利用されている分類モデルに対する攻撃の一種である、ポイズニング攻撃について解説します。本記事を読むことで、分類モデルに対するポイズニング攻撃とその影響、対策について知ることができます。分類モデ...
AIに対する攻撃の概要
はじめに本記事は、AIへの攻撃やそれにより引き起こされる社会的な影響などについて解説します。特に、AIモデルの予測を混乱させることを目的とした敵対的攻撃について紹介します。ChatGPTのような生成AIサービスをはじめとしたAI技術は飛躍的...
AIの種類
はじめにAIという言葉をニュースなどで耳にする機会が多くなっています。しかし、一言でAIと言っても、技術的にはさまざまな種類のAIが存在します。本記事では、AIのうち、特に広い分野で利用されている機械学習に関連する技術について紹介します。機...
AIをだます、敵対的サンプル
はじめにAIは、私たちの身の回りのさまざまなシステムで活用されています。例えば、最近の自動車にはAIを用いた運転支援システムが搭載されています。自動車に搭載されたカメラで周囲の画像を撮影することで、撮影された画像の中からAIが標識を見つけ出...