AIのセキュリティに関する情報を、基礎から最新の動向まで幅広く解説します。
37 件中 1～9件を表示
はじめに 生成AIをサービスに組み込む際には、危険な回答や、許可されていない操作を防ぐ必要があります。暴力や犯罪の支援、属性に基づいて人や集団を攻撃するヘイトスピーチ、個人情報の漏えいなどが対策の対象です。 大量の文章か […]
はじめに ソーシャルエンジニアリングは、システムの欠陥ではなく人の判断を標的とし、攻撃者にとって都合のよい操作を標的に実行させる攻撃です。フィッシング、ビジネスメール詐欺、ヘルプデスクへのなりすましが代表例です。生成AI […]
はじめに 生成AI、特にLLMを用いたアプリケーションでは、利用者の入力の前に「システムプロンプト」と呼ばれる指示文を付与してモデルへ渡します。システムプロンプトにはAIが果たすべき役割、応答の方針、禁止事項などが記述さ […]
はじめに AIシステム開発においては、多くの場合、学習データやモデル、ソフトウェアなど、第三者が提供するさまざまなコンポーネントを組み合わせてシステムを構築します[1]。このような開発形態には、開発プロセスを効率化できる […]
はじめに 生成AIの活用が広がる中で、AIの適用範囲は仮想空間から物理空間へと拡大しています。カメラやセンサによって周囲を認識し、AIが判断してロボットや車両を動かす「フィジカルAI」が、その代表例です。フィジカルAIの […]
はじめに 生成AIの普及により、偽情報の作り方は大きく変化しました。事実に反する文章を、時間や手間をかけずに大量に生成でき、しかも人間が書いたものと見分けにくいため、SNSでの拡散と相まって、真偽を人手で判断することが難 […]
はじめに 生成AI、特にLLM（大規模言語モデル）の活用が広がっていますが、学習済みデータのみが生成処理に反映されるという性質から、最新の公開情報や、企業などの組織内にある独自データを用いるには、再学習が必要になるなどの […]
はじめに AIは、コード生成や文章作成の支援だけでなく、脆弱性検知やセキュリティ調査の領域でも急速に存在感を高めています。特に 2026年春に相次いだAnthropic社のMythos PreviewとOpen […]
はじめに AI技術の発展に伴い、人間に代わって特定のタスクを自律的に行うAIエージェントを用いたシステム（AIエージェントシステム）の利活用が期待されています。大規模言語モデル（Large Language Model、 […]
