はじめに
最近、「AI（人工知能）」という言葉をよく耳にするようになりました。
AIは私たちの生活のさまざまな場面で使われていますが、実はちょっとした“だまし絵”に引っかかってしまうことがあります。
たとえば、AIが道路標識を見分けるとき、「一時停止」と書かれた標識に、ぱっと見ではわからないほど小さな傷や模様（ノイズ）を入れると、AIがまったく違う標識だと勘違いしてしまうことがあります。このように、人間には気づきにくいけれど、AIが間違えやすいように細工された“だまし絵”のようなデータを「敵対的サンプル」と呼びます。
AIが“だまされる”ってどういうこと？
私たちにとっては普通に見える画像や音声でも、AIはほんの少しの違いで大きく誤解してしまう場合があります。この性質を悪用して、AIが間違えるように仕掛けられたデータを使われると、たとえば自動運転の自動車が標識を見間違えたり、ウィルス対策ソフトのセキュリティチェックがうまく検知できなくなったりと、思わぬトラブルにつながるリスクがあります。
そもそもAIはどうやって作られている？
AIは大きく分けて、次のような流れで作られています。
- データ集めと準備：AIに覚えさせるための写真や音声などのデータを集める
- AIの“頭脳”作りと訓練：そのデータを使って、AIを訓練する
- テスト：AIがきちんと答えを出せるかチェックする
- 実際に使う：お店やサービスなどでAIを使う
「敵対的サンプル」への対策は、AIを訓練するときに特に重要になります。
“だまし絵”に強いAIにするには？
AIが敵対的サンプル（だまし絵のようなデータ）に引っかからないようにするには、どうしたらいいでしょうか？その答えの一つが「敵対的学習」です。これは、AIを訓練するときに、わざと“ちょっとひねったデータ”を混ぜておく方法です。たとえば、算数の勉強をするときに、計算ドリルにひっかけ問題を入れるようなイメージです。AIは、普通の問題とひねった問題の両方で訓練することで、だまされにくくなります。
どんな工夫がされている？
- ひねった問題を少しずつ難しくする
最初は簡単なひっかけ問題から、だんだん難しいものへとステップアップしていきます。これで、AIがどんな問題にも柔軟に対応できるようになります。
- AIが間違えやすいパターンをたくさん覚えさせる
いろいろなタイプの“だまし絵”で練習させることで、AIが慣れていきます。
- 効率よく練習させる工夫
AIが早く、たくさんの問題をこなせるように、練習方法にもさまざまな工夫がされています。たとえば、AIの中で間違いを引き起こすのに関係する部分だけを訓練し直すことで、効率よくできます。
まだまだ課題もたくさん
ただし、「だまし絵」に強くなると、逆に普通の問題への対応力（汎化性能）が下がってしまうこともあります。また、これまで見たことのない新しい“ひっかけ問題”が出てきた場合には、やはり間違えてしまうこともあります。AIが本当に安心して使えるようになるには、いろいろな場面でしっかりテストしたり、常に新しい問題にも対応できるよう改良を続けたりすることが大切です。
まとめ
AIはとても賢いですが、人間と同じように“ひっかけ問題”には弱いところがあります。
でも、工夫次第でだまされにくくすることはできます。
これからもAIがもっと安心して使えるように、たくさんの研究が続いています。
私たちの暮らしの中で、AIはより安全で信頼できるものになっていくでしょう。
※ 本記事は、専門家向けの解説記事「敵対的サンプルから守る、敵対的学習」をもとに、生成AIを活用して作成しています。生成AIの具体的な活用方法については、「生成AIを活用した一般読者向け解説記事の提供について」をご参照ください。