AI認証 : 説明可能AIによるニューラルネットの識別

芦沢 奈実, 鈴木 亮平，桐淵 直人, 大木 哲史, 峰野 博史, 西垣 正勝
2022年暗号と情報セキュリティシンポジウム概要集, pp. 1–8, Jan 2022.

Abstract

実社会のあらゆる分野でAIの利活用が進んでいる。しかし、AIが生活に浸透した将来、AIのなりすましによる被害（例えばAIを介した詐欺）が社会問題になると想定される。よって、AIの学習済みモデルが不正でないと認証できることが重要となる。現在、モデルを確認する手法として、電子透かしやモデル自体が有する性質を外的に確認する手法の研究が進んでいる。しかしこれらの手法は知的財産保護を主目的とし、モデルの製作者がモデルを区別するに留まる。そのためモデルの利用者が不正なモデルを認証することはできない。加えて学習済みモデルは、従来のソフトウェアと異なり刻一刻と変化するだけでなく、状況に応じて様々な使い分けが想定され、唯一性がない。そのため、従来の認証方式をAIに適用するだけでは不十分であり、AIに適した認証方式の検討が必要となる。本稿では、説明可能AIの説明性を用いてモデルを区別する手法を提案する。説明性を用いることで、ユーザによる不正モデルの確認を可能にし、モデルの変化にも対応可能となる。この手法をさらに発展させることで、説明性によるAIの識別・認証の実現を目指す。