深層学習の潜在変数の解析とその構成法の検討

本研究課題では深層学習における潜在変数の質を解析し、モダリティに依らない高品質な潜在変数の構成法を検討することが目的である。そのような潜在変数を得るための学習方法、また得られた潜在変数を活用したシステムの開発も目的であり、2023年度は以下の点に着目し研究を実施した。 (1) 大規模自然言語処理システムに文章を与えた際に得られる潜在変数の性質を確認するために、日本語コンテンツで事前学習されたSentence-BERTをEncoderとみなし入力文章を潜在変数に変換した。この潜在変数の性質を可視化するため、この潜在変数から入力文章に対応した画像を生成することが可能なDecoderを設計した。このDecoderで生成される画像を用いて、潜在変数空間内に特定形状の物体の色を表す超平面が存在すること、物体形状を表す超平面が存在することを明らかにした。 (2) 画像が形、色、テクスチャでそれぞれ分類されるような場合に潜在変数の分布がどのようになるかを実験的に解析した。その結果、画像によって形状、色空間で潜在変数空間にクラスターが生成されることを明らかにした。 (3) U-Netを基本とした画像変換タスクを実現するEncoder-Decoderモデルを提案し、それぞれの深さでのスキップ接続がどのような情報伝達を行なっているのかを実験的に明らかにした。 (4) 潜在変数の分布を評価関数に用いて性能の良い人工ニューラルネットワーク構成を検討することができるかについて解析を行った。その結果、学習初期の状態から学習後の性能を予測できることを明らかにした。また潜在変数の評価関数の構成法についても検討を行い、新たな評価指標の創出を目指した。