モデル蒸留

モデル蒸留は、大きく高性能なAIの知識を、小さく軽いAIに引き継がせる技術です。蒸留という名前のとおり、巨大なモデルの要点だけを抽出し、小型のモデルに移します。先生役の大型AIが出した答えを教材にして、生徒役の小型AIに学習させる方法です。これにより、性能をある程度保ちながら、動作が速く運用コストの低いAIを作れます。スマートフォンのように性能の限られた端末でAIを動かす場面で利用されます。