機械学習における順序統合問題の近似解法

松井 都志子
2014/7/16 (水), 15:00-17:00
東京大学 工学部6号館 235号室

 本輪講では,機械学習分野において回答が順序データとなるタスクに対する回答統合法を扱う.対象が順序データである場合の特徴として,目的関数が離散的である点,分配関数部分の計算量が膨大になる点が挙げられる.

 実験においては,提案モデルを実データに適用することで,得られた回答からワーカの能力を推定し,どれだけ真の順序に近い順序を得ることができるかを観察する.その際,目的関数の分配関数部分の計算における工夫として,機械学習分野において一般に用いられるマルコフ連鎖モンテカルロ(MCMC)法を軸とし,Contrastive Divergence(CD)法 [1],ハミルトンモンテカルロ(HMC)法 [2]などの適用が考えられる.

 今回は,目的関数計算にあたって候補となりうる,上に紹介した各近似解法の性質について,明示的に計算した場合との比較をふまえつつ紹介するとともに,今後の課題をまとめることとする.

参考文献
[1] Hinton, G. E.: Training Products of Experts by Minimizing Contrastive Divergence, Neural Comput., Vol. 14, No. 8, pp. 1771-1800 (2002)
[2] Duane, B. J. P. D. R., A.D. Kennedy: Hybrid Monte Carlo, Physics Letters B, Vol. 195, No. 2, pp. 216-222 (1987)