第7回研究会
第7回研究会を以下の通り開催いたしました．
- 日時：2016年 4月 23日 (土) 13:30〜18:00
- 会場：東京理科大学 神楽坂キャンパス 森戸記念館第1会議室
アクセス：http://www.tus.ac.jp/info/access/gmap/kag_gmap.html
（神楽坂下交差点から早稲田通りを300mほど登って右手にある鳥茶屋本店前を右に曲がって突き当たりです.）
- 講演者１：鈴木 大慈 氏 (東京工業大学 情報理工学院)
- 題目：確率的交互方向乗数法の理論と応用
- 概要：機械学習における正則化学習問題を解くにあたり, 交互方向乗数法は非常に汎用的でかつ強力な最適化手法である.
本研究では,交互方向乗数法をベースとしたいくつかの確率的最適化手法を提案する.
確率的最適化手法はサンプルサイズが大きくても，一回の更新にサンプル全体を見ず，サンプルの一部を観測して更新するという点で，更新にかかる計算量が少なくて済む手法である．
提案する方法は構造的学習問題において特に有用な確率的最適化手法である．
提案手法は大きく二つのタイプに分けられ,
一つ目は観測したサンプルは捨ててしまうオンライン型の手法で, 二つ目は双対問題において確率的座標降下法を用いる手法である.
オンライン型の手法としては, 近接勾配型と双対平均型の手法を紹介し, それぞれがミニマクス最適なレートを達成することを示す.
一方,双対問題において確率的座標降下法を用いる手法は線形収束を達成し，
パラメータの設定によっては条件数への依存度を弱くできることを紹介する．
また，多クラス半教師あり学習において有用な新しいグラフ型の正則化を提案し，その確率的交互方向乗数法をベースとした確率的最適化手法を紹介する．
提案手法は，目的関数が強凸でなくても実効定義域の多面体性を用いることで線形収束することが示される．
- 講演者２：天野 一幸 氏 (群馬大学大学院 理工学府 電子情報部門)
- 題目：多項式しきい値表現のＸＯＲ補題と整数計画のテンソル積
- 概要：近年の深層学習の成功にも伴い，しきい値素子を用いた回路モデルの計算能力の解明が求められている．本講演では，その中でも最も単純なモデルの一つである論理関数の多項式しきい値表現を取り上げ，特に次数に関するＸＯＲ補題[O'Donnell-Servedio, 2010]が表現長等他の尺度のもとでは成り立たないことを述べる．また，この問題が整数計画問題のテンソル積の解空間構造と深く関係することについても議論する．
戻る