This thesis consists of three main contributions. The first contribution is to theoretically analyze and provide alternative views on popular techniques in motor imagination based brain-computer interface (BCI) from a statistical learning point of view. In particular for the common spatial pattern (CSP) algorithm we present a discriminative view as a lower-bound to the likelihood of a regularized logistic regression model as well as a generative view as a non-stationary de-mixing model. The common spatio spectral pattern (CSSP) algorithm is greatly simplified by a symmetry assumption on the time-delayed covariance matrix. Moreover a practical method for spatio-spectral filter optimization called SPEC-CSP is proposed. The second contribution is to unify the feature extraction and classification steps in single trial EEG analysis under a discriminative framework. We propose a regularized logistic regression model that directly works on the pair-wise covariances between electrodes; the conventional two steps are unified into a single optimization problem. We demonstrate that the rank=2 parameterized variant of the logistic regression model performs comparable to the conventional CSP based approach and is extremely robust to outliers. The last contribution is to introduce the dual spectral norm regularization for supervised learning problems over matrices in general. Prediction problems over matrices arise naturally in many fields. The dual spectral regularization provides automatic factorization of linear models over matrices; in fact, the L1 nature of the regularization forces many singular-values of the coefficient matrix to be zero. The dual spectral regularization can be considered as a convex alternative to the non-convex rank constraint. Additionally this sparseness allows good interpretation of the solution. Moreover, we propose an efficient optimization algorithm based on the interior-point method. The convex duality plays a key role in the implementation. We apply the logistic regression model with the dual spectral regularization to the classification of P300 visually evoked response and the motor imagination based BCI. In the P300 experiment, the classifier performs comparable to the best known models and uses only few spatial/temporal factors. on the motor imagination datasets, the classification performance is significantly improved against L2-regularized logistic regression, rank=2 approximated logistic regression as well as CSP based classifier. Connections to LASSO, kernel methods with the second order polynomial kernel are discussed. All methods presented in this thesis are tested on 162 real motor imagination BCI datasets.

情報化の進展により人間がコンピューターあるいは機械を操作する機会が急速に増大している.従来,人間と機械の関係において,人間があらかじめ決められた機械の操作方法を学びそれに従うということが当然とされてきた,しかし急速な計算機の性能向上に伴い,人間が機械に慣れるのではなく,逆に機械がひとりひとりの人間について,どのように操作されるのが最も生産的なのかを学習する,そのようなシステムを構築することが重要な課題として浮かび上がってきた.本論文が扱うのは人間と機械の間のインタフェースとして特に先端的な,ブレイン‐コンピューター インタフェース (brain-computer interface, BCI),すなわち人間の脳から直接コンピューターに情報を伝えるシステムを対象とする.BCI の分野でも長い間,「条件付け」すなわち視覚等のフィードバックに基づき人間を訓練することが必要とされてきた.しかしシステマティックな脳活動の計測データが得られれば,個人の操作方法を機械に学習させる問題は統計的学習の問題とみなすことができる.脳科学的には大まかには同じような現象と捉えることができても,人間の脳はひとりひとり異なる解剖学的・生理学的特性を持つため,BCIの性能を向上させ利用者の訓練による負担を軽減するためには個人の脳にあわせて機械が学習することが重要になる.本論文では,非侵襲な脳波(Electroencephalography, EEG)ベースのBCIを対象にする.従来EEGベースのBCIシステムでは,多くのデータに依存する前処理過程によって抽出された特徴に基づく単純な線形判別機が用いられてきた.前処理もそれぞれデータに対する何らかのアルゴリズムで行なわれるので,前処理から判別機までを1つのシステムと見たときのシステム全体としての性能は必ずしも明確ではなかった.なぜなら,前処理や判別のステップにおいて,それぞれ別々の最適性と複雑さのトレードオフが存在するからである.本論文は,前処理から判別機までを全体で1つの判別機と見たときの判別機の最適性,解きやすさ,複雑さの制御,および性能を議論するものである.

本論文は"Supervised Learning over Matrices with Dual Spectral Regularization and Its Application to Single Trial EEG Classification" (「和文題目:双対スペクトル正則化を用いた行列上の教師あり学習とその単一試行EEG判別への応用」)と題し,6章から成る.

第1章では,「序論」(Introduction)と題し,本論文の背景となるEEGベースのBCIおよび統計的機械学習の基礎事項が説明されている.

第2章では,「振動成分に基づくBCIのためのデータ依存フィルタリング手法の解析」(Analysis of data dependent filtering techniques for oscillatory feature based BCI)と題し,従来の特徴抽出法が解析され,統計的にみたときの最尤法としての導出や,異なる定式化,現実的な仮定を入れることで簡単化できることなどが示されている.

第3章では,「スペクトル重み付きcommon spatial pattern アルゴリズム」(Spectrally weighted common spatial pattern (Spec-CSP) algorithm)と題し,2章の結果をもとに従来の特徴抽出法が拡張され,ヒューリスティックながら少ない計算量で判別性能を大幅に改善できることが示されている.また,前処理とハイパーパラメータ選択の間の関係が議論されている.

第4章では,「振動成分に基づくBCIのためのロジスティック回帰」(Logistic regression for oscillatory feature based BCI)と題し,ロジスティック回帰の枠組みが導入され,従来独立に行われてきた前処理の最適化と判別機の最適化を統合し,1つの最大事後確率(maximum a posteriori probability, MAP)推定問題として定式化できることが示されている.また,既存の手法との数学的な関係が明らかにされている.

第5章では,「双対スペクトル正則化を用いた学習」(Learning with the dual spectral regularization)と題し,双対スペクトル正則化が導入されている.4章の結果から単一試行EEG判別の問題は,行列の上のロジスティック回帰問題として定式化できる.これを踏まえて,より一般の行列上の線形な教師あり学習の問題が考察される.行列の上での教師あり学習において,自然な複雑さの指標として行列のランクがある.しかし,ランク最小化あるいはランク制約問題は,非凸な解きにくい問題として知られている.本研究では,行列の特異値の和で与えられる「双対スペクトルノルム」の最小化がランク最小化問題の凸近似を与えることに注目し,SVMに代表されるカーネル法の解きやすさとパラメトリックモデルの解釈しやすさを併せ持つ推定量を提案している.この方法は,視覚誘発電位のP300成分を用いた文字入力システム(入力は短い多次元時系列の長方行列)および運動の想像によって得られる運動野のリズミックな活動の変化を用いたBCIシステム(入力は短時間の共分散推定の対称行列)に応用され,双対スペクトル正則化によるランク縮小がよい判別性能を実現するために重要であることが示された.また,従来のパラメトリックな方法と比較して,外れ値に頑健で複雑さの制御が統一的に可能となることが示された.この結果はBCIの応用のみならず,行列を入力とする広いクラスの教師あり学習の問題に応用できると期待できる.

第6章では,「結論」(Conclusion)と題し,以上の結果をまとめ,議論を行っている.

以上を要するに,本論文はBCIにおける判別問題において,従来の特徴抽出中心の判別機の設計手法を解析し,これを統計的学習の枠組みで考えることで特徴抽出と判別機の統合された全体を1つのシステムと考える新たな視点を導入し,この最適性,解きやすさ,および複雑さの制御の方法を議論したものである.さらに,上の問題を含む一般の行列上の教師あり学習の問題について,安定に計算が可能な凸最適化の枠組みで従来のパラメトリック法の利点を達成するために双対スペクトル正則化を導入した.これらは数理情報学上貢献するところが大きい.

よって本論文は博士(情報理工学)の学位請求論文として合格と認められる.