学位論文要旨



No 215908
著者(漢字) 椎名,洋
著者(英字)
著者(カナ) シイナ,ヨウ
標題(和) 正規分布の分散・共分散行列の直交共変推定
標題(洋) Orthogonally equivariant estimation of the variance-covariance matrix of a normal distribution
報告番号 215908
報告番号 乙15908
学位授与日 2004.02.18
学位種別 論文博士
学位種類 博士(経済学)
学位記番号 第15908号
研究科
専攻
論文審査委員 主査: 東京大学 教授 久保川,達也
 東京大学 教授 國友,直人
 東京大学 教授 矢島,美寛
 東京大学 教授 竹村,彰通
 東京大学 助教授 大森,裕浩
内容要旨 要旨を表示する

本論文では,正規分布の分散共分散行列,あるいはその逆行列の推定を統計的決定理論の立場から扱う.推定量には,いくつかのクラスがあるが,本論文では,直交行列による通常の変換に関して共変な推定量(以下,直交共変推定量)に的を絞った研究の成果を述べる.問題をより具体的に述べれば,以下のようになるが,xi,i=1,...,nがお互いに独立に,同一のp 次元多変量正規分布N(μ、Σ)に従うと仮定する.この時,パラメーターμ とΣが共に未知の時は,〓(但し,〓,xi)に基づいて,Σ 或いはΣ-1の推定を行うことが多い.(xもさらに利用して推定を行う方法も研究されているが,本論文では扱っていない.)また,μ が既知、例えばμ=0の場合は,十分統計量〓を使って,推定するのが合的である.いずれにせよ,問題は,p 次元ウィシャート分布に従う統計量W があるとき,つまり〓の時,このW に基づいて,Σ或はΣ-1,をいかに(直交共変)推定するかという問題帰着する

直交共変推定量の定義を述べる.まず,W の直交分解〓を考える但し,L=〓 であり,li はW の固有で以下のように順序付けられているとする.〓また,H=(hij)は,p×p 次元の直交行列である.さらに以下の記号を定義しておく.さて,もしΣの推定量Σが〓を満たすならば,この推定量Σを直交共変な(Σの)推定量と呼ぶ.同様にΣ-1,の推量が条件〓を満たすならば,dΣ-1,を直交共変な(Σ-1,の)推定量呼ぶ.直交共変な推定量は,具体的には必ず次のような形をとることが知られている

ここでφi(l),i=1,...,pは H に依存ないことに注意.

この論文では,統計的決定理論の立場から以下のような損失関数を用いて,推定量の良し悪しを吟味する.まず,Σの推定では〓の2つの損失関数が,研究の対象となることが多い.最終的には,推定量の優劣はこれらの損失関数に関するリスクRi(Σ,Σ),i=1,2 やRi(Σ,Σ),i=3,4によって評価される.すなはち-1〓とした時に,もし二つの推定量Σ(1)Σ(2) に〓という関係が成り立っているとすると,明らかにΣはΣより優れていることになるこれを統計的決定理論ではΣはΣをLi,i=3,4に関して「優越する」という.同様にして,の推定においても,RiとRidに同様の関係が成り立てば,前者は,後者をLi,i=3,4に関して「優越する」という.他の推定量に「優越されて」しまう推定量を「非許容的」という

以上のような枠組みの中で,直交共変な推定量がどんな性質をもつかについての研究結果が各章にまとめられている.以下,簡単に各章の内容を紹介する.

第2章では,直交共変推定量の「順序保持性」を扱っている.で与えられるΣの直共変推定量Σが,次の性質を満たすとき「順序を保持する」と呼ぶことにする.〓この順序は と同じであり,この順序が自然なものであることをL,に関して示したのがこの章の成果である.すなはち,順序に関する条件(3)を満たさない推定量は,全てその推定量を改良してできた順序を保持する推定量によって優越されることを証明する.改良の方法として,順序統計量を使う方法とIsotonic Regression を使う方法の2つを示す.

第3章では,前章と同じ問題を,Σ-1,の推定について,考.この場合 で与えられる直交共変推定量dΣ-1,の自然な順序は〓である.この順序を保持しない推定量について,前章と同じ結果が成り立つことをp=2.3の場合について証明する.一般次元に関する結果はまだ得られていない.

第4章では,Σの推定に関して,直交共変な推定量のリスクの偏推定量を,新しいやり方で導出する.直交共変な推定量に限らず,一般的な推定量に関して,Ri(Σ,Σ),i=1,2の不偏推定量,すなはち〓を満たすRI(Σ,W)を,Li,i=1,2 に関するリスの不偏推定量と呼ぶ.通常これらは-1部分積分法,あるいはストークスの定理を用いて導出されるが,直交共変な推定量に関しては,より直裁な方法で導出できることを示したのが,この章の成果である.技術的な中身の章だが,次章の成果はこの章の技術を用いて導かれている.

ここで,第5章以下の中身に深く関わる直交共変推定量を紹介する.(2) と〓で定義される直交共変推定量で,特に定数σi が,Li,i=1,...,4 に関して最良な三角不偏推定量に使われる定数に一致している推定量を,それぞれで表す.これらに関しては,その基になっている最良三角不偏推定量を優越し,したがってミニマックスであるという予想がなされている.Σo1,に関しては一般次元で,またΣについては,p=2の場合にこの予想は証明されているが,そのほかの場合については,まだ証明がなされていない.第5章では,この予想が正しいことを,Σ02.に関してp=2の場合に,Σに関してp=3の場合に証明する.

第6章は,Σの固有根が無限に拡散した場合の漸近論を扱ってる.Σの固有根を〓とした時,これらが無限に発散するとは-1〓を意味する.章の前半で基準化されたl とH の漸近分布が導出されるが,その結果を一般の(直交共変とは限らない)推定量に当てはめると,Li,i=1,2に関して,母集団固有根限に拡散した場合の,唯一の合理的な推定量がbΣoi であることが証明さる.より正確に言えば,次のようになる.母集団固有根が無限に拡散した状態の近傍を適当にとれば,その近傍で最良三角不偏推定量の(定数)リスクを常に下回る推定量を,Tail Minimax な推定量と呼ぶ.Tail Mimimax であるためには,その推定量が関数として依存している標本固有根を無限に拡散した時に,Σ01,i=1,2に収束しなければならないという結果が得られる.すなはち,Tail Minimax であるための(第一の)必要条件が得られる.

第7章では,第6章の漸近論をさらに高次で考える.母集団の固有根が,直線的に拡散する,すなはち-1〓として,aj,j=1,...,p-1を固定し,z を上から0に限りなく近る場合を考える.この時,基準化されたl とH の漸近分布とR,について,それぞれz の第一次項まで計算する.この結果を利用することで,Tail Minimax であるための-1(第二の)必要条件が得られるこの必要条件を当てはめることで,これまでミニマックスであるかどうかの証明がなされていない2つの推定量が,ミニマックスでないことを証明する.

審査要旨 要旨を表示する

[論文の内容]

本論文は、多変量正規分布の分散・共分散行列、あるいはその逆行列の推定問題に関して、直交共変な推定量に的を絞り、統計学的決定理論の立場から行われ、英文論文として発表された一連の研究成果をまとめたものである。本論文は、以下のように構成されている。

第1章 序

第2章 順序を保持する分散・共分散行列の推定量

2.1節 序

2.2節 順序統計量

2.3節 単調回帰

第3章 順序を保持する分散・共分散行列の逆行列の推定量

3.1節 序

3.2節 主な結果

第4章 リスクの不偏推定量

4.1節 序

4.2節 尤度損失に関するリスクの不偏推定量

4.3節 Steinの推定量

4.4節 2乗損失に関するリスクの不偏推定量

4.5節 付録

第5章 ミニマックス

5.1節 序

5.2節 KG推定量の2乗損失に関するミニマックス性

5.3節 逆行列のKG推定量の尤度損失に関するミニマックス性

5.4節 付録

第6章 Tail Minimaxity −1次の漸近論−

6.1節 序

6.2節 固有根・固有ベクトルの漸近分布

6.3節 分散・共分散行列の推定におけるTail Minimaxity

6.4節 2次元の三角共変推定量の場合

6.5節 直交行列の単位行列の周りでの座標表示

第7章 Tail Minimaxity −高次の漸近論−

7.1節 序

7.2節 準備

7.3節 標本固有値・固有ベクトルの漸近展開

7.4節 リスクの漸近展開

7.5節 付録

各章の内容を要約・紹介すると次のようになる。

第1章では、統計的決定理論の基本的な考え方・用語を解説しつつ、多変量正規分布の分散・共分散行列の直交共変推定という本論文の主題と関連した、幾つかの歴史的に重要な推定量を紹介している。推定問題での統計的決定理論の基本的な考え方は以下の通りである。

(1) 推定量は、損失関数の期待値であるリスクの大きさによって、評価される。推定量Aが常に推定量Bのリスクを下回るときに、推定量Aは、推定量Bを「優越」するという。他の推定量に優越されてしまう推定量は、使う意味がないが、これを「非許容的」という。損失関数には、尤度損失関数と2乗損失関数の2つがもっとも良く使われる。

(2) ある推定量のグループが、グループ外のどんな推定量に対しても、それを優越するような推定量をその内に含むとき、そのグループは「完備類をなす」という。完備類が分かれば、その中から推定量を選べばよいので、便利である。

(3) 各推定量の最大リスクは、その推定量の脆弱さを示すものであるが、全ての推定量の中で、最大リスクが最小になるものを、「ミニマックス」推定量と呼ぶ。

また、歴史的に重要な推定量のグループとして、次のようなものがある。

(A) 「三角共変」という性質を満たす推定量のグループ。歴史的には、このグループの中で「最良な」推定量、すなわち他の全ての三角共変な推定量を優越する推定量(最良三角共変推定量と呼ぶ)を導出することが、大きな研究の端緒となった。最良三角共変推定量はミニマックスであることが知られている。

(B) 直交共変」という性質を満たす推定量のグループ。推定量を使う立場からは、直交共変という性質は自然であるが、残念ながら最良三角共変推定量は、この性質を満たしていない。従って、直交共変でなおかつ最良三角共変推定量を優越する(従ってミニマックスな)推定量を求めることが重要な課題となった。

第2章以降が、椎名氏の研究成果をまとめたものである。第2章は、直交共変な分散・共分散行列推定量の持つべき望ましい性質としての「順序保持性」を扱っており、、Sheena and Takemura (1992) の論文の内容が収められている。直交共変な推定量の固有根がある一定の順序を保持することは、自然に思われる。実際、順序を保持する推定量がそうでないものより優れているのではないかという予想は70年代からあり、いくつかの論文で順序を保持する推定量が取り上げられてきたが、理論的な裏づけは存在しなかった。この章では、このことを尤度損失関数に関して理論的に証明した結果を与えている。具体的には、どんな順序を保持しない推定量も、順序統計量、または単調回帰を用いることで順序を保持する推定量に改良できること、この改良した推定量が元の推定量を優越することを証明した。つまり、順序を保持する推定量は、直交共変な推定量の中で、完備類をなすわけである。

第3章は、第2章と同じ問題を分散・共分散行列の逆行列の推定問題について扱った研究の成果であり、Sheena (2002) の論文の内容が収められている。分散・共分散行列そのものの推定量と同様に、逆行列の直交共変な推定量においても、その固有根がある一定の順序を持つことは自然である。従って、この問題でも順序を保持する推定量のグループが完備類をなすと予想されるが、これを2次元と3次元の場合に、尤度損失関数に関して椎名氏が証明したのがこの章の内容である。技術的な難しさから、残念ながら、一般次元での証明は得られていない。

第4章は、やや技術的な内容の章であるが、「リスクの不偏推定量」を扱う。リスクの不偏推定量は、リスクと常に同じ平均を持つような統計量であり、重要なのは、未知の分散・共分散行列に依存しない点である。リスクの不偏推定量が得られれば、これをなるべく小さくすることで、よい推定量が得られるので、推定量の開発において極めて重要な道具である。分散・共分散行列の推定量のリスクの不偏推定量は、既に70年代後半に得られていたが、どんな推定量に公式が適用可能であるかがはっきりしないという難点があった。椎名氏は、論文 Sheena (1995) の中で、直交共変な推定量に限定すれば、非常に簡便な方法で、リスクの不偏推定量が得られることを示したが、その結果がこの章の内容である。この方法では、推定量に求められる条件が明示的に得られるために、公式の適用が楽になる。

第5章は、先に述べた、直交共変でありなおかつ最良三角共変な推定量を優越する推定量に関する研究成果であり、Sheena (2002, 2003) の内容が収められている。80年代にこのような推定量は、分散・共分散行列の推定で尤度損失関数を使った場合に、見出された。そこからの類推で、同種の推定量が、2乗損失関数の場合、あるいは、逆行列の推定に関しても、最良三角共変推定量を優越するはずだという予想がなされてきた。この予想は、90年代初頭に、逆行列の推定で尤度損失関数を用いた時に成立することが、2次元の場合に証明された。この章では全く違った方法で、同じ問題を3次元の場合に証明した。また、分散・共分散行列の推定で2乗損失を使う場合の証明を2次元の場合に行った。残念ながら、一般次元での証明はまだ得られていない。

第6章は、母集団分散・共分散行列の固有根が無限に発散した場合の、標本行列値統計量の極限分布、及び推定量の挙動に関する研究成果であり、論文 Takemura and Sheena (2002) の内容が収められている。ここでは、

(1) 標本の固有ベクトルが、母集団のそれに確率収束すること、

(2) 標本の固有値が、確率的に発散すること、という結果が示される。さらに通常の漸近論での1次の結果に対応するものとして、

(3) 基準化された固有ベクトル・固有値が独立に正規分布・カイ2乗分布に収束すること、という結果が述べられている。さらに、

(4) 母集団固有根が十分に発散した場合の推定量のミニマックス性(tail minimaxity)に関する十分条件の導出がなされている。(4) の結果は、第5章でふれた最良三角共変な推定量を優越する、あるいはそう予想される直交共変な推定量が、母集団固有根が拡散した場合の唯一の合理的な推定量であることを示している。

第7章では、第6章の議論をさらに高次の場合に拡大した時の研究の結果であり、Sheena and Takemura (2002) の内容が紹介されている。ここでは、ひとつのパラメータ(z)で表現される直線的な母集団固有根の発散を考え、zの一次項がどうなるかを求めている。第6章の(1)、(2) に対応した結果として、それぞれの収束先の近傍に収まる確率を展開した時、一次の項は消滅するという結果が示されている。また、第6章の (3) に関しては、漸近分布の分布関数を一次の項まで漸近展開して、一次の項がどうなるかを導出した。推定量の挙動に関しては、スケール不変な直交共変推定量に関して、tail minimaxであるためのさらに詳しい十分条件を求めている。(3) の応用として、今まで不明だったStein と Haffの推定量のミニマックス性に関して、それらがミニマックスでないことを証明している。

[評価]

第2章以下、各章の結果の評価については、以下の通りである。

第2章の「順序保持性」については、長らく直交共変な推定量の望ましい性質として認識され、シミュレーションでも確認されてきたが、理論的にこれを証明した論文はこれまで無かった。その点で、画期的な論文であり、尤度関数を用いて分散・共分散を推定する場合に関しては、極めて明瞭な形で問題の決着を見た点で大きな評価に値する。

第3章は、第1章の問題を逆行列の推定に関して扱ったものであるが、技術的な困難さは、第1章のそれよりはるかに高い。3次の不変測度上での計算ですら、膨大な計算とそれを簡素化するためのアイデアを必要とする。その点で、一般次元の証明にはまだ道が遠いとは言え、とりあえず3次元までではあるが、未解決の問題に成果を出したものとして評価に値する。

第4章の内容は、技術的な結果であり、直接統計の応用に役立つというよりも、証明のためのテクニックである。しかし、このテクニックは、リスクの不偏推定量の導出だけでなく、同種のさまざまな問題に適用可能なアイデアを含んでおり、その点で評価に値する。

第5章は、これまでこの分野で長らく真偽が不明であった、ある推定量のミニマックス性に関して、初めて結果を出したものであり、その点で評価に値する。それぞれ、2次元、3次元という低次元の結果に関する内容であり、さらに高次元につながる内容かという点では疑問だが、非常に複雑な計算に取り組み、不変測度上での積分に関して、いつくかの工夫をこらして結果を得た点は優れている。

第6章は、従来全く考えられていなかった視点からの研究成果であり、正規分布の分散・共分散行列の推定のみならず、さまざまな検定、あるいは他の多変量分布への応用が期待される。ひとつひとつ丁寧に計算された結果も、非常に興味深いものがあり、本論文の研究テーマとなっている直交共変推定量の合理性がクローズアップされている。以上の点で、高く評価されるべき内容となっている。

第7章は、第6章の高次への拡張であるが、計算の複雑さがいっそう増しており、この計算を遂行し、第6章の結果をさらに発展させたものとして評価される。特に、従来この分野でよく知られた推定量に関して、はっきりとミニマックスでないことを証明したのは、優れた成果である。

以上、見てきたように、本論文は多変量統計的決定理論の分野において、多くの新しい結果を含むものであり、審査委員会は申請論文が博士(経済学)の学位にふさわしいものであると判断する。

UTokyo Repositoryリンク