本学位論文では、コクセター群の同型問題（即ち、二つのコクセター群が互いに同型となる条件やその同型写像の性質を調べる問題）及び関連する話題について論じる。コクセター群とは、生成元と基本関係による群表示のうちコクセター表示と称される特別な表示を持つ群のことであり、それらは（一般には退化した）双線型形式を持つ実ベクトル空間上の鏡映群として実現できる。上述の同型問題は、与えられたコクセター群における（コクセター群としての）生成系の多様性を調べる問題とも換言でき、コクセター群に関する近年の研究で最も発展した分野の一つである。例えば、共にコクセター群である正六角形の合同変換群と2次及び3次の対称群の直積群は、互いに異なるコクセター表示を持つものの抽象群としては同型であり、この例からも同型問題が自明な問題ではないことを見て取れる。この問題は、以下の通り、有限生成なものなど様々なクラスのコクセター群に限定された形で主に研究されてきた。本論文では、有限生成とも限らない一般のコクセター群の同型問題を研究し、その問題を既約コクセター群の場合に帰着させるとともに、コクセター群の間の同型写像が鏡映を保つための充分条件を与える。またその過程で、無限既約コクセター群の直既約性やコクセター群の自己同型群の構造など、以下に詳述するような関連する結果も与える。

コクセター群の同型問題の起源は、 H. S. M. Coxeter氏が1935年に与えた（今の言葉で言う）有限コクセター群のコクセター表示の分類にある。任意のコクセター群は、既約成分と呼ばれる既約な（即ち、異なる集合に属する生成元が互いに可換となるように生成系を分割できない）コクセター群の（制限）直積に分解できるため、コクセター群が既約な場合が本質的である。氏の結果より、二つの有限既約コクセター群が同型ならばそのコクセター表示は同一であることが従う。（なお、コクセター群の既約性は一般にコクセター表示の選び方に依存する。冒頭に挙げた例では、正六角形の合同変換群は既約コクセター群であるが、対称群の直積群は既約コクセター群ではない。）

その半世紀余り後、1991年にA. M. Cohen氏は自身の講義録において、「無限既約コクセター群のコクセター表示は一意的か」という問いを提示した。B. Muhlherr氏は2000年の論文において、コクセター表示が異なるが互いに同型な無限既約コクセター群を具体的に構成してCohen氏の問いに否定的な解答を与えた。その同型写像の構成法は、氏自身ら数名による2002年の論文にて「コクセター図形の捻り」という一般的な操作へと昇華された。そこでは、二つのコクセター群の間の同型写像が鏡映を保つならば、両者のコクセター表示は有限回の「捻り」によって互いに移り合うであろう、との有力な予想も提示されている。

一方、R. Charney及びM. Davisの両氏は2000年の論文で、ある幾何学的な条件を満たすコクセター群（アフィンコクセター群を含む）のコクセター表示が一意的であることを示した。また、二つの生成元の積の位数が限定された「直角」「斜角」「偶」と称されるクラスのコクセター群の同型問題が、それぞれD. G. Radcliffe氏、Miihlherr及びR. Weidmann両氏、P. Bahls氏によって詳しく研究されている。

現在では、もし「捻り」に関する上述の予想が証明されれば、有限生成なコクセター群の同型問題の完全解答が得られる段階まで研究が進んでいる。しかしながら、これら先行研究の殆どは有限生成な場合に限られており、一般のコクセター群に関してはごく僅かしか知られていないのが現状である。本研究の目的の一つは、有限生成とは限らない一般のコクセター群の同型問題に対する突破口を聞くことである。

本論文は二編の論文を組み合わせたものであり、第一部と第二部の題名は各論文の題名である。第一部では、コクセター群の有限既約成分全ての積（有限成分と称する）に、無限既約成分の同型類の（重複度を込めた）全体を合わせると、コクセター群の同型類の完全不変量をなすことを示す（定理3.4）。これは一般のコクセター群の同型問題が、無限既約成分同士の同型性判定、即ち無限既約コクセター群の同型問題に帰着されることを意味する。（なお、有限成分同士の同型性判定は難しい問題ではなく、定理3.4でその方法の一つを述べる。）他にも定理3.4において、（各既約成分はそうでないにもかかわらず）コクセター群の有限成分が生成系の選び方に依らず一意に定まることを示し、コクセター群の間の同型写像を既約成分の置換と中心的同型写像の積に分解する。更にこれに基づき、コクセター群の自己同型群を既約成分の自己同型群を用いて記述する（定理3.10）。

なお、対象となるコクセター群が有限生成の場合には、これらの結果がL. Paris氏の2004年のプレプリントにおいて独立に証明されている。しかし、氏の用いた論法においてはコクセター群の有限生成性の仮定が不可欠であり、本論文で扱う一般のコクセター群に対してはその論法は適用できない。

主結果の証明の過程で、コクセター群における位数2の元で生成される正規部分群の中心化群を全て特定し（定理3.1）、そこから両因子が位数2の元で生成されるような既約コクセター群の中心積分解は自明である（どちらかの因子が中心に含まれる）ことを見出す（系3.2）。無限既約コクセター群の中心は自明なので、系3.2より無限既約コクセター群の直既約性が従う（定理3.3）。一方、主組成列を持つ群の直既約分解に関するKrull-Remak-Schmidtの定理の類似物として、抽象群の直既約分解で全ての因子があるクラスに属するものについて、それら直既約因子の一意性定理（定理3.9）を証明する。このクラスは「そのクラスに属する群の、各因子がまたそのクラスに属する中心積分解は自明である」という性質を持っており、これは系3.2で見出された性質を抽象したものである。定理3.4は、定理3.9と系3.2を合わせて証明される。

第二部では、コクセター群が鏡映独立という性質を持つための充分条件を与える。冒頭で触れたコクセター群の鏡映群としての実現はその生成系の選び方に依存するが、その際に「元が鏡映である」という性質が生成系の選び方に左右されない場合、そのコクセター群は鏡映独立であると称される（これは、件のコクセター群から他のコクセター群への同型写像が常に鏡映を保つことと同値である）。鏡映独立なコクセター群は、幾何学的に良い性質を持つと考えられるだけでなく、前述のMuhlherr氏らの予想と関連して一般のコクセター群の同型問題においても重要な意味を持つ。

コクセター群の鏡映については、自身以外でその元と可換な鏡映全てが生成する部分群もまたコクセター群となり、従ってその有限成分が考えられる。定理3.7では、その有限成分が、件の鏡映と共役な高々一つの鏡映によって生成されるならば、コクセター群の生成系をどのように選び直しても件の鏡映は再び鏡映となることを示す。この条件を全ての鏡映が満たせばそのコクセター群は鏡映独立となる（実際には、鏡映の共役類の代表系に関して条件を確かめればよい）。なお、この条件は参考論文の結果を用いることで実際に検証が可能であり、本論文と参考論文の結果に基づいて、鏡映独立なコクセター群のいくつかのクラスを後続の論文で与える予定である。例えば、与えられた無限既約コクセター群の生成元が全て互いに共役であるか、もしくは二つの生成元の積の位数が常に有限であれば、このコクセター群は鏡映独立であることが示される。

定理3.7は、コクセター群の間の同型写像による鏡映の像の中心化群と、もとの鏡映の中心化群（これらは互いに同型である）の構造を比較することで示される。参考論文の結果より、これらの中心化群はあるコクセター群とある部分群の半直積であり、そこでの作用は前者の因子のコクセター群としての生成系を保つ。この比較を行うための半直積分解の仕方に依存しない道具として、指数有限な中心化群を持つ位数2の元を（具体的な半直積因子の構造を用いて）全て特定する（定理3.1）。なお、定理3.1は定理3.7の証明以外に、コクセター群の有限成分の一意性の別証明や、コクセター群のある半直積分解の考察などにも応用を持つ（3.2節を参照）。

なお、証明において、それ自身も興味深い対象である、コクセター群の本質的元（放物型部分群と共役な真部分群に決して含まれない元）と、コクセター群の生成系を保つ自己同型写像による固定点集合（部分群）を用いる。前者に関しては、D. Krarmmer氏の学位論文やParis氏の前述のプレプリントにおける結果を（少し一般化して）第4節で述べる。一方後者に関しては、そのような固定点集合がコクセター群となることがR. Steinberg氏によって示されて（また後にMiihlherr氏や難波正幸氏によって別証明が与えられて）いるが、その構造ともとのコクセター群との関係について第5節で述べる。

提出された論文は,有限生成と限定しないCoxeter群の同型問題を論じたものである.

Coxeter群とは,次の形の生成元と基本関係（Coxeter表示と呼ぶ）をもつ群Wのことである.

ここで（m（s,t））s,t∈Sは自然数（1以上）または∞を成分とする対称な|S|×|S| 行列で,m（s,t）=1〓s=tをみたすものである.歴史的にはEuclid空間の有限鏡映群がこの形の表示を持つことがH. S. M. Coxeterによって示されたことに始まり，Lie群・Lie環論やそれらに関連した（あるいは一般化した）ものの表現論,幾何学,組合せ論などと結びついて重要な役割を果たしてきた.

2つの群WとWのCoxeter群としての表示が異なっても,すなわちWの生成系SからW′の生成系S′への全単射ψでm（s,t）=m（ψ（s）,ψ（t））をみたすものが存在しなくても,単なる群としてWとW′が同型な場合があることは,有限Coxeter群の場合でもよく知られている. Coxeter群の同型問題とは,狭義には2つのCoxeter群の間に単なる群としての同型写像が存在するのはいつかを決定すること,広義にはそのような同型写像がいかなる性質を持つか,特にCoxeter群の構造のどれほどの部分を保つかなどを調べることを意味する（1つのCoxeter群のCoxeter群としての生成系にどれほどの多様性があるかを調べることと言ってもよい）.有限Coxeter群に関しては,答えは少なくとも専門家にはよく知られているが,一般のCoxeter群の同型問題の本格的な研究が始まったのは1990年にA. M. Cohenによって狭義の同型問題が明文化されてからで,ここ10年ほどの間にB. Muhlherrらをはじめ多くの研究者によって活発に研究され,特に有限生成の場合には重要な一般的な予想および結果が得られて解決が近いと信じられるに到ったが,有限生成でない場合にはこの予想と結果だけでは解決しないこともわかっている.申請者の結果は,有限生成と限定しないCoxeter群の同型問題に風穴をあけるべく,新たな手法を構築しいくつかの根本的な問題に可能な限り一般的な形で答えるものである.

論文は2部構成で,第1部では同型問題とCoxeter群の既約分解との関係を論じて,特に同型問題が既約Coxeter群の間の同型問題に帰着できることを有限生成に限定しない枠組みで示し,第2部では鏡映すなわち生成元のどれかと共役な元全体の集合との関係を論じて,特に2つのCoxeter群の間の単なる群としての同型が鏡映全体の集合を保存するための十分条件を与えている.

I⊂Sに対し, Iの生成する部分群もIを生成系としてCoxeter群になるので,もしSを空でない部分集合I,Jに分割し, Iの任意の元とJの任意の元が可換であるようにできるなら, WはSの部分集合の生成する自明でないCoxeter群2個の直積になる.このときWは可約,そうでないとき既約なCoxeter群と呼ばれる. Sの部分集合で既約なCoxeter群を生成するもののうち包含関係に関し極大なものはSの連結成分と呼ばれ,WはSの連結成分の生成する既約なCoxeter群（Wの既約成分と呼ばれる）全部の（制限）直積に分解する.これはWの既約分解と呼ばれる.第1部で申請者が行ったのは, WとSを組にして考えた上での"単純なものへの分解"であるCoxeter群の既約分解を,単なる群としての直既約分解と結びつけることである.そして第1の主要な結果として,既約な無限Coxeter群は単なる群として直既約,すなわち単なる群として自明でない直積分解をもたないことを,有限生成に限定せずに示した.有限Coxeter群では既約であっても単なる群として自明でない直積分解をもつものがあることはよく知られている.有限生成なCoxeter群に対しては同様の結果をほぼ同時にL. Parisが示している（彼らの論文にも申請者の結果も引用されている）が,その方法は本質的に有限生成の場合にしか適用できない.申請者の方法は,位数2の元で生成されるWの正規部分群の中心化群をすべて決定してそれを用いるもので,これ自体も興味ある結果である.さらに申請者はこれを用い,第2の主要な結果として，S,S′を生成系とするCoxeter群W,W′が単なる群として同型であるためには,それぞれの既約成分のうち有限群であるもの全部の（制限）直積（Wの有限部分と呼ぶ）どうしが単なる群として同型であり,かつそれぞれの既約成分のうち無限群であるものの単なる群としての同型類の集合（重複度こみ）が一致することが必要十分であることを示した.これにより,有限生成に限定しない一般のCoxeter群の同型問題は（無限）既約Coxeter群の同型問題に帰着される.また申請者は,一般のCoxeter群2つの間の群同型がそれぞれの直既約分解をどのようにうつすかに関して,Krull-Remak-Schmidtの定理の状況と同様の結論が出ることも示している（この状況ではKrull-Remak-Schmidtの定理の前提は成立していないので,無限既約Coxeter群の直既約性からKrull-Remak-Schmidtによってこの結論を出すことはできない）. Coxeter群に対する各種の基本的な結果は有限生成を仮定していることが多く,申請者はこれらの結果を導く過程で有限生成を仮定しない手法を開発している.

第2部では単なる群としての同型が鏡映全体の集合を保存する条件を論じている.生成系S,S′の指定されたCoxeter群W,W′の間の同型に対し, "単なる群として同型"という最も弱い条件と, "生成系をこめて同型" （またはSがS′と共役な生成系にうつる）という最も強い条件の間に, "Sから決まる鏡映全体の集合がS′から決まる鏡映全体の集合にうつる"という条件があり,これは単に論理的に両者の中間にあるというだけでなく,特に有限生成Coxeter群の同型問題において,最も弱い状況をこの中間状況に"変換"する手続きを与える結果と,この中間状況を最も強い状況に"変換"する手続きを与える有力な予想が提示されているという意味で,同型問題における重要なステップをなすものである.申請者の結果は,有限生成を仮定しないCoxeter群において,この中間状況が成立するための十分条件を与えるものである.具体的には, WからW′への群同型fがあるとき, Sの元sと可換な（Sに関する）鏡映全体（s自身は除く）の生成する部分群W⊥sはCoxeter群になることが知られているが,その有限部分が単位群またはsと共役な鏡映1個で生成される位数2の部分群ならば, f（s）もW′の（S′に関する）鏡映になることを示した. WとSが具体的に与えられれば, W⊥sの生成系と基本関係は具体的に求めることができる（申請者の前の結果または他の結果の組合せ）. Sのすべての元がこの条件をみたせばWから任意のCoxeter群W′への群同型は鏡映全体の集合を鏡映全体の集合にうつす（Wの単なる群としての任意の自己同型が鏡映全体の集合を保つといってもよい）.特に,提出論文には含まれていないが,申請者のプレプリントに含まれる結果を組合せると, （有限生成と限らない）無限既約Coxeter群で,はじめの記号でm（s,t）がすべて有限のものや, Sの任意の2元s,tがs=s0,s1,s2,...,sn-1,sn=t（si∈S,m（si-1,si）が奇数）のように結ばれるものはこの性質を持つことが示される.こうした結果を得るための方法として,申請者はCoxeter群W1と他の群Gの半直積W1〓Gで, GのW1への作用がW1のCoxeter群としての生成系S1を保存するようなものに対し,その位数2の元でほとんどcentralなもの（中心化群が群全体の中で指数有限になるもの）の形を具体的に全部決定した.上述の結果を得るためには,上の記号でsのWにおける中心化群を考える（上述のW⊥sはその一部である）が,それがここでいうW1〓Gの形をしていることがポイントである.単なる群としての任意の自己同型が鏡映全体の集合を保つようなCoxeter群Wのクラスについてはいくつか先行する結果があるが,無限生成の場合を含めて包括的な議論を行い,広いクラスに対してこのような結論を得ている結果ははじめてである.

以上のように,提出論文はCoxeter群の同型問題を有限生成に限定しない範囲に広げ,その進展に寄与する著しい結果を与えるものである.

よって論文提出者縫田光司は，博士（数理科学）の学位を受けるにふさわしい十分な資格があると認める。