1　Clifford-Klein形

　空間の局所的性質は，時としてその大域的構造に強い制約を課す．例として，Calabi-Markus現象，Auslander予想を挙げよう．

例1(Calabi-Markus現象1962)．Mを完備で定曲率な3次元以上のローレンツ多様体とする．このときMは常に非コンパクトで，基本群は有限である．

予想2(Auslander予想1964)．Mを完備でアファイン平坦なコンパクト多様体とすると，Mの基本群は'ほぼ可解'である(有限指数の可解部分群を持つ)．

注3．Abels-Margulis-Soifer(1997)は，6次元以下でAuslander予想は正しいと発表している．

　これらの問題に，空間の局所的性質のみに注目するのではなく，基本群と局所構造を同時に統率するリー群(例えば例1ではSO(n,1)，予想2ではAff(n,R))に着目してアプローチしてみよう．

補題4．リー群Gとその閉部分群H，離散部分群Γに対し，次は同値である．

1．両側剰余類の空間〓には多様体の構造が入り，商写像

が被覆写像となる．

2．Γは等質空間G/Hに固有不連続かつ(固定点)自由に作用する．

定義5．上の条件の一つ(従って両方)が成り立つとき，商空間〓をG/HのClifford-Klein形といい，ΓをG/Hの不連続群という．

　Clifford-Klein形の視点から，先の命題は次のように言い換えられる．

例6(Calabi-Markus現象の言い換え)．Clifford-Klein形〓において，〓ならばΓは有限である．

予想7(Auslander予想の言い換え)．Clifford-Klein形〓がコンパクトならばΓは'ほぼ可解'である．

　即ち，次の二つの問いは本質的に等しい．

問8．局所構造がG/Hで与えられたとき，どのような大域構造(基本群)が許容されるか?

問9．どのような離散部分群ΓrがG/Hに固有不連続かつ自由に作用するか?

　これらの問いはClifford-klein形の基本的問題であり，また本論文のテーマでもある．

2　固有性とその判定条件

　作用が自由か否かは容易に判定できるので，固有不連続性の判定に焦点を絞ろう．固有不連続な作用の抽象化として，固有という概念を定義する．

定義10(小林)．L,Hをリー群Gの部分集合とする．

1．(L,H)が固有とは，Gの任意のコンパクト集合Sに対し，L∩SHSが相対コンパクトになることをいい，記号〓で表す．

2．(L,H)が相似とは，Gのあるコンパクト集合Sで，L⊂SHS,H⊂SLSとできることをいい，記号L〜H in Gで表す．

　離散部分群Γと閉部分群Hに対しては，

　〓はG/Eに固有不連続に作用する

となり，固有な関係〓が固有不連続な作用の自然な抽象化であることが分かる．また，相似〜は同値関係であり，部分集合L,L',Hに対し

を満たす．即ち，固有性を考える上では，〜の分の違いを無視して構わない．

　Gが簡約線形リー群の場合，カルタン射影μ:G→aを用いて，固有性(あるいは相似性)の判定をカルタン部分代数aでの固有性(相似性)に帰着できることが知られている．

定理11(小林)．L,Hを簡約線形リー群Gの部分集合とする．

1．〓

2．L〜H in G⇔μ(L)〜μ(H)i na

　但し，ここではaを加法群と見なしている．可換リー群においては，固有性の判定が容易にできる為，この定理は使い勝手の良い判定条件を与えている．また，仮にLがGの部分群であっても，μ(L)がaの部分群なるとは限らない．固有という概念を部分集合にまで拡張し理由はここにある．

3　カルタン運動群

　本論文の第二章ではカルタン運動群における固有性の判定条件を与える．簡約線形リー群Gにそのカルタン対合θを与えると，Gのリー環は〓とdθの固有空間に分解される．このとき元のリー群はG=ePKと表されるが，Kとpを'ひねって'つなげるとカルタン運動群〓が得られる．Gθは簡約でなく，両者は群として同型ではない．しかし，写像

により，多様体としては同型である．

定理12．L,Hをカルタン運動群Gθの部分集合とする．

1．〓

2．L〜H in θ⇔La〜Ha in a

　ここで，Gのカルタン部分代数aはpの部分空間であるから，Gθの部分群である．また，La:=KLK∩aとおいた．

　この定理の応用として，空間形予想の"カルタン運動群版"が得られる．

定理13．G=SO(p+1,q)，H=SO(p,q)としたとき，Hθ=Φθ(H)はGθの部分群であり，

1．〓ならClifford-Klein形〓は常に非コンパクトでΓは有限群．

2．(p,q)が以下の表に入っているとき，コンパクトなClifford-Klein形〓が存在する．

　元来の空間形予想はSO(p+1,q)/SO(p,q)がコンパクトClifford-Klein形を持つには，(p,q)が次の表に入っている事が必要十分と主張している．

　どちらも，十分性は分かっているが，必要性は分かっていない．

4　不連続双対定理

　リー群Gの部分集合Lに対し，Lの不連続双対とは，G内でLと固有な関係にある部分集合全体の集合である．

(Lの不連続双対)

L1〜L2なら両者の不連続双対は一致するが，次の結果はその逆が成り立つことを主張する．

定理14(不連続双対定理(小林))．Gを簡約リー群とし，Lをその部分集合とする．Lの不連続双対〓は(同値関係〜の違いを除いて)Lを復元する．

　一般の(簡約でない)リー群における双対性は『数学の最先端21世紀への挑戦』で未解決問題として挙げられている．本論文の第三章ではこれを解決する．

定理15．不連続双対定理は一般のリー群Gに対しても成り立つ．

5　余コンパクト連結閉部分群の存在

　次節で見られるように，離散部分群に比べ連結部分群の扱いは，しばしば容易になる．離散部分群の議論を連結部分群に帰着するために，次の補題が役立つ．

補題16．Gの部分群Lが離散部分群Γを余コンパクトに含むとき，任意の部分集合Hに対し

　もちろん，この補題はLやΓの存在までは保証しない．これらの存在について考えよう．

　Lが簡約線形リー群なら，常に余コンパクト離散群Γが存在する(Borel 1963)．しかし，簡約リー群の勝手な離散部分群Γを余コンパクトに含む連結閉部分群Lが存在するとは限らない．

　一方，ベキ零リー群においては状況が逆転する．

定理17．連結かつ単連結なベキ零リー群の勝手な離散部分群Γは，常にある連結閉部分群Lに余コンパクトに含まれる．

　本論文の第四章ではこの定理を示す．記号的に表すと次の様になる．

6　Lipsman予想

定理11，定理12のような判定条件が得られるには，'大きな'コンパクト部分群の存在が決定的に重要である．連結かつ単連結なベキ零リー群のように，非自明なコンパクト部分群を持たない場合，同様の手法がうまくいかない．一方，前節で述べたように，連結かつ単連結なベキ零リー群では，離散部分群Γに対し，これを余コンパクトに含む連結閉部分群Lが存在する．従って，このようなLに対してのみ固有性が判定できれば十分である．その判定条件の有力候補として(CI)条件を挙げよう．

定義18(小林)．リー群Gの閉部分群L,Hに対し，(L,H)が(CI)であるとは，L∩gHg-1がコンパクトであることをいう．

　(CI)条件は固有性より弱い条件であり，また判定もしやすい．簡約リー群内で二つの簡約部分群に対し，固有性と(CI)条件が同値という小林の結果をもとに，Lipsmanはベキ零リー群においても，これらが同値であると予想した．

予想19(Lipsman　1995)．N(n)をn次の上三角行列全体のなすベキ零リー群とする．

(a)G=N(n+1),H=N(n),LをGの連結閉部分群としたとき，

(L,H)が固有⇔(L,H)が(CI)

(b)より一般に，Gを連結かつ単連結なベキ零リー群とし，L,Hをその連結閉部分群とすると，

(L,H)が固有⇔(L,H)が(CI)

　この予想の(a)において，〓であるから，(a)は線形空間Rnにアファイン変換として作用するベキ零リー群Lの予想に他ならない．

　本論文はこの予想を解決する．

定理20．Lipsman予想の真偽は次で与えられる．

すなわち，Lipsman予想には反例が存在し，固有牲の判定は(一般には)別の条件が必要となる．(a)のn=4の場合において，本論文第五章でプリミティブな部分群というものを定義し，問題をLがプリミティブな場合に帰着する．この概念は，〓での反例の発見に役立った．なお，3-stepベキ零に関して，Baklouti-Khlif(2004,preprint)も同時期に独立に同じ結果を別の手法で得ている．

　等質空間G/Hに作用する不連続群の研究は，Lie群論・表現論および幾何学にまたがる大きな研究課題である．とくに，Gの離散部分群Γの等質空間G/Hへの自然な作用が，真性不連続になるための判定基準を与える問題は，極めて重要である．小林俊行氏は，1980年代後半から，等質空間G/Hを直接扱うというそれまでの手法から飛躍して，ΓもHもGの単なる部分集合として対等に扱う枠組みの中で，不連続性(およびそれを一般化した「固有」という性質)をGの表現論を通してとらえることを提唱した．そして，Gが簡約Lie群の場合にこの新しい手法を駆使して，大きな成功を収めた．この手法は，1990年代半ば頃からアメリカおよびフランスにおいて広く認められ，定着した．論文提出者の吉野氏は，この小林俊行氏の理論・手法を簡約とは限らないLie群の場合に適用して興味深い結果を得た．結果は大きくつぎの三つのテーマに分けることができる．

1．Cartan運動群における不連続性の判定条件

2．局所コンパクト位相群における不連続双対定理

3．冪零Lie群に関するLipsman予想の完全な解決

　第一の結果は，簡約線形Lie群に随伴して，コンパクト群とRnの半直積として定義される，Cartan運動群における不連続性の判定条件を考察することにより，この群に関するコンパクトな空間形の存在についてある十分条件を与えたものである．

　第二の結果は，位相群における，Discontinuous Duality Theorem(不連続双対定理)と呼ばれる現象を扱ったものである．小林氏は，一般に位相群の部分集合Lに対し，それと固有な関係にある部分集合全体(「不連続集合」)を考え，それからもとの集合Lがいつ復元できるかという問題を考えた．そして，簡約Lie群の場合には，然るべき同値関係の中でいつでも復元できることを証明した．吉野氏は，この小林氏によって簡約Lie群の場合に証明された定理が，一般のLie群の場合にも成立することを示した．これは，小林氏がrMathematics Unlimited-2001 and Beyond」の中で未解決問題として提起していた問題を肯定的に解決したものである．

　第三の結果は，冪零Lie群に関してLipsmanが提出していたある予想を完全に解決したものである．Lie群およびその表現論では，一般のLie群では成り立たない「強い結果」が，半単純Lie群と冪零Lie群という両極端では成立することがしばしばある．小林氏は上述のように，σの二つの閉部分群L，Hの固有性という概念を提出したが，さらに，それよりも弱いが判定しやすい条件として(CI)(compact　intersection)なる条件をも提起した．そして簡約Lie群の場合には，後者から前者が従い，従って両者が同値な条件となることを証明した．1970年代から寡零Lie群の表現論において活躍していたLipsmanは，冪零Lie群に対してもこの両条件の同値性が成立するだろうと予想し，それを3次元の場合に証明した(1995年)．吉野氏はこのLipsmanの予想がある次元までは成立し，それを超える各次元では反例が存在することを，構成的に証明し，この問題に完全な決着を与えた．

　以上のように論文提出者の研究は，等質空間に作用する不連続群の存在とその性質に関していくつかの新しい知見を与えるものであり，Lie群論および局所等質空間の幾何学の研究に貢献するものである．

　よって，論文提出者吉野太郎は，博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める．