本論文の目的は,Zuckerman導来関手加群Aq(λ)を対称対に関して制限したときの分岐則を求めることである.

表現の分岐則の問題とは,既約表現を部分群に制限したときにどのように分解するかを問うものである.この論文では(g,K)加群の分岐則を扱うが,まず問題の背景である簡約群のユニタリ表現の分岐則について述べる.G0を実簡約リー群とし,G'0をその部分簡約リー群とする.任意の(一般に無限次元の)実簡約リー群のユニタリ表現は,既約ユニタリ表現の直積分で一意的に表せることが知られているため,特にG0のユニタリ表現のG'0への制限もG'0の既約ユニタリ表現の直積分に分解する:

π|G'≃∫σ∈G'0m(σ)・σdμ(σ),m(σ)∈NU{∞}. (1)

ここでG'0はG'0の既約ユニタリ表現の同値類全体でm(σ)は重複度関数である.いまG0の対合σがあってG'0がσによる固定部分群(G0)σの開部分群であるような場合を考える.このような組(G0,G'0)は対称対とよばれる.対称対の場合においても,G'0が非コンパクトならば(1)は連続スペクトルを含むことが多く,その具体的な記述はごく限られた場合にしか得られていない.

群の分岐則の問題と対応する代数的な問題として(g,K)加群(またはHarish-Chandra加群)の分岐則の問題が考えられる.θをσと可換なG0のCartan対合とすると,そのG'0への制限もCartan対合になる.θによる固定部分群K0:=(G0)θはG0の極大コンパクト部分群である.gをG0のリー環g0の複素化,KをK0の複素化とする.同様にg'とK'をG'0に応じて定める.(g,K)加群はG0の表現の代数的な対応物であるが,G0からG'0への表現の制限と類似した代数的な問題として,(g,K)加群から(g',K')加群への制限を考えることができる.(g,K)加群Vに対して,その制限V|(g',K')が有限長の(g',K')加群の和で表せるとき,V|(g',K')は離散分解可能であるという.(g,K)加群Vがユニタリ化可能であって,かつ離散分解可能なとき,対応する群の表現の制限(1)は連続スペクトルを含まず,さらに二つの分岐則の問題は等価になることが知られている.従って離散分解の条件の下では,群のユニタリ表現の分岐則を(g,K)加群の分岐則から調べることができる.(g,K)加群の離散分解性の概念は小林俊行氏によって導入され,その判定条件も得られている.

導来関手加群Aq(λ)とは,gのθ安定な放物型部分代数qとその指標λに対して,ある種の誘導の操作によって定義される(g,K)加群である.一般にLをKの簡約部分群,hをLの随伴作用で安定なgの部分リー環とするとき,(h,L)加群から(g,K)加群への誘導関手V→P(g,K)(h,L)(V):=R(g,K) ⊗(R・R(h,L))Vが定義される.ここで,R(g,K),R(h,L)はそれぞれ組(g,K),(h,L)に関して定まるHecke代数である.このd次左導来関手を(P(g,K)(h,L))dと書く.上の設定でqをqのg0に関する複素共役とし,Lを正規化群NK0(q)の複素化とする.またCλをqの指標,s=1/2(dimK-dimL)とすると,Zuckerman導来関手加群Aq(λ)は

Aq(λ):=(P(g,K)(q,L))s(Cλ)

と定義される(実際にはパラメータのシフトがあるがここでは簡単のため略す).さらにλがweakly fairと呼ばれる正値性に関する条件を満たすとき,Aq(λ)はユニタリ化可能であることが知られている.Aq(λ)の形で表される表現のクラスは,離散系列表現や非自明な(g,K)コホモロジーをもつユニタリ表現のクラスを含んでおり,簡約リー群のユニタリ表現の中で重要な位置を占めている.

本論文ではZuckerman導来関手加群の対称対に関する制限Aq(λ)|(g',K')が離散分解する場合に,既約(g',K')加群への分解を得ることを目標としている.以下にその出発点となる定理を述べる.簡単のためG0は連結で複素化Gを持つとし,Qをリー環がqに対応するGの連結部分群とする.等質空間K/(Q∩K)はKについての一般旗多様体になり,有限個のK'軌道にわかれる.軌道分解をK/(Q∩K)=凵n(j=1)Yjとし,各jについて代表元κj∈KをYj=K'κj(Q∩K)となるようにとる.さらに,

qj:=Ad(κj)q,Qj:=κjQκ(-1)j,

sj:=dimK/(Q∩K)-dimYj,uj:=dim(Qj∩K')-dimC'j

とおく.ここでC'jはQj∩K'の極大簡約部分群である.

定理.λがweakly fairでAq(λ)が0でなく,さらに制限Aq(λ)|(g',K')が離散分解可能であるとする.このとき,次の(g',K')加群の指標についての等式(あるいは(g',K')加群のGrothendieck群における等式)が成り立つ.

[Aq(λ)|(g',K')]=n Σ(j=1) Σ (d∈Z≥0)(−1)(d+sj+uj) [(P(g',K)'/(qj∩g',C'j))d(Cλ⊗ S(g/( qj + g')))]. (2)

等式(2)の左辺Aq(λ)|(g',K')は,(q,L)加群Cλを(g,K)加群に誘導してから(g',K')加群に制限したものである.一方,右辺の各項はCλを(qj∩g',C'j)加群に制限してg/(qj+g')の対称テンソルS(g/(qj+g'))をテンソルしてから(g',K')加群に誘導したものである.

つまり大雑把には,定理は誘導の制限を制限の誘導によって表したものであると言える.

具体的な分岐則の導出のためには,さらに等式(2)の右辺を書き直す必要がある.離散分解可能なAq(λ)|(g',K')の分類(小林俊行氏と共同)を用いて,各場合ごとに考察することによって,制限Aq(λ)|(g',K')はG'0についてのZuckerman導来関手加群Aq'(λ')の直和に分解することがわかる.すなわち分岐公式は

Aq(λ)|(g',K') ≃⊕(q')⊕(λ')m(q', λ')Aq' (λ'), m(q', λ') ∈ N

の形になる.

定理の等式(2)の証明には,旗多様体上のD加群による(g,K)加群の幾何学的実現を用いる.Beilinson-Bernstein対応によれば,任意の既約(g,K)加群は旗多様体上の既約なK同変ねじれD加群として実現される.さらに,Borel部分代数から上記の誘導で得られる(g,K)加群と,K同変な標準ねじれD加群との対応が,Hecht-Milicic-Schmid-Wolfによる双対定理として得られている.我々はより一般の設定で,(g,K)加群の誘導を等質空間上の(g,K)作用つきの層のコホモロジー空間に実現し,それに基づいて分岐則の定理を示す.まずAq(λ)は,Kの旗多様体K/(Q∩K)上の直線束をGの旗多様体G/QにD加群の意味で押し出した層の大域切断として実現される.次に,この層をK/(Q∩K)のK'軌道分解に応じて分解する.すると,こうして得られた各軌道に対応した層のコホモロジー空間は,(qj∩g',C'j)加群から誘導された(g',K')加群と同型になるため等式(2)が示される.

表現の分岐則の問題とは,既約表現を部分群に制限したときにどのように分解するかを問うものである。

まず問題の背景であるユニタリ表現の分岐則について述べる。Hilbert空間の直積分の概念を用いると、実簡約リー群の任意のユニタリ表現は、既約ユニタリ表現のとして一意的に表せることが知られている。いまGを実簡約リー群とし,G'をその部分簡約リー群とすると、特にGのユニタリ表現のG'への制限もG'の既約ユニタリ表現の直積分に分解する:

π|G' ≃ ∫(σ∈ G')m(σ) ・ σd μ(σ) (1)

ここでm(σ)∈N∪{∞}は重複度を表す。

この抽象的な分解が具体的にどのような分解になっているかを解明することは、実簡約リー群のユニタリ表現の分岐則における重要な研究テーマである。

部分群G'がコンパクトではない場合,(1)は連続スペクトルを含むことが多く、また重複度m(σ)もしばしば無限になるため、分岐則の問題は非常に困難であり、1980年代までわずかな事例研究しか行われていなかった。1990年代に小林俊行による一連の論文(Invent. Math. 1994; Ann. Math. 1998; Invent. Math. 1998)において、良い振る舞いをするクラスに着目して分岐則を研究する構想が提唱され、特に、その中で最も良いクラスとしての離散的分解性の概念が導入され、そのむ一般理論が構築され、その後の発展の契機となった。

さて、表現の制限が離散分解可能な場合には、分岐則の問題は(g,K)加群(Harish-Chandra加群とも呼ばれる)を用いて純粋に代数的な問題として扱うことができるという利点がある。すなわち、(g.K)加群Vがユニタリ化可能であって、かつ離散分解可能な場合には、対応する群の表現の制限(1)は連続スペクトルを含まず、さらに二つの分岐則の問題は等価になる(T. Kobayashi 2000)。そこで、離散分解可能の枠組のなかで、種々の分岐則が計算可能になり、1990年代半ばから現在まで約20年間にわたって、Kobayashi, Wallach, Duflo, Vargas, J.-S. Li,Orsted, Sekiguchi,Speh等によってG'が非コンパクトの場合に種々の場合に離散的分岐則が新たに発見されてきた。

大島氏の博士論文では

(イ)(g,K)-加群のπがZuckerman導来関手加群Aq(λ),

(ロ)(G,G')が対称対

(ハ)(g,K)-加群の制限Aq(λ)|(g',K')が離散分解する

という3つの仮定のもとに(g,K)-加群の制限Aq(λ)|(g',K')が離散分解の公式を求めることを目標としている。その主結果は以下の形で述べられる。

Theorem.λがweakly fairでAq(λ)が0でなく、さらに制限Aq(λ)|(g',K')が離散分解可能であるとする。このとき、次の(g',K')加群のGrothendieck群における等式が成り立っ。

[Aq(λ)|(g',K')] = nΣ(j=1 Σd∈Z≥0)(−1)d+sj+uj [(Pg',K'qj∩g',C'j)d(Cλ⊗ S(g=(qj + g')))].(2)

大まかに言うと、コホモロジー的誘導と制限が可換であるということを正確に定式化し、証明した定理である。

具体的な分岐則の導出のためには、さらに等式(2)の右辺を書き直す必要がある。

まず、(イ)の対象がどのくらいあるかはルート系のデータで記述でき、(ロ)はM. Bergerによって無限小の意味で分類されている。(ハ)は離散分解が可能かどうかに関する判定条件(T. Kobayashi, 1994, 1998)を用いることにより、Kobayashi-Y. Oshimaが完全な分類を与えた(Advances in Mathematics, 2012)。

大島芳樹氏は、この分類を用いて、各場合ごとに考察し、制限Aq(λ)|(g',K')はG'についてのZuckerman導来関手加群Aq'(λ')の直和に分解することを証明した。すなわち分岐公式は

Aq(λ)|(g',K') ≃⊕q ⊕λ'm(q'; λ')Aq'(λ'), m(q', λ') ∈ N

の形になる。

定理の恒等式(2)の証明には、旗多様体上のD加群による(g,K)加群の幾何学的実現を用いる。Beilinson-Bernstein対応によれば、任意の既約(g,K)加群は旗多様体上の既約なK同変ねじれとして実現される。さらに、Borel部分代数から上記の誘導で得られる(g,K)加群と、K同変な標準ねじれD加群との対応が、1980年代にHecht-Milicic-Schmid-Wolfによる双対定理として得られている。大島氏は,この双対定理をさらに一般化するために、(g,K)加群の誘導を等質空間上の(g,K)作用つきの層のコホモロジー空間に実現し、次に、離散的分解性の判定条件を旗多様体の幾何の言葉に移行し、これらの準備の下で、D加群の手法を用いて分岐則の定理を証明した。

大島芳樹氏の博士論文は、重要な一般的設定で離散的分岐則の公式を与えたものであり、D加群の理論を分岐則の問題に徹底的に用いるという手法とあわせて、表現の分岐則の分野に、質の高い新たな知見を与えるものである。

よって,論文提出者大島芳樹氏は,博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める。