Gをリー群とする。Gのユニタリ表現とは、Gがユニタリ作用素として連続に作用するヒルベルト空間である。表現が非自明なG-不変部分空間を持たないとき、既約であると言う。Gの既約なユニタリ表現の同値類のなす集合をGのユニタリ双対といい〓で表す。

　HをGの閉部分群とする。ユニタリ表現の既約分解には二つの自然な問題設定が有る。一つは小さな群からの誘導表現(〓に対しIndGHνと記す)であり、もうひとつは、大きな群からの制限(〓に対しπ｜Hと記す)である。既約分解の公式はそれぞれPlancherelの公式、分岐則とよばれる。この博士論文のテーマは分岐則の問題を「軌道法」の視点から扱ったものである。

　表現の制限π｜Hに対し分岐則、すなわちその既約分解を示す直積分を記述することは表現論の基本的な問題の一つである。

　例えば、Hが簡約リー群であればこのような分解は一意であり、重複度関数〓はユニタリ双対〓上の可測関数となる。一般に分岐則は重複度が∞だと、さまざまな困難な問題が生じる。分岐則の問題はさまざまな設定において考えられるが、π｜HがHの表現として重複度が1の場合は、よりシンプルで詳細な分岐則の研究ができることが期待される。重複度に関して基本的な設問は次のようなものである。

　問題重複度1となるのはいつか?

　上記の問題に関し、有限次元表現、無限次元表現双方に対して分岐則の重複度1定理を小林先生は最近証明した([5],[6])。この定理により、例えばClebsch-Gordanの公式、Pieriのルール、リーマン対称空間に対するPlancherelの公式GLm-GLn双対性、Hua-Kostant-Schmid-Kobayashiの公式等、既に知られている多くの重複度が1の結果は一様に説明された。また、重複度1になるような分岐則の様々な新しい設定も得られている。

　では、KirillovやKostantによって導入された軌道法の定理公式、とりわけ表題にあるCorwin-Greenleaf重複度関数に目を向けてみよう。その為にまず、リー群のユニタリ表現論における軌道法について触れる([7])。

　gをリー群Gのリー環としg*をgの双対とする。Gの随伴表現Ad:G→GL(g)の反傾表現Ad*:G→GL(g*)を考える。この非ユニタリ有限次元表現はしばしば、ユニタリ双対〓(Gがコンパクトでないならばユニタリ表現は一般に無限次元)と驚くほど密接な関係を持つ。g*に次のような同値関係を定義する。この同値類のなす集合を余随伴軌道の集合と呼び、g*/Gで表す。

　例えばG=Rnとすると〓となり、〓と〓の間には自然な全単射ができる。可換群に関するこの例はKirillov[2]によって冪零リー群の場合に一般化された。すなわち、Gを連結かつ単連結な冪零リー群としたとき、Kirillov対応とよばれる全単射が得られる。

　Kirillovの定理を指導原理として、CorwinとGreenleafは誘導表現の既約分解や分岐則と余随伴軌道との関係について単連結な冪零リー群に限って研究した。これに関する概説詳細は論文[1]、また、この分野での最近の進展について書かれたLipsmanの論文[10]などが詳しい。

　この博士論文は簡約リー群の分岐則と軌道法の関係がテーマであり、より具体的には、小林俊行の「ユニタリ表現の分岐則における重複度1定理」がKostant-Kirillovの軌道法において「予言」している「余随伴軌道の幾何」を明らかにすることである。残念ながら、軌道法について成功しているのは冪零リー群とその周辺に限られ、我々の関心の対象である「簡約リー群」については軌道法は十分に発達していない。とりあえず、定式化の参考にするために冪零リー群に関して既に知られていることを簡単に以下でまとめる。一言で言うと冪零リー群に関しては、Kirillovの余随伴軌道の枠組において、分岐則のスペクトラムと重複度がGとH-軌道の言葉で決定できる。より詳しく言うと〓をとる。Kirillovの軌道法によりOGπ、OHνをそれぞれπ、νに対応するg*、h*の余随伴軌道とする。pr:g*→h*を自然な全射としたときを"mod H"交叉数と定義する。この数はCorwin-Greenleafの軌道積分の公式中のCorwin-Greenleaf重複度関数として知られている。軌道法が期待するものは二つの等式が一致することである。:一つはユニタリ表現の分岐則からきたもの(1)で、もう一つは余随伴軌道の幾何からきたもの(2)つまり、である。CorwinとGreenleafはGが冪零リー環ならば(3)が正しいということを証明した。Gが簡約リー群の場合にこの重複度関数がこの博士論文の焦点となる。

　さて、軌道法は冪零リー群にはとても強力だが、簡約リー群に対してはそんなにぴったりとはいかない事は良く知られている。しかし、簡約リー群の分岐則の重複度1定理([5],[6])の「軌道法」における対応物として余随伴軌道の幾何に関する一般的な予想(後述)を小林先生は得た。その典型的な場合は次のものである:

　予想1.(G,H)を簡約対称対とする。このとき、後に説明するある条件下のもとでとなる。

　主結果のステートメント

　Gを有限な中心を持つ非コンパクト単純リー群とし、Cartan対合をθ、極大コンパクト群をK:={g∈G｜θg=g}、リー環をgとする。Cartan対合θに対応するCartan分解をg=e+pとする。さらにGはエルミート型であると仮定する。これは対応するリーマン対称空間G/Kが複素有界対称領域であることを意味する。群論の言葉では、これはeの中心c(e)が非自明であると言うのと同値である。さらに、dimc(e)=1かつadz｜p,z∈c(e)＼{0}は全て正則であることが知られている。

　例.エルミート型の単純リー環は次のように分類される。

　今、Gは簡約リー群であるから、g上のAd(G)-不変な非退化双線型形式(例えばgが半単純ならKilling形式)によって得られる全単射〓を通して、随伴表現Ad:G→GL(g)は反傾表現Ad*:G→GL(g*)と同型である。それゆえ、随伴軌道を余随伴軌道と同一視できる。特に実簡約リー群の任意の随伴軌道には余随伴軌道上のG-不変シンプレクティック形式から導入されたG-不変シンプレクティック形式が定まる。

　では、ゼロでない元z∈c(e)に対し、軌道を考える。さらに全射pr:g→hを考える。このとき引き戻しpr-1(OHy)(y∈h)はAd(H)-不変である。すると、予想1をより簡単な次の同値な形に書き直すことが出来る。

　予想2.Gをエルミート型とし、(G,H)を対称対とする。このとき任意のy∈pr(OGz),に対し、である。すなわちOGz∩pr-1(OHy)は空集合でなければHの単一軌道である。

　例G=SL(2,R),またはSU(2)、H=K=SO(2)とする。Xをeの中心の元とする。このとき任意のy∈pr(OGX)に対しというものである。

　私の博士論文で私は上のリーマン対称対内に対して再定式化した予想2を証明した。主結果は次のようなものである。

　定理小林の予想は(G,H)がリーマン対称対ならば真である。

　得られた結果に対する感想

　私は定理を軌道法の幾何に基づき証明した。これは(無限次元の)ユニタリ表現の定理に動機づけられている。ユニタリ表現論は非常に不可思議な現象により関連分野の研究に新しい方向性を導くことがある。軌道法はそれらの"橋"の役割を果たすだろう。

　KirillovとKostantにより開拓された軌道法は物理学における"量子化"のアナロジにより既約ユニタリ表現を構成しようとする。このアナロジと希望的観測を次の図でまとめてみる。

　右側の縦の矢印は"量子化"である。この世が存在するからそれも存在するだろう。そして量子力学的である。左側の縦の矢印は希望的観測の部分である。右側とのアナロジから存在すると思われる。(重複度の無い)分岐則に対し"ユニタリ表現"の側の最近の発展はあるが、"余随伴軌道"側の発展はほとんど知られていない。Corwin-Greenleafの重複度関数における小林の予想はこの空白部分を埋めてくれることだろう。さらに、リーマン対称対の場合は私の結果は、例えば明示的な分岐則での新しい情報など、"ユニタリ表現"側ヘフィードバックを与えてくれる望みが高いことを示唆している。

REFERENCES

[1]GREENLEAF,F.P.,Harmonic analysis on nilpotent homogeneous spaces,Contemporary Math.177(1994),1-26.

[2]KIRILLOV,A.,Unitary representations of nilpotent Lie groups,Russian Math.Surveys 4(1962),53-104.

[3]KOBAYASHI,T.,簡約型等質多様体上の調和解析とユニタリ表現論,数学,46(1994),124-143,日本数学会;Harmonic analysis and representation theory on reductive homogeneous spaces,Translation Series II,Amer.Math.Soc.,183(1998),1-31.

[4]-,Discrete decomposibility of the restrictions of Aq(λ) with respect to reductive subgroups and its applications,Part I,Invent.Math.117(1994),181-205; Part II,Ann.of Math.147(1998),1-21;Part III,Invent.Math.131(1998),229-256.

[5]-,Multiplicity-free branching laws for unitary highest weight modules,Proceedings of the Symposium on Representation Theory held at Saga,Kyushu 1997(K.Mimachi,ed.),197,pp.9-17.

[6]-,Multiplicity-free restrictions of unitary highest weight modules for reductive symmetric pairs,preprint.

[7]-,半単純リー群のユニタリ表現の離散的分岐則の理論とその展開,数学,51,(1999),337-356,日本数学会;Theory of discrete decomposible branching laws of unitary representations of semisimple Lie groups and some applications,Sugaku Exposition,Transl.Ser.,Amer.Math.Soc.(to appear).

[8]KOECHER,M.Jordan algebras and their applications,mimeographical notes,University of Minnesota,1962.

[9]KORANY,A.,WOLF,J.,A.,Realization of Hermitian Symmetric Spaces as Generalized Half-planes,Ann.Math.81(1965),265-288.

[10]LIPSMAN,R.,Attributes and applications of the Corwin-Greenleaf multiplicity function,Contemporary Math.177(1994),27-46.

[1l]VOGAN,D.,JR.,Representations of real reductive Lie Groups,Progress in Math.Birkhauser,1981.

[12]-,Unitary Representations of Reductive Lie Groups,Ann.Math.stud.118,Princeton U.P.,1987.

　群の表現論においては、常に幾何学的な側面がその背景にあった。有限群で、その既約表現の同値類と群の共役類とが1対1に対応していることは、必ずしも直接的な対応がないのにも関わらず、極めて重要な事実である。リー群の表現論においては、リー群が多様体であるため、より幾何学的な考察がなされて来た。リー群Gは、そのリー環gに随伴表現として自然に作用するので、リー環の相対空間g*にも自然に作用している。この作用による軌道はGの余随伴軌道と呼ばれるが、リー群Gの既約ユニタリ表現と、この余随伴軌道とに対応がある、という原理がある。

　リー群Gがベキ零リー群のときは、これは完璧に正しく、それはKirillov対応として知られている。すなわち、ベキ零リー群の既約ユニタリ表現は、余随伴軌道の「量子化」という手続きによってすべて構成される。

　さて、表現論において、部分群からの表現の誘導と部分群への表現の制限という基本的問題があるが、無限次元表現の制限については、その重要性にもかかわらず解析的な困難が伴うため、最近まで大きな発展はなかった。これに対し、近年、小林俊行により、簡約リー群の既約表現に対し、その簡約閉部分群への制限の理論がめざましく進展し、離散的な和に制限が分解するための条件が調べられ、あるいはさらに強く、最も望ましい「重複度1で離散的に分解する」ための一般的な条件が得られている。

　ベキ零リー群の場合は、その表現が余随伴軌道に対応しているので、部分群に制限した場合に、表現が重複度1で分解するための条件が幾何学的に記述されることが期待できる。実際、大きな群Gの表現πを閉部分群Hに制限したときに現れるHの表現νの重複度は、幾何学的に定義されるCorwin-Greenleaf関数の値に一致することが知られている。Gのリー環の相対空間g*から、Hのリー環の相対空間h*へは自然な射影prがあるが、νに対応するHの余随伴軌道のprでの引き戻しとπに対するGの余随伴軌道との交わりが、いくつのHの軌道に分かれるか、という数がCorwin-Greenleaf関数の値である。

　Lie群の表現論においてもっとも興味深い簡約リー群の場合は、その既約ユニタリ表現の全体については、解明されていない部分が多く、また随伴軌道とも必ずしもうまく対応していない。Wallach予想に関連して、GとHが簡約対称対の場合に、エルミート型リー群Gの最高ウエイト表現の、Hへの制限が重複度1で分解することを小林俊行が示した。簡約リー環は、その相対空間と自然に同一視されるが、この最高ウエイト表現は、Gの極大コンパクトリー群Kのリー環の中心の元zを通る随伴軌道と同一視されるので、幾何学的対応物として、zのG-軌道に対し、それがHの随伴軌道の引き戻しと交わっていれば、その交わりが一つのH-軌道になることが期待され、実際それは小林俊行により予想された。

　この幾何学的な予想は、簡約リー群の表現とそれの余随伴軌道との関連が明確でないので、ベキ零リー群の場合のように意味は明らかでないが、逆にリー群の作用に関する幾何学に新しい観点を与えるものと考えられる。論文提出者Salma Nasrinは、提出論文においてHがGの極大コンパクト群の場合にこの予想を解決した。

　具体的には、Gとして古典型のSp(n,R),SU(p,q),SO*(2n),SO(2,n)の4つと、例外型のEIIIおよびEVIの全ての場合にこの予想が成立することを示す必要がある。GのCartan分解G=KAKにおいて、Aは制限Weyl群の基本領域A+に変更してG=KA+Kが成立するが、この予想を「a,a'∈A+に対し、pr(Ad(a)z)とpr(Ad(a')z)が同じK-軌道に属するならば、a=a'である」という命題に帰着して証明した。この命題を示すには、pr(Ad(a)z)を具体的に計算する必要があり、特に例外型では難しいが、Salma Nasrinは、巧みにSL(2,C)へのリダクションを用いることによって全ての場合に証明することができた。

　この結果は、小林俊行の予想が、部分群がコンパクトの場合の解決を与えたと共に、コンパクトとは限らない場合も含めた予想の完全解決の端緒となることが期待される。また上記の結果はそれ自体が興味あるのみならず、今後もリー群の表現論に起因するリー群の新しい幾何学的研究への発展に繋がっていくことも考えられ、論文の内容は高く評価できる。

　よって、論文提出Salma Nasrinは博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める。