標題の論文は次の二部から成る。

　[1]:Real Shintani functions on SU(2,1)

　[2]:An explicite formulae of some type of Shintani functions on SU(3,1)

　これらの論文で考察する問題及びその背景を説明しよう。

　Gを実半単純リー群、KをGの極大コンパクト部分群、gをGのリー環とする。Gの閉部分群Rとそのフレッシェ表現(,)に対してC^∞-誘導表現が、G上のC^∞-関数F:G→で全てのg∈G及び∈RにたいしてF(rg)＝()F(g)を満たすもの全体に自然な線形位相を与えたフレッシェ空間にGを右移動で作用させることで定義される。この時、次のことを問題にする。

　(1)与えられた既約(g,K)-加群IIにたいして(g,K)-絡作用素の空間

　の次元。

　(2)Tがを走る時のImage(T)の合併をとし、Kの各既約表現(,W)について()＝Hom_K(^*,)とおく。()に属する関数の明示的公式。

　PをGの極小放物部分群とする。旗多様体G/PにおいてRが唯一つの開軌道を持つ時RはGのsphericalな部分群と呼ばれる。このようなRにたいしては上で定義した絡作用素の空間は有限次元になるだろうことが期待される。また、に属する函数は、ある種の一般化された球函数と見なされ保型L-函数の積分表示理論などに姿を表す。例えば、RとしてGの極大べき単部分群を選びとしてRの指標をとった場合、はホイッタカー函数として知られるG上の特殊函数達から成る。ホイッタカー函数はGL(2)の保型表現に付随する標準L-函数のジャッケ-ラングランズ理論を始めとして現在知られている保型L-函数の積分表示理論において主要な道具の一つとして用いられている。(文献[J-L])しかし、ホイッタカー模型を持たない保型表現に対してはこの方法ではL-函数の積分表示は望めない。より多くの保型表現を扱うため種々のRおよびに対する一般化された球関数が研究され、それを用いた積分表示が考案されている。

　さて現在、村瀬篤氏、菅野孝史氏及び加藤信一氏を中心として研究が進められている新谷函数も上で述べたような球函数に他ならない。(文献[M-S])新谷函数を考えるには、RとしてGのある対合の固定点全体として得られるGの簡約可能部分群を取れば良い。この時、半単純対称空間G/Rの構造論の結果からGのベクトル部分群Aが存在して岩澤-カルタン型分解G＝RAKが成り立つことが知られている。(文献[R])(R＼G/K)をC^∞-函数F:でを満たすもの全体の成す空間とし、(A)でFが(R＼G/K)を走る時そのA-動径成分F|A全体を表すことにすると、分解G＝RAKの帰結として同型:(R＼G/K)→(A)を得る。は(R＼G/K)の部分空間なので本質的に重要なのはその動径成分(())である。

　論文[1]では,

　G＝SU(2,1), R＝S(U(1)×U(1,1)),

　II:Gの離散系列表現, :Rの既約unitary表現,

　:IIの極小K-タイプ

　論文[2]では

　G＝SU(3,1), R＝S(U(1)×U(2,1)),

　II:Gの離散系列表現, :Rの主系列表現、

　:IIの極小K-タイプ

　と言う状況のもとで新谷函数の動径成分∈(())の明示公式を得ると同時に絡作用素の空間の次元が1以下であることを示した。論文[1]、[2]の内容及び手法を説明しよう。IIをGの離散系列表現、その極小K-タイプをとしよう。G/Kの原点における接空間をpとする。K-加群pcの部分K-加群’でHom_K(’,II|K)＝{0}を満たすものの中で最大のものを^-、p^-:pc→^-をK-射影子とする。pの正規直交基底{X_i}を一つ選びシュミット作用素と呼ばれる一階微分作用素:(R＼G/K)→(R＼G/K)を

　で定義する。山下博氏の一般的な結果によると、の最高ウエイトが壁から遠いと言う仮定の下で、となる。(文献[Y])さて、KU(n)及びR(n-1,1)であることに注意すると、K及びRの与えられた表現及びの表現空間の基底としてそれぞれのゲルファント-ゼットリン基底{_A}及び{_Q}を取ることが出来る。これらの基底にたいしては、K及びRのリー環の作用を具体的に書き表す公式が知られており種々の球函数の計算に利用されている。(文献[G-Z]、[V-K])実際、我々の状況においてもゲルファント-ゼットリン基底は重要な役割を果たす。新谷函数が与えられたとしよう。ゲルファント-ゼットリン基底により

　とを展開する事が出来る。但し、c(Q|∧)はベクトル群AR上のC^∞-函数である。論文[1]及び[2]では、まずシュミット作用素の動径成分()をの係数c(Q|)の言葉で具体的に書き下し、の満たす一階の微分-差分方程式系を導出している。次に、こうして得られた微分-差分方程式系のC^∞-解を既知の特殊函数を用いて書き表せばの明示公式が得られることになる。論文[1]及び[2]によれば、上で述べた状況で{c(Q|)}は定数倍を除いて一意に決まり各c(Q|)は

　(,は整数,0,A,Bは複素数,₂F₁(a,b;c;z)はガウスの超幾何級数tはRの標準座標)

　と言う形のAR上の函数(の線形結合)で表示できることが結論される。

　論文[1]の付録では、IIおよびがそれぞれG＝SU(2,1)およびRU(1,1)の主系列表現の場合を論じ新谷関数の空間()が一次元以下であることを示し、その生成元のA動径成分がやはりガウスの超幾何級数で書けることを示した。これは、分解G＝RAKに関するカシミール作用素のA-動径成分を計算する事から導かれる。

　提出論文について論ずる前に、少し動機となった背景を述べよう。

　保型形式の整数論的研究の柱となる重要な主題の一つに保型的L関数の構成がある。これについては一般線形群上の保型形式についてはJacques-Piateskii-Shapiro-Shalikaの研究があり、Whittaker模型を持つ保型表現について保型的L関数を構成し、Euler積、関数等式、有理型に接続できる、等のことが示されている。

　これを他の簡約代数群について考えることは、いろいろな人によって試みられているが、とりわけ菅野孝史-村瀬篤の両氏がA型、BD型の古典群上の正則保型形式に通用する強力な方法を発展させている。また彼らの研究は、完全な関数等式を得ているという意味で、他の類似の研究よりずっと優れたものである。しかしながら、彼らの研究に於いても、いまだ実素点での研究が充分に一般に行われていない。これが本研究の動機の一つである。

　もう一つの動機を述べよう。古典的な球関数の種々の公式が、実半単純群の表現論の言葉で意味づけられその後の表現論研究の大きな動機付けになったことは、初期の歴史上よく知られている。その後、高階の群の表現論の研究は著しく代数化された。しかしながら「分類」についての見通しが明らかになるにつれて、少し前より各種の標準的な既約表現の「幾何学的実現あるいは模型」の研究が再び興味をもたれだしている。これは表現論それ自身の興味もさることながら、数理物理との関連に於いて、種々の量子可積分系を得ることも興味あることであるからである。

　提出論文は次の二部から成る。

　[1]:Real Shintani functions on SU(2,1)

　[2]:An explicite formulae of some type of Shintani functions on SU(3,1)

　これらの論文で取り扱う問題を少し一般化して定式化すれば次の様になる。

　Gを実半単純Lie群、KをGの極大コンパクト部分群、gをGのLie環とする。Gの閉部分群RとそのFrechet表現(,)に対してC^∞-誘導表現が、G上のC^∞-関数F:G→で全てのg∈G及び∈RにたいしてF(rg)＝()F(g)を満たすもの全体に自然な線形位相を与えたFrechet空間にGを右移動で作用させることで定義する。このとき、次の問題を考える。

　(1)与えられた既約(g,K)-加群IIにたいして(g,K)-絡作用素の空間

　$112113f09.gif$

　の次元を求める。

　(2)Tがを走る時のImage(T)の合併をとし、Kの各既約表現(,W)について()＝Hom_K(^*,)とおく。()に属する関数の明示的公式を得る。

　PをGの極小放物部分群とする。旗多様体G/PにおいてRが唯一つの開軌道を持つ時RをGの仮にsphericalな部分群と呼ぶ。このようなRにたいしては上で定義した絡作用素の空間はしばしば有限次元になる。また、に属する関数は、ある種の一般化された球関数と見なされ保型L関数の積分表示の理論で重要である。例えば、RとしてGの極大unipotent部分群を選びとしてRの指標をとった場合、はWhittaker関数として知られるG上の特殊関数から成る。

　さてこの論文の主題の新谷関数を考えるには、RとしてGのある対合の固定点全体として得られるGの簡約可能部分群を取る。するとGのベクトル部分群Aが存在して岩澤-カルタン型分解G＝RAKが成り立つ。(R＼G/K)をC^∞-函数F:G→WでF(g)＝()()^-1F(g)(∈R,g∈G,∈K)を満たすもの全体の成す空間とし、(A)でFが(R＼G/K)を走る時そのA-動径成分F|A全体を表すことにすると、分解G＝RAKの帰結として同型:(R＼G/K)→(A)を得る。つまりを調べるにはその動径成分を見ればよい。

　論文[1]では,

　$112113f10.gif$

　II:Gの離散系列表現,:Rの既約unitary表現,:IIの極小K-タイプ

　また論文[2]では

　$112113f11.gif$

　II:Gの離散系列表現,:Rの主系列表現,:IIの極小K-タイプ

　と言う状況のもとで新谷関数の動径成分$112113f12.gif$の明示公式を得ると同時に絡作用素の空間の次元が1以下であることを示した。これが主結果である。

　論文の基本的手法を説明しよう。先ず、KU(n)及びR(n-1,1)であることに注意すると、K及びRの与えられた表現及びの表現空間の基底としてそれぞれのGelfand-Zetlin基底{_∧}及び{_Q}を取ることができる。すると新谷関数$112113f13.gif$は、

　$112113f14.gif$

　と展開できる。但し、c(Q|∧)はベクトル群AR上のC^∞-関数である。これに対して、Schmid作用素の動径成分()をの係数c(Q|∧)の言葉で具体的に書き下し、の満たす一階の微分-差分方程式系を導出する。次に、こうして得られた微分-差分方程式系のC^∞-解を既知の特殊関数を用いて書き表すことによって、の明示公式が得られることになる。最終的にはは定数倍を除いて一意に決まり、各c(Q|∧)はガウスの超幾何級数で表示できることが結論される。

　上記の論文はSU(2,1)については「重複度無し」の新しい証明を、SU(3,1)については「重複度無し」という新しい結果を得ている。また球面部分群の無限次元表現に対する球関数を明示的に調べたという点も、新しい論点である。結果が保型的L関数に応用できるという点でも重要である。

　よって、論文提出者都築正男は、博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める。