まず,扱った問題を一般的な設定で述べる.Gを半単純リー群とし,KをGの極大コンパクト部分群,gをGのリー環とする.Gの閉部分群Rの平滑な既約表現(,)にたいして,C^∞-誘導表現C^∞が定義される.すなわち,表現空間

　の上にGを右移動で作用させる.さて,をGの標準表現とする.のK-タイプと0でないK-準同型写像i＝∈Hom_K(,)が与えられると,それは・i_rによってC-線型写像

　を導く.ここで,(R＼G/K)はG上の-値C^∞-関数で

　を満たすものの全体の空間を表す.の像F＝・を(,,)に付随した球関数と呼ぼう.

　我々の関心はつぎの互いに関連する二つの問題にある:

　(問題1)どのような組(G,R)にたいして代数的絡空間Hom_(g,K)(,(R＼G))は有限次元になるか?

　(問題2)どのような関数が(,,)に付随した球関数として現れうるか?それらの明示形またはそれらが満たす微分方程式を求めよ.

　これらの問題はさまざまな立場から研究されているが,その多くは(,)が1次元ないしは有限次元の場合を扱っており,(,)が無限次元のときの具体的な結果は少ない.

　なお,次のことに注意しておこう.(問題1)は"Frobenius相互律"を通じてのRへの制限を記述する問題(表現の分岐則)と密接な関係にある.また,Rが簡約型のとき,上の意味での球関数は確定特異点型の微分方程式を満たすと考えられている.少なくとも,既知の例ではすべてそのようになっている.

　この論文では、上記の問題を(G,R)＝(Sp(2,R),SL(2,C))の場合に論じた.ただし,としては,長い方の単純ルートに対応したGの極大放物型部分群P_Jから誘導した一般化主系列表現(以下,P_J-主系列表現とよぶ)のうち1次元のK-タイプをもつものを扱った.まず,(問題1)に対する解答として次を得た.

　定理1 をP_J-主系列表現で1次元のK-タイプをもつものとし,(,)をRの既約な許容表現とする.もしが既約ならば、代数的な絡空間について

　が成立する.

　定理1の証明の概略とともに問題(2)についての結果を述べよう.まず,は「角の」K-typeと呼ばれる特別なK-type を重複度1でふくむ.の既約性から絡空間Hom_(g,K)(,(R＼G))は型(,,)の球関数の空間と同型になる.(,,)の球関数F(g)の満たす微分方程式系を,遷移作用素と呼ばれる1階の微分作用素とCasimir作用素の2種類の微分作用素を用いて構成する.ここで遷移作用素とは,(’,)をKの別の既約表現として,

　に属すある元によって自然に定まる作用素であって,型(,,)の球関数を型(,,’)の球関数へ移す.さて,を∩qの極大可換部分空間として,A:＝exp(a)と置くとき,半単純対称空間の一般論によりG＝RAKなる分解ができる.したがって,型(,,)の球関数F(g)はA上への制限(t)＝F(a_t)(t∈R)だけで決まる.今の場合aは1次元なので,球関数F(g)はR上の1変数C^∞-関数(t):＝F(a_t)(t∈R)と思える.この(t)を球関数F(g)の動径成分とよぶ.(,)の標準基底のある部分集合およびの0でない元₀を用いると,(t)は

　と書ける.上述のF(g)にたいする微分方程式系から,係数関数^(m)(t)たちの満たす微分-差分方程式系が得られる.この微分-差分方程式系から次のことがわかる.

　(i)あるm₀∈Mが存在して,(t)はy＝(cosh 2t)^-2と変数変換するとy＝0,1,∞の3点に確定特異点をもつ4階常微分方程式を満たす.

　(ii)他の^(m)(t)たちは,(t)に線形微分作用素を施して得られる.

　(i)の微分方程式のy＝1における特性根を調べることで定理1が証明される.さらに,この微分方程式は実質的に一般化超幾何微分方程式であることがわかる.そのことから,(t)は初等的な因子を除いてMeijerのG-関数という特殊関数で表示される.ここで,MeijerのG-関数とは次のようなMellin-Barnes-型の積分

　で定義される関数である.

　この論文ではとしてGのP_J-主系列表現のうち1次元のK-タイプをもつもののみを扱ったが,定理1が1次元のK-タイプを持たぬP_Jから誘導される一般化主系列表現や大きな離散系列に対しても成立すると予想している.なぜならば,P_J-主系列表現と大きな離散系列表現とはK-タイプの分布の仕方がよく似ているからである.また,が無限次元のときには定理の不等式において等号が成立すると期待できる.このことをわれわれの方法の延長線上で証明するのは困難であると思われるが,ほかの有望な手法があり得るのでこれは今後の課題となる.

　本論文の問題を少し一般的な設定で述べると次のようになる.

　Gを半単純リー群とし,KをGの極大コンパクト部分群,gをGのリー環とする.Gの閉部分群Rの平滑な既約表現(,)にたいして,C^∞-誘導表現C^∞が定義される.すなわち,表現空間

　$115535f08.gif$

　の上にGを右移動で作用させる.さて,をGの標準表現とする.のK-タイプと0でないK-準同型写像i＝∈Hom_K(,)が与えられると,それは・によってC-線型写像

　$115535f09.gif$

　を導く.ここで,(R＼G/K)はG上の-値C^∞-関数で

　$115535f10.gif$

　を満たすものの全体の空間を表す.の像F＝・を(,,)に付随した球関数と呼ぼう.

　このとき、次の互いに関連する二つの問題を考える:

　(問題1)どのような組(G,R)にたいして代数的絡空間Hom_(g,K)(,(R＼G))は有限次元になるか?

　(問題2)どのような関数が(,,)に付随した球関数として現れうるか?それらの明示形またはそれらが満たす微分方程式を求めよ.

　これらの問題はさまざまな立場から研究されているが,その多くは(,)が1次元ないしは有限次元の場合を扱っており,(,)が無限次元のときの具体的な結果は少ない.

　この論文では、上記の問題を(G,R)＝(Sp(2,R),SL(2,C))の場合に論じた.ただし,としては,長い方の単純ルートに対応したGの極大放物型部分群P_Jから誘導した一般化主系列表現(P_J-主系列表現とよぶ)のうち1次元のK-タイプをもつものを扱った.まず,(問題1)に対する解答として次を得ている.

　定理1 をP_J-主系列表現で1次元のK-タイプをもつものとし,(,)をRの既約な許容表現とする.もしが既約ならば、代数的な絡空間について

　$115535f11.gif$

　が成立する.

　さらに問題(2)については以下のような結果を得た.

　まず,は「角の」K-typeと呼ばれる特別なK-type を重複度1でふくむ.の既約性から絡空間Hom_(g,K)(,(R＼G))は型(,,)の球関数の空間と同型になる.(,,)の球関数F(g)の満たす微分方程式系を,遷移作用素と呼ばれる1階の微分作用素とCasimir作用素の2種類の微分作用素を用いて構成する.ここで遷移作用素とは,(’,)をKの別の既約表現として

　$115535f12.gif$

　に属すある元によって自然に定まる作用素であって,型(,,)の球関数を型(,,’)の球関数へ移す.さて,aをp∩qの極大可換部分空間として,A:＝exp(a)と置くとき,半単純対称空間の一般論によりG＝RAKなる分解ができる.したがって,型(,,)の球関数F(g)はA上への制限(t)＝F(a_t)(t∈R)だけで決まる.今の場合aは1次元なので,球関数F(g)はR上の1変数C^∞-関数(t):＝F(a_t)(t∈R)と思える.この(t)を球関数F(g)の動径成分とよぶ.(,)の標準基底のある部分集合およびの0でない元₀を用いると,(t)は

　$115535f13.gif$

　と書ける.上述のF(g)にたいする微分方程式系から,係数関数^(m)(t)たちの満たす微分-差分方程式系が得られる.この微分-差分方程式系から次のことがわかる.

　(i)あるm₀∈Mが存在して,(t)はy＝(cosh 2t)^-2と変数変換するとy＝0,1,∞の3点に確定特異点をもつ4階常微分方程式を満たす.

　(ii)他の^(m)(t)たちは,(t)に線形微分作用素を施して得られる.

　(i)の微分方程式のy＝1における特性根を調べることで定理1が証明される.さらに,この微分方程式は実質的に一般化超幾何微分方程式であることがわかる.そのことから,(t)は初等的な因子を除いてMeijerのG-関数という特殊関数で表示される.ここで,MeijerのG-関数とは次のようなMellin-Barnes-型の積分

　$115535f14.gif$

　で定義される関数である.

　リー群上の球関数の研究は表現論研究の原点とも言うべきものであるが、階数が2以上の群上の特殊関数の具体的研究は以外に少ない.この論文では2階の群である、二次シンプレクティック詳の上で、P_J-主系列表現に属し、2次の複素特殊線型部分群に関する球関数を、その具体的な積分表示もこめて詳細に調べている.

　これは保型的L関数の研究にも応用を期待できまた可積分系の例としても大変興味深い.また結果は特別な群に対して得られているが大変具体的な各種の式は今後に一般化のための大きな指針となり、この点でも大変有意義である.

　よって、論文提出者 森山知則は、博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める.