Gを岩澤分解G=KANをもつ実簡約型Lie群とする.g,t,a,n,などでLie群G,K,A,Nなどに対応するLie環をあらわし,gcなどでそれらの複素化をあらわすことにする,(π,V)を位相線型空間VへのGの連続許容表現とする.またVkでVのK有限ベクトル全体のなす(gc,K)加群とする.ここで極大幕単群Nのユニタリ指標ηに対して次のようなG上のC∞級関数の空間,C∞(N＼G)={fC∞(G)|f(ng)=η(n)f(g)n∈N,g∈G}を考え,そこへの連続準同型の空間

あるいは代数準同型の空間

を考える.V(resp.VK)のこれら連続(resp.代数的)準同型による像をV(resp.VK)のWhit-taker模型と呼ぶ.また像の各元はG上の関数となるので,それらをWhittaker関数と呼ぶ.

上の定義では極大幕単群IVのユニタリ指標からのGへの誘導表現を考えたが,より一般に閉部分群U⊂Nの既約ユニタリ表現からGへの誘導表現を考え,そこへのVやVKからの準同型の像を一般Whittaker模型,それらの像の各元を一般Whittaker関数と呼ぶ.

本論文ではG=GL(n,R)とし,(π,V)として退化主系列表現を考え,それらの一般Whit-taker関数を明示的な微分方程式の解としての特徴つた.さらにこの特徴づけを用いて,GL(4,R)の極大放物型部分群の指標から誘導される退化主系列表現の一般Whittaker関数を具体的に計算し,それらのなす空間の次元を決定し,さらにそれらの基底を多変数の合流型超幾何関数を用いて明示的に書き下した.

より正確に設定を述べる.Θ={n1,…,nL}で0(=n0)

であり,Gはこの空間に左移動で作用する.この表現をπΘ,λと書くことにする.またXΘ,λでK有限ベクトル全体のなす(gc,K)加群とし,X*e,λでその双対(gc,K)加群とする.gcの普遍包絡環U(g)のなかのπΘ,λの零化イデアルをIΘ(λ)={X∈U(g)|Rxf≡0,f∈C∞(G/PΘ;λ)}とする.U⊂Nを閉部分群として(η,Vη)でUの既約ユニタリ表現を取り,以下のようなGへの誘導表現を考える.G∞η(U＼G)={∫:G→V∞ηsmooth|f(ug)=η(u)f(g),u∈Ug∈G},ここにはGが右移動で作用する.

このとき以下の定理(本論分Theorem)が証明できる.

Theorem1.λ∈a*cはa*cの元としてregularaαγかつdominantとする.ゼロでないK固定ベクトルf0∈X*Θλを取ってくる,このとき以下の線型写像は同型である.

ここで,

である.

定理の仮定の下ではπΘ,の零化イデアルIe(λ)の生成元が大島利雄氏によって具体的に決定されている.従って上の定理によってGL(n,R)の退化主系列表現の一般Whitaker関数を特徴付ける微分方程式が具体的に構成できたことになる.

このTheorem1によって一般Whittaker関数を特徴付ける微分方程式が得られたので,次にG=GL(4,R)としてGの極大放物型部分群P(1,4)とP(2,4)の指標から誘導された退化主系列表現に対して,Hom((gc),K)(XΘ,λ,C∞η(U＼G)),あるいは0甲(U＼G/K,IΘ(λ))の具体的な構造を考える.ここでGの部分群Gとそρユニタリ表現ηは以下の仮定を満たすものを扱う.

1.UはNの閉部分群であり,ηはUのユニタリ指標

2.ηのNへのL2誘導表現L2-IndNUηは既約かつユニタリである.

この条件の下,C∞η(U＼G)のG同型類を分類し,それら全てに対してHom(gc,K)(XΘ,λ,C∞η(U＼G))の次元を決定し,また(C∞η(U＼G/K,IΘ(λ))の基底を一変数変形Bessel関数,二変数Hornの合流方超幾何関数を用いて書き下した.

以下G = GL(4;R) を4次実一般線形群とし、その部分群である4次直交群K = O(4)、狭義上三角群N、対角行列からなるG の部分群の単位元の連結成分である群A などを考える.慣用に従い、これらの群に対応するLie 環を、対応するドイツ文字の小文字によって各々g = M4(R); k = o(4); n; a などで表す.また各々の複素化はgC などであらわすことにする.このとき岩澤分解はG = KAN となる.

さてG の連続許容表現(Y; V ) (たいていは既約か有限の組成列をもつもの) が与えられているとする. ここで表現空間はV は局所凸位相線型空間か、Hilbert 空間である. これの代数化は、VK をV のK 有限ベクトル全体のなす空間とするとき、そこに自然に誘導される(gC;K) 加群とする.

この表現のWhittaker 模型あるいはWhittaker 実現は次のように定義される.

極大冪単群であるN のユニタリ指標η に対して、G 上のC1 級関数の空間

を考え,これをG の右準正則作用によってG の表現とみなし、Yからそこへの連続G-準同型の空間(絡空間、interwining space)

あるいは代数準同型の空間

を考える.V (resp.VK) のこれら連続(resp. 代数的) 準同型による像をV (resp.VK) のWhit-taker 模型と呼ぶ.また像の各元はG 上の関数となるので,それらをWhittaker 関数と呼ぶ.

極大冪単群N のユニタリ指標のみならず、任意の既約ユニタリ表現ηに対しても同様の問題を考えたい.これはKirillov 理論より、上での(N; η) の代わりに、より一般に閉部分群U ,! N の既約ユニタリ指標からG への誘導表現を考え,そこへのV やVK からの準同型の像を一般Whittaker 模型,それらの像の各元を一般Whittaker 関数と呼ぶ.

本論文ではG の表現(Y; V ) として退化主系列表現を考え,それらの一般Whittaker 関数の動径成分を明示的な微分方程式(あるholonomic 系)の解として特徴づけた.さらにこの特徴づけを用いて,GL(4;R) の極大放物型部分群の指標から誘導される退化主系列表現の一般Whittaker 関数をべき級数や、古典的な特殊関数(特にBessel 関数) あるいはそれらを含む積分表示などによって具体的に計算した.この結果の直接の結論として解空間の次元を決定した.

この論文の手法は網羅的かつ包括であり、さらに特徴的で注目すべき結果として、たとえば、これまで全く別の文脈で研究されていた、Horn の2変数の合流型超幾何関数とWhittaker模型との関係を明らかにした.これは興味深い新しい発見である.

偏微分方程式系の導出においては、大島利雄氏の退化主系列表現の零化イデアルの生成系に関する結果が、周到な準備の後に利用されている.当論文の手法は、より大きな次数n のときのGL(n;R) の場合にも一般化できると思われる.

このような理由から、この論文は得られた結果のみならず、用いられた手法が「標準化可能」と思われ、今後の研究のためにもその価値は大きいと思われる.

よって論文提出者 廣惠一希 は、博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める.