この論文では,IV型対称領域上の保型形式のフーリエ展開に関連する,ある一般化された球関数について考察する.よく知られているように保型形式に付随する保型L関数を構成する際に,フーリエ展開は重要な役割を果たす.しかし正則でない保型形式に対しては,既存の研究ではアルキメデス素点での理論が十分に構築されていないため,出発点であるフーリエ展開でさえ十分な深さで知られていない.そこでこの論文ではSO0(2, q)(q〓3)という実半単純リー群上のクラス1主系列表現のある誘導表現における実現とその中の関数について詳しく調べる.

　我々の問題を表現論の言葉を用いて定式化する前に,この論文で扱う波動形式という保型形式のフーリエ展開に関する問題点を述べておこう.Gを実半単純リー群,KをGのあるコンパクト部分群とする.Riemann対称対(G, K)とカスプを持つGの数論的部分群Γに対して,G上のC∞級関数fが波動形式であるとは,以下を満たすことである.(1)fは左Γ不変かつ右K不変,(2)fは対称領域G/Kの不変微分作用素の同時固有関数,(3)fはある増大条件を満たす.ここで条件(1), (2)からfは右移動でGのクラス1主系列表現を生成していることに注意しておく.

　G=SO0(2, q)とする.このとき対称領域G/Kはエルミート型で,IV型対称領域と呼ばれるものである.PsをΓのある0次元カスプに対応するGのSiegel放物部分群とし,そのベキ単根基をNs(アーベル群になる),Levi部分群をLsと書き,波動形式fのPsに沿ったフーリエ展開を考えよう.Nsのユニタリ指標ξを1つ取って固定し,

(ξに対するフーリエ係数)とおくと,

というフーリエ展開を得る.すると波動形式の条件(2)からフーリエ係数Aξ(g)は(q変数の)偏微分方程式系を満たすことがわかるが,その解空間は無限次元になってしまう.そこでSO(ξ)をξのLsにおける固定部分群の単位元の連結成分とし,Aξ(g)をSO(ξ)でさらに展開することを考える.SO(ξ)はξが「定値」な指標の場合にはSO(q-1)と,「不定値」な指標の場合にはSO0(q-1)と同型になる.この論文ではξが「定値」な場合のみを扱う.このときSO(ξ)の有限次元既約表現(χ.Vx)を固定し,

とおくと,Aξのフーリエ展開

を得る.ここでχ*はχの反傾表現,〈、〉はVλ×Vλ*の標準内積である.するとこのフーリエ係数Aξ.x.i(g)はVλに値をとる2次元の空間SO(ξ)＼Ls/Ls∩K上の関数と見なせ,先の偏微分方程式系をこの空間に制限すると解空間は有限次元となる.さらに適当な増大度条件を課すと解はスカラー倍を除いて一意に定まることがわかり(重複度1定理),その積分表示も得られる(定理7.1).これによりξが「定値」である項に対するフーリエ展開の明示形がわかる.一方ξが「不定値」である項についてはSO(ξ)がコンパクト群でないことに起因する困難が生じ,G=Sp(2,R)(q=3)の場合でさえも,偏微分方程式系の解空間の十分な解析ができていない.

　では我々の問題を表現論的に定式化しよう.Gを実半単純リー群とし,そのリー環をgと書き,Gの極大コンパクト部分群Kを固定する.さらにGの閉部分群Rおよびその平滑な既約表現ηを取り,C∞IndGR(η)をηを平滑に誘導して得られるGの表現とする.Gの既約認容表現πに対して,(g, K)加群の間の絡作用素の空間

〓

を考える.〓(π,η)の元Φに対して,Im(Φ)というπの〓における実現をπに対する一般化された球関数と呼ぶ.このとき次のような問題を考える.

(1)〓(π,η)の次元を決定せよ.さらにある増大度条件を課したとき1次元になるかどうか調べよ(重複度1定理).

(2)一般化された球関数の(G上の関数としての)明示公式を求めよ.

適当なRとηに対して,この問題は保型形式の局所(アルキメデス素点)理論と深く関係してくる.例えばRがGの極大ベキ単部分群でηがその既約ユニタリ指標である場合,この球関数はWhittaker関数と言われ多くの研究がなされている.

　再びG=SO0(2,q)の場合に戻ってこの論文における問題を述べよう.Ps=Ls〓 Ns,ξをNsのユニタリ指標として,まず絡作用素の空間Hom(g, K)(π, C∞IndGNs(ξ))を考える.πがGの正則離散系列表現の場合には,この絡作用素の空間は有限次元になり,さらに球関数は指数関数を用いて表される.これから良く知られた正則保型形式のフーリエ展開を得る.しかしπが(クラス1)主系列表現の場合にはこの空間は無限次元になる.そこでRをNsとSO(ξ)の半直積とし,さらにSO(ξ)の既約ユニタリ表現λを1つ固定してη=χ・ξとおく.このとき先に述べた一般化された球関数を我々はSiegel-Whittaker関数と呼ぶことにする.

　G=Sp(2, R)でξが「定値」のとき,丹羽伸二氏はクラス1主系列表現πに対して,絡作用素の空間の重複度1定理およびSiegel-Whittaker関数の明示公式を得ている.本論文の目的はこの結果をSO0(2,q)の場合に拡張することである.sp(2,R)〓so(2,3), su(2,2)〓so(2,4)であることに注意しておく.また離散系列表現に対するSiegel-Whittaker関数については,G=Sp(2,R)のときは宮崎琢也氏,G=SU(2,2)のときは権寧魯氏の研究がある.一方で筆者は以前の研究で,Sp(2, R)のクラス1に限らない主系列表現に対して,重複度なし定理および球関数のある特異因子に沿った「境界値」の明示公式を既に得ている.

　Siegel-Whittaker関数に限らず,クラス1主系列表現に対する一般化された球関数はG/K上の不変微分作用素の同時固有関数として特徴付けられる.対称空間の不変微分作用素環の生成元を求める方法については,最近進展があるようだがここでは古典的な方法で計算した(命題3.1).既に見たようにSiegel-Whittaker関数はSO(ξ)の既約表現の表現空間上に値をとる関数である.従って,一般のqの場合にはq=3の場合とは違ってベクトル値関数になり問題が複雑になる.我々はξが「定値」のときSO(ξ)〓SO(q-1)の既約表現をGel'fand-Zetlin基底を用いて実現し,先に求めた不変微分作用素と合わせてSiegel-Whittaker関数の満たす偏微分方程式系を与えた(定理6.1).実はここでπがクラス1であるためにSiegel-Whittaker関数の右K-不変性が効いて,Siegel-Whittaker関数はGel'fand-Zetlin基底を用いて表したときに1つの成分しか残らない,つまり偏微分方程式系は1つの関数に対する方程式系になることがわかる.さらにある簡単な関数をかけることによって,我々の問題はq=3の場合にほぼ帰着できる.しかし,qが偶数の場合には丹羽氏の明示公式が適用できないのでここでは独立の方法をとり以下を得た.

主定理(定理7.1)πをSO〓(2,q)の既約クラス1主系列表現とする.Nsの「標準的」な「定値」ユニタリ指標ξ0と,SO(ξ0)〓SO(q-1)の最高ウエイトλ=(λ1, ..., λ[(q-1)/2])の有限次元既約表現χλに対してη=χλ・ξ0とする.このとき,

(1)λが(λ1, 0, ..., 0)の形でないときは

dimC Hom(g, K)(π, C∞IndGR(η))=0.

(2)λ=(λ1, 0, ..., 0)のときは

dimC Hom(g, K)(π, C∞IndGR(η)rap)=1,

　ここで,C∞IndGR(η)rapはC∞IndGR(η)の中の急減少関数全体のなす(g,K)部分加群を意味する.さらにこの絡作用素の元に対するSiegel-Whittaker関数はあるEuler型の積分表示を持つ.

　上記の結果の保型L関数への応用に対する展望の1つについて簡単に述べておく.Andrianovは2次の正則なSiegelカスプ形式に対して,L関数(スピノールL関数と言われる)を構成し,関数等式および解析接続を証明した.菅野孝史氏はこの結果をSO(2,q)の場合へ拡張した.一方で,堀正氏は2次のSiegel波動形式に対してAndrianovのL関数の類似を構成し,丹羽氏のSiegel-Whittaker関数の明示公式を用いてその関数等式を与えた.従って,SO(2,q)の波動形式に対しても菅野氏と同様のゼータ積分を考えることによってL関数の関数等式を得ることができると考えられる.

　多変数保型形式の研究において,局所体上の代数群の認容表現の,意味のある各種の具体的な実現あるいは模型が基本的で重要な役割を果たす.しかしながら研究の現状は実数体上の場合に限っても,知られている結果は極めて貧弱で,この状態は大域的な深い研究に進むときの隘路になっている.

　この論文で,論文提出者の石井卓氏は,IV型対称領域上の波動保型形式のフーリエ展開に登場するある一般化された球関数について,重複度1定理を示し,またその一意に定まる球関数の動径成分の明示的な積分表示も得た.保型形式研究においてフーリエ展開の果たす基本的な役割を思えば,これは極めて基本的で重要な結果と言える.

　先ず少し視点を変えて,問題をリー群の表現論的な言葉で定式化する.一般化された球関数の定義を思い起こそう.実簡約リー群Gのリー環をgと書く.群Gの極大コンパクト部分群Kを固定する.さらにGの閉部分群Rおよびその平滑な既約表現ηを取る.Gの既約認容表現πに対して,次の(g,K)加群の間の絡作用素の空間を考える.

〓(π,η)の元Φに対して,Im(Φ)というπのC∞IndGR(η)における実現をπに対する一般化された球関数と呼ぶ.このとき次のような問題を考える.

(1)〓(π,η)の次元を決定せよ.さらにある増大条件を課したとき1次元になるかどうか調べよ(重複度1定理).

(2)一般化された球関数の(G上の関数としての)明示公式を求めよ.

適切なRに対してこの種の問題を考えることは、実数体上に限らず保型形式の局所理論の一つの中核的な問題である.例えばRがGの極大べき単部分群でηがその既約ユニタリ指標である場合,この球関数はWhittaker関数と言われ多くの研究がなされている.

　この論文の場合G=SO〓(2,q)としRは以下のように定める.Siegel放物部分群Ps=Ls〓Ns,ξをNsのユニタリ指標として,絡作用素の空間Hom(g,K)(π, C∞IndGNs(ξ))をナイーヴに考えると、πが(クラス1)主系列表現の場合にはこの空間は無限次元になる.そこでNsを含むGの閉部分群Rを次のように取る.SO(ξ)をξのLsにおける固定部分群の単位元の連結成分とし,RをNsとSO(ξ)の半直積とする.するとSO(ξ)はξが「定値」の場合はSO(q-1)に,また「不定値」の場合にはSO〓(1,q-2)に同型になる.さらにSO(ξ)の既約ユニタリ表現χを1つ固定し,η=χ・ξとおく.このときの一般化された球関数をこの論文ではSiegel-Whittaker関数と呼ぶ.

　G=Sp(2,R)でξが定値のとき,丹羽伸二氏はクラス1主系列表現πに対して,絡作用素の空間の重複度1定理およびSiegel-Whittaker関数の明示公式を得ている.本論文の主結果は、これをSO〓(2,q)の場合に拡張したものである.ここでsp(2,R)〓so(2,3), su(2,2)〓so(2,4)に注意する.他方、論文提出者の石井氏は以前の研究で,Sp(2,R)のクラス1に限らない主系列表現に対して,重複度なし定理および球関数のある特異因子に沿った「境界値」の明示公式を既に得ている.

　Siegel-Whittaker関数に限らず,クラス1主系列表現に対する球関数はG/K上の不変微分作用素の同時固有関数として特徴付けられる.この論文では、カシミール作用とは異なるもう一つの4次の生成元を直接計算により明示的に求めた.さてここで言うSiegel-Whittaker関数は,SO(ξ)の表現空間上に値をとるベクトル値関数であり,それを明示的に記述するためにξが定値のときはコンパクト群SO(ξ)〓SO(q-1)の既約表現のGel'fand-Zetlin基底を用いて実現し,先に求めた不変微分作用素と合わせてSiegel-Whittaker関数の満たす偏微分方程式系を得る.ここでπがクラス1であるためSiegel-Whittaker関数は右K−不変であることが効いて,Gel'fand-Zetlin基底を用いて表したときに偏微分方程式系の解の非零成分は1つしか残らない,つまり偏微分方程式系は1つの関数に対する方程式系になることがわかる.さらにある初等関数の乗数で方程式を変形すると問題はq=3の場合にほぼ帰着できる.主定理を述べる.

主定理(定理7.1)クラス1主系列表現π(ν1,ν2)に対して,ν1,ν2,ν1±ν2はいずれも非整数と仮定する.Nsの標準的な定値ユニタリ指標ξ0と,SO(ξ)〓SO(q-1)の最高ウエイトλ=(λ1, ..., λ[(q-1)/2])の有限次元既約表現χλに対してη=χλ・ξ0とする.このとき,

(1)λが(λ1, 0, ..., 0)の形でないときは

dimC Hom(g, K)(πν, C∞IndGR(η))=0.

(2)λ=(λ1, 0, ..., 0)のときは

dimC Hom(g, K)(πν, C∞IndGR(η)rap)=1,

　ここで,C∞IndGR(η)rapはC∞IndGR(η)の中の急減少関数全体のなす(g,K)部分加群である.さらに,この絡作用素の元に対するSiegel-Whittaker関数はあるEuler型の積分表示を持つ.

　この結果は次のような保型L関数に対する応用が期待できる.Andrianovは70年代に2次の正則Siegel尖点形式に対して,スピノールL関数と言われるL関数を構成し,その関数等式および解析接続を証明した.後に菅野孝史はこの結果をSO(2,q)の場合へ拡張した.一方で,堀正は2次のSiegel波動形式に対してAndrianovのL関数の類似を構成し,丹羽のSiegel-Whittaker関数の明示公式を用いてその関数等式を与えた.従ってSO(2,q)の波動形式に対しても菅野の結果を一般化し,同様のゼータ積分を考えることによってL関数の関数等式を得られるであろう.

　まとめると、以上に提示した結果はG/Kがエルミート型でIV型という階数が2である場合に、Siegel放物群に付随する球部分群Rに関する一般化されたWhittaker関数を具体的に決めた結果である.高階の実リー群に対する,数少ない,一般化されたWhittaker関数に関する,かなり一般的な結果である.

　結果の重要性は既に最初に述べた.さらに付け加えれば,既に発表された石井氏の論文もそうであるが,この博士論文の中にもさらなる一般化のためにいろいろ示唆する点が散見される.よって,論文提出者石井卓は,博士(数理科学)の学位を受けるにふさわしい十分な資格があると認める.