この論文は、正則ジーゲル保型形式の極小放物型部分群に関するフーリエ展開の理論の構成を目的とする。内容は次の2つから構成される。

　1.種数一般のスカラー値の正則ジーゲル保型形式の場合([1]Fourier expansion of holomorphic Siegel modular forms of genus n along the minimal parabolic subgroup)。

　2.種数3のベクトル値の正則ジーゲル保型形式の場合([2]Fourier expansion of holomorphic Siegel modular forms of genus 3 along the minimal parabolic subgroup)。

　保型形式の整数論の様々な研究において、フーリエ展開を調べることは基本的かつ重要な手段でありしばしば意義ある情報を与える。例えばそれは、保型L関数の構成の出発点を与える(A.N.Andrianov[A],W.Kohnen and N.P.Skoruppa[K-S])。またフーリエ展開の各項に現れるフーリエ係数も二次形式論との関係などから、重要な考察対象であり続けてきた。

　正則ジーゲル保型形式のフーリエ展開は、極大放物型部分群に関するものが主に調べられてきた。共役を無視すると、極大放物型部分群の中で巾単根基が可換なものが一意的に存在し、それはジーゲル放物型部分群と呼ばれる。ジーゲル放物型部分群に関する展開は最も古典的なものであり、C.L.Siegelが二次形式論の研究の中で、その詳しい考察を初めた([S]参照)。それ以外の極大放物型部分群に関する展開は、「フーリエ-ヤコビ展開」と呼ばれ様々な研究結果が残っている([E-Z],[P],[Z]参照)。しかしこれら以外の放物型部分群に関するフーリエ展開は全く調べられていないように思われる。我々がこれから扱う極小放物型部分群に沿ったフーリエ展開に関しては、著者が種数2の場合について既に構成を行った([N]参照)。そしてこの研究の高い種数への拡張として得られたのが本研究[1]、[2]である。

　ここで、極小放物型部分群に関するフーリエ展開の定式化及びそれについての結果を与えるためにいくつかの記号等の準備をする。群G＝Sp(n;R)を次数nの実シンプレクティック群、KをGの極大コンパクト群、G＝NAKをGの岩澤分解とする。ここにN＝N_nN_sで

　である。巾零リー群Nの既約ユニタリー表現について述べると、A.A.Kirillovによる構成方法([C-G],定理2.2.1〜2.2.4,参照)から次のことが分かる。

　命題1

　n^*をNのリー代数nの双対空間とする。すべてのNの既約ユニタリー表現は、l∈n^*を用いて次のように書ける。

　ここに、M:＝exp(m)でmは内積l([・,・)に関するnの偏極部分代数を記し、x_lはM上の指標で、と定義される。

　N_sのリー代数n_sの双対空間の基底をと記し、l_ijはn_sの基底E_ij+n+E_ji+n(i＝jのときはE_i+ni)に対応しているものとする。これを用いて、の元をと記す。更に以下の議論において、偏極部分代数mをm⊃n_sとなるようにとるものとする。

　g、をそれぞれG、Kのリー環とする。リー環gの複素化gcはKの中心の随伴作用により以下のように分解する。

　ここにp⁺とp^-はの作用に関する固有値が、1及び-1の固有空間を表すものとする。

　以上の記号のもとで、先ずフーリエ展開の定式化をする。(,)をKの複素化K_cの有限次既約表現とし、C^∞関数f:G→を重さで＝Sp(n;Z)に関する正則ジーゲル保型形式とする。更にN_z:＝N∩とする。このときg∈Gを固定しf(ng)(n∈N)をN上の関数と見倣すと、f(ng)∈L²(N_z＼N)と見ることができる。ここにL²(N_z＼N)はN_z＼N上2乗可積分関数の空間を記す。商集合N_z＼Nはコンパクトなので、この空間は次の離散的な分解をもつ([G-G-P]p.23参照)。

　ここにはNの既約ユニタリー表現の同型類を記し、m()＝dim_C Hom_N(,L²(N_z＼N))<∞、はヒルベルト直和を表す。絡作用素の空間Hom_N(,L²(N_z＼N))の基底をとすると、fの極小放物型部分群に関するフーリエ展開は次のように書くことができる。

　ここに{_Q}_Qはの基底を表し、(g)∈Hはfの(,m,Q)-成分を記すものとする。

　以上の定式化から、フーリエ展開を構成するには次の2つのステップを終えることで完了することが分かる。

　(1)を明示的に与える。

　(2)重複度m()、及びHom_N(,L²(N_z＼N))の基底を具体的に与える。

　最後に主結果について言及する。ここでは種数一般の重さ(nより大きい正の偶数)のスカラー値の正則ジーゲル保型形式についての結果を述べる。ステップ(1)のW(g)は、正則離散系列に対する一般化ホウィッタカー関数であることが分かるのだが、それは次のように定義される。

　定義2

　正則離散系列及びその極小K型に対して、写像

　を、K-埋め込み:→による引き戻し写像

　で定義する。このとき、Im^*の元を、正則離散系列に対するK-型の一般化ホウィッタカー関数と呼ぶ。 □

　ここに、我々の考えている場合においては、であることを注意しておく。ここで次の関数空間を導入する。

　ここに、はのC^∞ベクトル全体を表し、(^*,)は(,)の反傾表現で、我々の扱っている場合においては(,C)と同じである。上記の一般化ホウイッタカー関数の空間は、以下の空間と同一視できる。

　上記の右の条件はコーシーリーマン条件と呼ばれる。この条件から導かれる微分方程式を解くことにより、つぎの定理を得る。

　主定理3([1]、定理4.7、4.11参照)

　l∈n^*にたいし、lのn成分を、対称行列を、で定義する。更に次を導入する

　(1)表現についてがN_s⊂Mにおいてのみ非自明であるとき、対応する一般化ホウィタッカー関数のN_nAへの制限の明示公式は次で与えられる。

　またこのとき、dim_CHom(g,K)(,(N＼G)1となり、特にこれが1となるための必要十分条件は、Y_n(l)が半正定値となることである。

　(2)上記以外の表現に対しては、

　が成立。 □

　ステップ2に関してL.Richardsonの結果([R]、定理5.3、定理7.2参照)から次が分かる。

　命題4([1]、命題5.3、5.4、5.5参照)

　l∈n^*をn_sにおいてのみ非自明な線型形式とする。

　(1)O(l)_zで余随伴軌道Ad^*N・lの整数有理点全体を表し、(l):＝O(l)z/AN_zとおく。ここにAはNによるn_sの双対空間への余随伴作用を表し、lはの元と見倣している。このとき

　が成立。

　(2)l∈(l)に対し∈Hom_N(,L²(Nz＼N))を次で定義する。

　このときはL²(N_z＼N)の同型成分をなす。 □

　主定理3により、フーリエ展開に寄与する∈は、上の命題の条件を満たすl∈n^*に付随しているものと仮定してよいことが分かる。同命題(2)において、hとして一般化ホウィッタカー関数を取り、更に[R]、補題5.1より双射AN_z・l＝AN_n(Z)が成り立つことに留意し、上で与えた定式化に沿って正則ジーゲル保型形式fの極小放物型部分群に関するフーリエ展開を構成するとつぎが得られる。

　主定理5([1]、定理5.8参照)

　ここにである。 □

　種数3のベクトル値の場合の主結果については、本論文に譲りここでは論じない。この場合主定理3に相当するのは[2]の定理2.4、定理2.7であり、主定理5に相当するのは[2]の定理3.5、定理3.10である。

　本論文は正則ジーゲル保型形式の極小放物型部分群に関するフーリエ展開に現れる特殊関数を決定し、その一般的な形を明示することを目的とする。内容は次の2つの英文の論文から構成される。

　1.種数一般のスカラー値の正則ジーゲル保型形式の場合([1]Fourier expansion of holomorphic Siegel modular forms of genus n along the minimal parabolic subgroup)。

　2.種数3のベクトル値の正則ジーゲル保型形式の場合([2]Fourie expansion of holomorphic Siegel modular forms of genus 3 along the minimal parabolic subgroup)。

　保型形式の整数論の様々な研究においてフーリエ展開を調べることは基本的な手段でありながら、その系統的な研究は未だない。二次形式論との関係などから、所謂ジーゲル放物群にかんする正則ジーゲル保型形式のフーリエ展開は最も良く知られているものであるが、正則ジーゲル保型形式のその他のフーリエ展開は、ジーゲル放物部分群以外の極大放物型部分群に関するものが主に調べられてきて、これらは「フーリエヤコビ展開」と呼ばれ様々な関連する研究結果がある。しかしこれら以外の放物型部分群に関するフーリエ展開は多分ほとんど調べられていないように思われる。

　本論文がこれから扱う極小放物型部分群に沿ったフーリエ展開に関しては、既に著者が種数2の場合について成田自身が研究している。そしてこの研究の高い種数への拡張として得られたのが本研究[1]、[2]である。

　本論文の主結果を定式化するためにいくつかの記号等の準備をする。群G＝Sp(n;R)を次数nの実シンプレクティック群、KをGの極大コンパクト詳、G＝NAKをGの岩澤分解とする。ここでジーゲル放物群のべき単部分群N_Sを用いて、N＝N_nN_Sと分解する。但し、N_nはGL₂(R)の標準的極大巾単部分群である。巾零リー群Nの既約ユニタリー表現は、A.A.Kirillovによる構成方法がある。

　先ずフーリエ展開の一般的な定式化から思い起こそう。(,)をKの複素化K_cの有限次既約表現とし、C^∞関数f:G→を重さで＝Sp(n;Z)に関する正則ジーゲル保型形式とする。更にN_z・＝N∩とする。このときg∈Gを固定しf(ng)(n∈N)をN上の関数と見ると、f(ng)∈L(N_z＼N)と見倣すことができる。ここにL²(N_z＼N)はN_z＼N上2乗可積分関数の空間を記す。商集合N_z＼Nはコンパクトなので、この空間は次の離散的な分解をもつ([G-G-P]p.23参照)。

　$115530f29.gif$

　ここではNの既約ユニタリー表現の同型類を記し、m()＝dim_CHom_N(,L²(N_z＼N))<∞、はヒルベルト直和を表す。絡作用素の空間Hom_N(,L²(N_z＼N))の基底を$115530f30.gif$とすると、fの極小放物型部分群に関するフーリエ展開は次のように書き表される。

　$115530f31.gif$

　ここに{_Q}_{Q}はの基底を表し、(g)はfの(,M,Q)-成分を記すものとする。

　以上の定式化より、フーリエ展開を構成するには次の2つ段階を解決すればよい。

　1.$115530f32.gif$を明示的に与える。

　2.重複度m()、及びHom_N(,L²(N_z＼N))の基底を具体的に与える。

　これから主結果を述べることができる。ここでは種数一般の重さ(nより大きい正の偶数)のスカラー値の正則ジーゲル保型形式について述べる。ステップ1の(g)は、正則離散系列に対する一般化ホウィッタカー関数であることが分かるのだが、それは次のように定義される。

　定義 正則離散系列及びその極小K型に対して、写像

　$115530f33.gif$

　を、K-埋め込み:→による引き戻し写像^*:W→W・で定義する。このとき、Im^*の元を、正則離散系列に対するK-型の一般化ホウィッタカー関数と呼ぶ。

　ここで＝であることを注意する。さてここで次の関数空間を導入する。

　$115530f34.gif$

　ここに、HはのC^∞ベクトル全体を表し、(^*,)は(,)の反傾表現で、我々の扱っている場合においては(,C)と同じである。上記の一般化ホウィッタカー関数の空間は、以下の空間と同一視できる。

　$115530f35.gif$

　上記の右の条件から導かれる微分方程式を解くことにより、つぎの定理を得る。