一般に，離散的な力学系とは，Eを集合，F:E→Eを写像としたとき，各点x〓Eに対してxの軌道x,F(x),F2(x)=F(F(x)),...の様子を調べる研究分野である．この論文ではE=C2,Fが多項式自己同型の場合の力学系を調べている．

複素数の力学系としては一変数の多項式・有理関数の研究が以前から発展していたが，多変数の力学系はここ十数年ほどで急激に進歩している分野である．これは，一変数の場合に利用していた複素関数論が多変数の力学系に応用できなかったため研究が遅れていたが，一変数でポテンシャル論の適用が可能なことがわかり，多変数で多重ポテンシャル論が導入されたことが大きい．それについては，Bedford-Smillie,Forn〓ss-Sibonyらの貢献が大きく，実際，この論文でも多重劣調和関数を多用している．

多変数の複素力学系の中で，C2での多項式自己同型の作る力学系は最も単純で基本的なものである．ただし，未解決の問題が数多くあり，また，物理学や実力学系でも問題になっているHenon写像がこの力学系に含まれているので，いろいろな分野との関連性がある．

問題設定．以下，z=(x,y)〓C2という記号を使う．一般Henon写像をgj(x,y)=(y,pj(y)-δjx)とおく．ただし，degpj=dj>1,δj≠0とする．さらに，F=gmo・・・og1,d=d1・・・dmと定義する．我々はこのFの作る力学系を研究する．これは，Friedland-Milnor(1989)が，C2の多項式自己同型の力学系を整理・分類し，このFの力学系がわかれば十分であることを示したからである．

一変数の場合の充填Julia集合に対応するものとして，〓を定める．Green関数G±を次のように定義する．〓このとき，G±は非負の連続な多重劣調和関数であり，G±(z)>0はz〓C2＼K±と同値であり，G±＼C2＼K±は多重調和になる．次にd(,)をC2の適当な距離とし，X⊂C2に対し，〓をそれぞれ安定集合，不安定集合と呼ぶ．次にa〓C2を固定点とし，DF(a)の固有値λ,λ'が｜λ'｜<1<｜λ｜を満たすときaをsaddle pointという．すると，saddle point aに対し，非特異な全単射正則写像H:C→Wu(a)で〓を満たすものが存在する．これにより，Wu(a)を不安定多様体と呼ぶことができる．Ws(a)も同様に安定多様体となる．

主な結果．上の写像をH(t)=(h1(t),h2(t))と表す．

定理．h1,h2は整関数であり，〓が成り立つ．特に，h1,h2は超越整関数になる．

定理．P(x,y)を非定数の2変数多項式とするとき，PoHは超越整関数になり，必ず可算無限個の零点を持つ．特に，Wu(a)は任意の一次元代数多様体と可算無限個の点で交わる．さて，K=H-1(K+)をunstable sliceと呼ぶ．従来のYoccozの不等式の証明ではKの連結性が仮定されていたが，次の結果を得た．

定理．unstable sliceの原点を含む連結成分が一点でないなら，Kに対してcombinatorial rotation number p/q,サイクル数Nが定まり，適当な分枝γ=logλに対し，Yoccozの不等式〓が成り立つ．

なお，この証明は一変数の場合でも新しい結果であり，次を得た．P:C→Cを多項式とし，K={x〓C|{Pn(x)|n〓N}が有界}，aをPの固定点で|P'(a)|>1を満たすものとする．

定理．Kのaを含む連結成分が一点でないなら，Yoccozの不等式が成り立つ．

さて，K+とsaddle pointの関係を見よう．aをsaddle pointとする．Ws(a)に接触する集合はiterateと共にaに接近し，極限ではWu(a)に衝突して跡を残す．この議論により次を得る．

命題．Ws(a)のある点がint K+からaccessibieならば，Kの原点を含む成分は一点ではない．

ところが，intK+が空でないにもかかわらず，Wu(a)でYoccozの不等式が成り立たない例が存在する．その一つがF(x,y)=(y,y2-2-0.7x)である．実際，x=y=-0.8はsinkなので，intK+は空でない．またx=y=2.5はsaddle pointで，Yoccozの不等式が成り立たないことも容易に示される．さらに，Ws(a)は∂K+で稠密であることが知られており，その任意の点がintK+からaccessibleでない奇妙な例である．また，sinkの吸引領域はFatou-Bieberbach domainなので，擬凸でもある．

以下，|δ|＜1と仮定する．一般に，intK+の各成分をFatou成分と呼ぶ．Bedford-Smillie(1991)は次の結果を得た．

定理．Fatou成分は次のように分類される．〓この分類にはまだ不明な点が多いが，特にHermanシリンダは存在するかどうかわかっていないので，その構造を調べることにする．

以下の性質を満たすH⊂C2をHerman環という．Hは周期pの周期集合である．A={ζ〓C|r1<|ζ|<r2}を円環としたときψ:A→Hという全単射の正則写像が存在する．さらにある無理数θに対しb=eiπθとおくと，ψはfp(ψ(ζ))=ψ(bζ)をみたす．ただし，Hは包含関係について最大のものをとるとする．

一般にX⊂C2に対しWs0(X)=∪c⊂X:compactWs(C)と定める．このとき，Herman環Hに対しWs0(H)をHermanシリンダという．

まず，Hermanシリンダの構造を3通りに分類した．a〓Aに対し，Kaを対応するstable sliceとする．このとき

命題．Kaは (1)Kaはコンパクトな成分を持たない，(2) Kaの原点を含む連結成分は非有界かつ，Kaはコンパクトな成分を持つ， (3)Kaはコンパクトな成分しか持たない． と分類され，さらに|ζ|=|a|なる任意のζ〓Aに対し，KaとKζは同じ分類に入る．さらに，次の部分的結果を得た．

定理．上の分類の(1)は実際には存在しない．

この定理から特にKaが連結ではあり得ないこともわかる．

論文提出者、神貞介は、提出論文においてC2の上の多項式自己同型写像（特に一般Henon写像）の定義する力学系の研究を行った．特に鞍点型不動点の不安定多様体上のジュリア集合のスライスの連結度と，不安定方向の固有値の間の関係を与える「Yoccozの不等式」を得た．彼の値分布論を用いた証明は，オリジナルの1次元の場合のYoccozの不等式についても新証明を与えるもので，連結性に関する仮定を弱くすることを可能にした．また，存在・非存在について未解決であるHerman円環・円筒についてその横断的スライスについて研究し，Herman円環が存在するとした場合のスライスの特性に関する結果を得た．

研究の背景

一般にカオス的な挙動を示す力学系の研究では，その軌道や不変集合，分岐の様子について詳細な結果を得ることが難しい場合が多いが，複素力学系の場合は複素解析的手法を用いてより精密な結果を得られる場合がある．特に1次元複素力学系では，擬等角写像論，単葉関数論，ポテンシャル論，タイヒミュラー空間論など様々な複素解析的手法により，個々の写像や，写像族の分岐などについて活発な研究が行われている．ところが，高次元（2次元以上）の複素力学系については，これらの手法のうち大部分が適用できなくなり，数多くの問題が未解決のまま残されている．高次元複素力学系で最もよく研究されているのは，C2の上の多項式自己同型写像のうち非常に簡単な場合を除くと，一般Henon写像と呼ばれる，g(x,y)=(y,p(y)-δx) (p(y)は多項式，δ≠0は定数）の形の写像のいくつかの合成に帰着する．一般Henon写像に関してほとんど唯一といって良い成功した例は，Bedford-Smillie,Fornaess-Sibonyらによる多重ポテンシャル論を利用した研究で，軌道の無限遠への発散の速度から定義されるポテンシャルから不変カレントおよび不変測度を構成することに成功している．しかし，C2を力学系がカオス的挙動をするジュリア集合と，比較的安定な挙動をするファトゥー集合に分けたときのそれぞれの集合の構造などについては，未解決の問題が多い．

鞍点型不動点の不安定多様体

一般Henon写像F:C→Cが鞍点型不動点a（不動点であって，そこでのFの微分の固有値が1個は単位円の外に，もう一個は単位円の内部にある場合）を持つとき，F-1によって軌道がaに近づく点全体は，はめ込まれた解析的多様体になり，不安定多様体Wu(a)と呼ばれる．Wu(a)はC上の正則関数の組H(t)=(h1(t),h2(t))によりパラメトライズされ，その上の力学系の作用は，t-平面上の不安定固有値λ倍と共役になる．

論文提出者は，h1(t),h2(t)は，位数がlogd/log|λ|（ただし，dはFの次数）の超越整関数になることを示し，さらに任意の定数でない2変数多項式P(x,y)に対し，PoHはPicardの意味の除外値を持たないことを示した．これは，不安定多様体Wu(a)が任意の1次元代数多様体と無限個の交点を持つことを意味する．

Yoccoz型不等式

1変数多項式P(z)の定義する複素力学系に関し，Yoccozは次のような結果を得た．P(z)のジュリア集合が連結のとき，P(z)の反発的不動点aに対し，有限個の外射線（C＼Kpをリーマン写像により単位円の外部に写したとき，単位円に直交する半直線に対応する曲線）が存在し，それらは円周上の回転と同じような配列で互いに移りあう．この回転数（有理数p/qとなる）を不動点aの組み合わせ的回転数と呼ぶ．このとき．λ=P'(a)とおき，logλの適当な枝を選ぶと，次の不等式（Yoccozの不等式）が成立する．〓この結果は，例えば，2次多項式のパラメータ空間に現れる分岐集合であるMandelbrot集合Mの構造の解析に応用され，最も重要な未解決問題の一つであるMの局所連結性予想を，各双曲的成分の境界上で示すのに用いられた．

論文提出者は，これを一般Henon写像の鞍点型不動点に拡張すると共に，連結性に関する仮定を弱めることに成功した．まず，一般Henon写像F:C→Cに対し，軌道が（時間の前方にも後方にも）有界になる点の全体をKとする．鞍点型不動点aに対し，その不安定多様体をパラメトライズするH:C→C2をとり，K=H-1(K)とおく．Kがbridgedとは，0を含むKの連結成分が1点ではないことをいう．（論文提出者は同値な条件をいくつか与えている．）Kがbridgedのとき，論文提出者はC＼Kが有限個の連結成分からなり，それらは，aの不安定固有値λ倍により，円周上の有理数回転と同じような配列で互いに移りあうことを示し，次の不等式を得た．〓ここで，p/qは組み合わせ的回転数，NはC＼Kの成分からなるサイクルの数である．

論文提出者の証明は，前方ジュリア集合K+に対応するグリーン関数G+(x,y)をとり，劣調和関数u(t)=G+oH(t)を考え，これに劣調和関数の遠方での挙動に関するTsujiの定理（劣調和関数の値分布論）を適用することにより求める不等式を得るものであった．以前にもHenon写像に関するYoccozの不等式は，Bedford-SmilleやBuff-Hubbardにより試みられてはいたが，それらはKが連結という仮定をおくものであったが，bridgedという仮定はそれを大幅に弱めるものである．さらに，同じ方法は，1変数のオリジナルのYoccozの不等式にも適用でき，仮定を連結からbridgedに置き換えることが可能になった．1変数の多項式について言えば，ジュリア集合が連結であるためには，全ての臨界点が充填ジュリア集合に含まれる必要があったが，1個しか臨界点が充填ジュリア集合に含まれない場合でもbridgedになりうる．このことからもYoccoz不等式の適用範囲が格段に拡がったことがわかる．

Herman円環の存在問題

1変数の複素力学系の研究では，Sullivanによるファトゥー集合の分類が一つの節目であり，それにより個々の写像の特性の研究が大きく進んだ．2変数以上，例えば一般Henon写像でも，同様の結果を得ることは非常に重要であると思われるが，様々な困難により完全な解決には至っていない．その中の一つの問題が，Herman円環の存在問題である．Herman円環とは，1次元部分多様体Aで，その上の力学系Fの作用が円環{1<|z|<R}上の無理数回転z→e2πiθz（θは無理数）と共役なもので，さらに，Fが体積縮小の場合には，Aのある近傍上の軌道がすべてAに収束するものを言う．（ただし，このような極大なものをとり，円盤に拡張されてしまうものは除く．）1変数多項式の場合には最大値の原理から円環教のファトゥー成分の非存在が示されており，一般Henon写像でもHerman円環は存在しないのではないかと予想されているが，現在まで未解決である．

論文提出者はこの問題に関し，非存在を証明しようとして，完全な解決には至らなかったが，部分的な結果を得た．その手法は，以前の不安定多様体に関する結果を拡張するものである．まず，体積縮小の一般Henon写像にHerman円環が存在すると仮定し，Herman円環に横断的な方向に一般化された不安定多様体を構成し，そのパラメータ付けHa(t)を得た．（ここでaはHerman円環上の1点）このパラメータ付けに関し，前と同様にKaを定義し，その連結性に応じて3通りに分類した．すなわち，(1)Kaはコンパクトな成分を持たない． (2)Kaの原点を含む連結成分は非有界，かつKaはコンパクトな成分も持つ． (3)Kaはコンパクトな成分しか持たない． このうち，論文提出者は(1)の場合が起こりえないことを示した．これは完全な解決ではないが，何も知られていなかったHerman円環の問題に関する重要なステップであると考えられる．

これらの結果は今後の複素力学系研究において重要な意義をもつものと思われる。よって論文提出者，神貞介は，博士（数理科学）の学位を受けるにふさわしい充分な資格があると認める．