1885年,H.Poincareは円周の向きを保つ同相写像の共役不変量である回転数を定義した.彼はこの不変量が多くの力学系的情報を含んでいることを示した.

定理(Poincare)fを円周の向きを保つ同相写像とする.このときfの回転数ρ(f)が有理数であることとfが有限軌道を持つこととは同値である.より詳しく言うと,ある互いに素な整数p,qに対してρ(f)=p/qmodZとなることとfがq点からなる軌道を持つこととは同値である.

回転数により,円周の向きを保つ同相写像全体のなす群Homeo+(S1)からR/Zへの写像が定義されるが,これを回転数関数と呼ぶことにする.この写像は,Homeo+(S1)の各元fと各整数n∈Zに対してρ(fn)=np(f)であるという意味で"斉次"であるが,準同型ではない.

我々は,Homeo+(S1)の部分群の上での回転数関数の振る舞いおよびその力学系との関係に興味がある.上記のPoincareの定理より,Homeo+(S1)の部分群が有限軌道を持つならば回転数関数による像が有限であることが従う.よって,Homeo+(S1)の各部分群rに対して,以下のうちの唯一つが成立する.

(i)rは有限軌道を持つ.

(ii)rは回転数関数による像が無限である.

(iii)rは回転数関数による像が有限であり,有限軌道を持たない.

上記の定理により,rが巡回群であるときには(iii)は起こらない.しかし,たとえrが円周の向きを保つ実解析的微分同相全体のなす群Diffω十(S1)の部分群であると仮定しても(iii)を満たすものは存在する.そのような部分群の典型的な例は,有限生成かつ非初等的なFuchs群である(命題5.1).

この論文の目的は,Diffω十(S1)の部分群であって回転数関数による像が有限であり有限軌道を持たないものに対する制約条件を与えることである.例えば,そのような部分群は円周上のどの確率測度も保たないことを示すことができる(命題2.4).

我々の研究の動機の一つは,Fuchs群の理論の中にある.上半平面の理想境界と円周を同一視することにより,PSL(2,R)をDiffω+(s1)の部分群と見なす.T.J¢rgensenの結果を用いることにより,PSL(2,R)の部分群であって回転数関数による像が有限であり有限軌道を持たないものはPSL(2,R)の離散部分群であることが証明できる(命題5.1).この事実によ.り,Diffω+(s1)の非離散的な部分群を研究することが動機付けられる.

非離散的な部分群を考えるには,Diffω+(s1)に位相を与える必要がある.この論文では,01粒相を考えるが,その理由は以下で明らかになる.

E.Ghysは,Diffω+(S1)の非可解な部分群であって恒等写像に十分近い元で生成されるものはC∞一位相に関して非離散的であることを示した.そこで,恒等写像に近い元で生成される部分群の二つの性質を思い出しておく.

一つは,そのような部分群であって有限軌道を持たないものについては全ての軌道が稠密になるというG.Duminyの未出版の結果である.実は,この結果は02一微分同相写像のなす群に対するものであり,その証明が一般的な仮定を付加した下でA.Navasにより再構成されている.

もう一つは,そのような部分群の元の列の一種の"極限"といえる局所ベクトル場が存在するというJ.Rebeloの結果である.彼の議論は,複素平面上の局所正則微分同相の原点での芽のなす群に関する中居の結果に基づいている.

これら二つの性質は,Diffω+(s1)の部分群であって01一位相に関して非離散的なものに引き継がれる(命題3.2,3.9).これが,01一位相を考える理由である.これらの性質を利用して,以下のような主結果を示す.

定理1.1rをDiffω十(S1)の部分群であって01一位相に関して非離散的なものとする.このときrの回転数関数による像が有限であることとrが有限軌道を持つこととは同値である.

この結果を用いて,Diff十(S1)の部分群であって回転数関数による像が有限であり有限軌道を持たないものに対する代数的な制約条件を導き出す.G.Maxgulisの結果によれば,Homeo+(S1)の各部分群は,円周上のある確率測度を保つかあるいは非可換自由部分群を含んでいる.したがって,Homeo+(S1)の部分群であって回転数関数による像が有限であり有限軌道を持たないものは非可換自由部分群を含んでいる.ここでHomeo+(S1)をDiffω+(S1)に置き換えると,定理1.1を適用することにより,以下のようなより強い代数的な制約条件が得られる.

系12rをDiffω+(S1)の部分群であって回転数関数による像が有限であり有限軌道を持たないものとする.このとき,以下のことが成り立つ.

(i)rは01一位相に関して離散的である.

(ii)rの各部分群r'に対して,以下のいずれかが成立する。

(α)r'は有限群である。

(b)r'は有限指数の無限巡回部分群を含んでいる.

(c)r'は非可換自由部分群を含んでいる.

双曲群に対して,上の系の(ii)と同様の主張が成立することが知られてい'る.したがって,Diffω+(s1)の有限生成部分群であって回転数関数による像が有限であり有限軌道を持たないものは双曲群であるかどうかを知ることは興味深いであろう.

我々は,定理1.1及び系1.2はDiffω+(S1)を円周の向きを保つC∞-微分同相全体のなす群Diff∞+(S1)に置き換えると成立しないことも示す(注意4.4).

円周の微分同相は、天体力学との関連で力学系の記述のために20世紀初頭に研究が始まっているが、それらのなす円周の微分同相群については、近年、余次元1葉層構造論と関係する群作用の定性的理論、群の幾何的理論、ループ群の理論などで多くの研究がなされている。

論文提出者松田能文が対象としているのは、円周の微分同相のなす群と回転数関数による像の関係である。回転数ρは円周の向きを保つ同相に対して、ボアンカレにより120年前に与えられたものである。円周の同相hに対して、ρ(h)はR/Zに値を持ちhの平均的な回転の量を与えるものであるが、特にその値が有理数modZであれば、hに周期軌道があることを示している。また、ρは円周の向きを保つ同相群Homeo+(S1)上の連続関数である。円周の微分同相のなす群rに対して、R/Zの部分集合ρ(r)e{ρ(h)|h∈r}を考えると、rが有限軌道を持てば、すなわち、円周の点でrによる軌道が有限集合となるものがあれば、回転数関数による像ρ(r)が有限集合であることはすぐに分かる。一方、ρ(r)が有限集合であるが、有限軌道を持たない例はフックス群などに存在している。論文提出者が研究したのはそのようなrが円周の微分同相群の離散部分群となりうるかどうかである。円周の微分同相群に含まれるPSL(2;R)の部分群に対しては、ユルゲンセンの結果から、ρ(r)が有限集合であり、rが有限軌道を持たないならば、rはPSL2;R)の離散部分群すなわちフックス群であることが分かる。

論文提出者松田能文は、離散部分群という性質に着目し、ユルゲンセンの結果を円周の向きを保つ実解析的微分同相群Diffω+(S1)に拡張する次の定理を示した。

定理。rをDiffω+(S1)の部分群であってC1-位相に関して非離散的なものとする。このときrの回転数関数による像ρ(r)が有限であることとrが有限軌道を持つこととは同値である。

このことから、回転数関数による像ρ(r)が有限であり、有限軌道を持たないような実解析的微分同相からなる群の重要な分類定理が得られる。

定理。rをDiffω+(S1)の部分群であって回転数関数による像が有限であり、有限軌道を持たないものとすると、まず(i)rは01一位相に関して離散的であり、さらに(ii)rの部分群は(a)有限群、(b)有限指数の無限巡回部分群を含む群、(c)非可換自由部分群を含む群のいずれかとなる。

この性質(a)、(b)、(c)は、幾何学的群論で研究されている双曲群に対して知られているものであり、非常に興味深い結果である。

リー群の離散部分群についての研究は、近年、小林俊行の研究などにより大きく発展をしている。微分同相群の中の離散部分群は重要な研究対象であるが、これまでには、デュミニ、ジスによる微分同相群の恒等写像に近い元で生成される群についての非離散性の研究、中居、レベロによる非離散群の元の列の局所的な収束の研究など、部分的な研究が行われていただけであった。論文提出者の結果は、微分同相群の中の離散部分群についての初めての結果と考えられる。

さらに、論文提出者は、上の定理は、Diffω+(S1)を、円周の向きを保つ000級微分同相群Diffω+(S1)に置き換えると成立しないことを第2種フックス群とその極小集合の補集合に台を持つフローを用いて実例を構成し示している。

定理の証明は、非離散性、ρ(r)の有限性を仮定して、rの元の列で固定点を持たず、局所的に固定点を持つ微分同相に収束するものの存在を示すことでなされる。そのために、論文提出者は、中居、レベロの結果と同様な結果、すなわち、非離散的ならば局所的には極限を含むフローが構成できることをこの仮定の下で証明して用いている。これは、無限次元リー群である実解析的微分同相群とそのリー環すなわち、円周上の実解析的ベクトル場のなすリー環の対応を考えると、非離散性から存在が期待されるリー環の元が局所的に存在することを示しているもので、これからの微分同相群の離散部分群、非離散部分群の研究において基本的な結果である。

このように、論文提出者の結果は微分同相群の離散部分群の研究を創始する重要な意味を持つものである。よって論文提出者松田能文は、博士(数理科学)の学位を受けるにふさわしい充分な資格があると認める。