回転対称性や平行移動による不変性など,何らかの意味で対称性をもつ方程式において,解が方程式と同じ対称性をもつかどうかを調べることは,生物学や物理学への応用上も興味深いことである.無論,考察の対象をすべての解に広げると,上に述べたような「対称性の遺伝」はほとんど期待できなくなるので,解のクラスを絞り込む必要がある.本論では,安定解に対象を限定し安定性と対称性の関係について考えていく.

　これまでに,ある種の比較定理の成り立つ系においては,安定解への対称性の遺伝が常に起こることがわかってきている.Casten-Holland(1978),Matano(1979)は,有界領域上の半線形拡散方程式における安定平衡解への回転対称性の遺伝について論じた.その後,この結果はさらに広いクラスの方程式に対しても成り立つことがわかり,現在では,Mierczynski-Polacik(1989),Takac(1992)により強順序保存力学系のクラスに拡張され一般論にまとめられている.具体的に述べると,連結なコンパクト群の作用している強順序保存力学系においては安定解は群の作用に関して不変(すなわち対称)であることが証明されている.

　本研究では,これまで知られていた結果を非コンパクト群が作用する順序保存力学系(’強’順序保存性は仮定しない)に拡張し,

　安定性⇒対照性あるいはある種の単調性

　という普遍的な図式が成り立つことを示す.強順序保存性の仮定を弱めることにより,退化した方程式や非有界領域上の方程式を扱うことができるようになる.その応用として,本文3節(応用例1)において,これらの方程式の安定平衡解の回転対称性を考察する.また,非コンパクト群への拡張により,群Gとして平行移動群を扱うことができるようになる.このことを用いて,(応用例2-3)において,二種競争系の進行波解および曲面の発展方程式の定常解の安定性解析に応用する.

　Xは順序距離空間,すなわち,(閉)半順序構造()をもつ完備距離空間とする.Xの任意の元u,vに対し,これらの最大下界u∧vが存在して,写像(u,v)u∧v:X×X→Xは連続であると仮定する.Xの距離をdで表し,uvかつu≠vをuvと表す.

　Tは以下の仮定(T1)-(T3)をみたすXからXへの写像とし,その半群{Tⁿ}_{n＝0,1,2,…}を考える.

　(T1)順序保存性(uv⇒TuTv).

　(T2)上半連続性(点列{u_m}_m,{T(u_m)}_mが収束するなら,.

　(T3)軌道{Tⁿu}_{n＝0,1,2,…}が単調減少(nn’⇒TⁿuT^n’u)でかつ有界なら,相対コンパクト.

　GはXの元に作用する連結で距離付け可能な位相群で次をみたすとする.

　(G1)順序保存性(uv⇒gugv,∀g∈G).

　(G2)写像Tとの可換性(gTu＝T(gu),∀g∈G).

　定義.{T}_{n＝0,1,2,…}の平衡点∈Xが’下から安定’であるとは,任意の>0に対しある>0が存在して,d(v,)<をみたす任意のvに対し,d(Tⁿv,)<,∀n∈Nが成り立つことをいう.

　以下,(e)はGの単位元eの-近傍を表すものとする.次の結果を得た.

　主定理A.(本論Main Theorem A){Tⁿ}_{n＝0,1,2,…}の平衡点が,以下をみたすとする.

　(1)は下から安定.(2){Tⁿ}_{n＝0,1,2,…}の任意の平衡点uに対し,ある>0が存在してgu,∀g∈(e).このとき,gまたはg,∀g∈Gが成り立つ.

　系1.(本論Corollary 2.4)は上の定理の通りとし,さらに群Gがコンパクトであるとする.このとき,はG-不変,すなわち,g＝,∀g∈Gが成り立つ.

　系2.(本論Corollary 2.5)は上の定理の通りとし,さらにG＝Rとする.このとき,はG-不変であるか,または,gはg∈RのX値関数として狭義単調(増大または減少)である.

　注意.上で述べた定理や系は,連続力学系の場合にも,ほとんどそのままの形で成立する(本論2.2節に対応).このことに着目して,本文3節で,偏微分方程式への応用を与える.以下,連続力学系に対する結果をそれぞれ主定理B,系1’,系2’と表す.

　(応用例1.)単独の反応拡散方程式

　を考える.ここで,は滑らかな境界をもつRⁿ内の有界領域とし,Dirichlet境界条件を課すものとする.また,m1は定数で,fはf(0)＝0,f’(0)≠0をみたすC¹級の関数とする.群G＝回転群として系1’を適用することにより,次の定理を得る.ただし,m>1のときには,非負解のみを扱うものとする.

　定理3.1(本論Theorem 3.1,3.3)が回転対称性をもつ領域ならば,方程式(1)の安定平衡解はすべて回転対称な関数である.

　定理3.1は,m＝1のとき,すなわち,

　に対してはすでに知られている事実(1978 Casten-Holland,1979 Matano)であるが,それをm>1のとき(つまり,方程式(1)が退化しているとき)に拡張した結果である.また,方程式(2)において,が非有界領域である場合にも,関数fがf’(0)<0をみたせば,同様の結果―定理3.2―が成り立つ.

　定理3.2(本論Theorem 3.5)が回転対称性をもつ領域ならば,

　をみたす方程式(2)の安定平衡解はすべて回転対称な関数である.

　(応用例2.)二種競争系の反応拡散方程式

　の進行波解を考える.方程式(3)が競争系とは,f_v(u,v),g_u(u,v)0となることをいう.方程式(3)の解(u,v)で

　の形に表せる解を速度cの進行波解という.本論では以下の条件をみたすもののみを扱う.

　ただし,(u_-,v_-),(u₊,v₊)は常微分方程式の意味で安定な平衡解であると仮定する.関数,-がともに単調増加(または,ともに単調減少)関数であるときに進行波解は’単調’であるという.群G＝平行移動群とおくと,系2’から次が導かれる.

　定理3.3(本論Theorem 4.6)安定な進行波解は単調である.

　これより,孤立進行波(ソリトン)やその他単調でない進行波解はすべて不安定であることがただちにわかる.

　(応用例3.)Rⁿ上の超曲面の発展方程式

　を考える.ここで,nは超曲面の外向き単位法線ベクトル,Vは超曲面の外向き法線方向の速度を表す.方程式(4)は曲率に依存する超曲面の運動を一般的な形で書き表したものである.(例えば平均曲率流の場合はV＝(1/(n-1))tr(∇n)と書き表される.)また,関数fは滑らかとし,方程式(4)は初期値問題として適切となるよう,強放物型であることを仮定する.群G＝平行移動群とおき主定理Bを適用することにより,次を示せる.

　定理3.4(本論Corollary 5.2)滑らかな定常閉曲面は不安定である.

　注意.本文2節の離散力学系に対する結果を用いると,上の応用例1-3の結果を非自励系(ただし,時間tに関する周期性をもつ方程式)に拡張することができる.例えば,定理3.4は

　という形の方程式の周期解についても成り立つ(本論Theorem 4.1).