学位論文要旨



No 214295
著者(漢字) 森永,聡
著者(英字)
著者(カナ) モリナガ,サトシ
標題(和) システムの部分系への分割法に関する研究 : ニューラルネットワークのダイナミクスとフォールトトレラントシステムの構造の解析
標題(洋)
報告番号 214295
報告番号 乙14295
学位授与日 1999.04.15
学位種別 論文博士
学位種類 博士(工学)
学位記番号 第14295号
研究科 工学系研究科
専攻 情報工学専攻
論文審査委員 主査: 東京大学 教授 吉澤,修治
 東京大学 教授 岡部,洋一
 東京大学 教授 南谷,崇
 東京大学 教授 中村,仁彦
 東京大学 教授 合原,一幸
内容要旨

 本研究では,複雑なシステムをその動作パターンを用いて部分系に分割する方法を提案し,それを用いて実際に自己連想ニューラルネットワークのダイナミクスやフォールトトレラントシステムの構造を解析していく.

 提案する分割法においては,システムの動作パターンに注目した時にお互いに区別する必要のない要素が一つの部分系として定義される.逆に,この分割はそれを生成するのに用いた動作パターンに関する情報を全て持っていて,分割の仕方が与えられれば元の動作パターンを復元する事が出来る.すなわち,提案する分割法は動作パターンの観点から最も自然なシステムの粗視化の方法になっている.また,各部分系に対してはシステマティックに定義されたインデックスがつけられ,動作パターンに着目した時に各部分系間がどのような関係になっているかや,各部分系が全体系に対してどのような関係を持っているかの情報が,そのインデックスのみから抽出できるようになっている.このため,これらの関係について体系的にすっきりと解析を行うことが可能である.この部分系への分割法は動作パターンが定義できるシステムに対して,強力な解析手法となるものである.

 自己連想ニューラルネットワークに対しては記憶パターンを用いてネットワークを部分系に分割し(図1),各部分系の状態更新の様子を調べる事によってダイナミクスに関する基本的な問題を解決した.安定性の問題に関しては,自己結合を持つ自己連想ニューラルネットワークのダイナミクスはニューロンの出力関数の形に関わらず本質的にグラディアントフローであり,周期的な挙動やカオス的な挙動は起こさない事を証明した.誤想起の問題に関しては,まず,入力パターンにおいて各部分系のニューロンの内部状態が揃っているとかなりの確率で誤想起が生じる事と,確率的に入力パターンの各成分を変換する事で誤想起が抑えられる事を数値実験によって示した.次に,与えた記憶パターン数が少ない時に,誤想起の発生のメカニズムと入力パターン変換によってそれが抑制される仕組みを,各部分系のダイナミクスを追いかける事で理論的に解明した.偽記憶の問題に関しては,自己結合の強度を調節する事でネットワークダイナミクスの任意の安定平衡点が消去できる事を理論的に示し,数値実験によって,与えた記憶パターンは安定平衡点になっているが典型的なものとしてよく知られているタイプの偽記憶は安定平衡点にならないような自己結合の強度の範囲が存在する事を示した.また,部分系への分割において全ての部分系が空集合でない場合に対して,自己連想の機能は保ったまま全ての偽記憶を消去するような自己結合の強度を理論的に導出した.記憶容量の問題に関しては,確率的自己連想記憶ニューラルネットワークにおいて各部分系の平衡状態での様子を調べる事によってネットワークの記憶容量を求めた.

図1:ニューロンの分割

 フォールトトレラントシステムに対しては極小パスを用いてシステムを部分系に分割し(図2),各部分系のハードウェア量や信頼度を用いて冗長性固定信頼度最大化問題を定式化し一次の最適解を与えた.まず,与えられた冗長性の下での信頼度最大化問題を,各部分系のハードウェア量を変数とし信頼度を目的関数とする非線形計画問題として定式化した.次にこの非線形計画問題を平面のパターンによる部分領域への分割(図3)の問題として解釈することによって,一次の意味で最適な解を導出した.解析の結果得られた一次最適なシステムは,従来の直列並列ブロック等によるモデル化の方法では表現できない構造を持っていた.さらにこの結果の応用として,フィールド・プログラマブル・ゲートアレイ(FPGA)のpバージョン・コンフィギュレーション(FPGA上に構築する回路のコンフィギュレーションのp通りの別解.一つの回路に対して,前もって複数のコンフィギュレーション方法を求めておき,FPGA上に故障が発見された場合にはその部分を使用していないものを一つ選択してロードする事により,故障の発見から回路の構築までの時間を短くする事ができる.)の信頼度最大化問題において,コンフィギュレーション設計のための指針を提案し,簡単なFPGAの回路レイアウトアルゴリズムに組み込んで実験を行う事でその有効性を検証した.

図2:フォールトトレラントシステムの分割図3:平面の分割
審査要旨

 本論文は「システムの部分系への分割法に関する研究-ニューラルネットワークのダイナミクスとフォールトトレラントシステムの構造の解析-」と題し7つの章および2つの付録からなる。

 近年、脳やコンピューターネットワーク、生態系や経済システムといった複雑な系の振舞を理解することを目標とした研究が盛んになり、システムを構成する要素間の相互作用を体系的に扱う手法の必要性が高まってきた。

 本論文は、これらの複雑なシステムをその動作パターンに注目することによって部分系へ分割し各部分系に一定の法則でインデックスを与えることでそれらの間の相互作用を体系的に解析することを提案し、実際にその手法に基づいてニューラルネットワークのダイナミクスとフォールトトレラントシステムの構造に関する基本的な問題を解決することを試みたものである。

 第1章は「序章」で問題の背景、本論文における解析の方針、および論文構成について述べている。

 第2章「システムの部分系への分割」では,これらの解析において共通の手順で行われる「動作パターンによるシステムの部分系への分割」が定義されている。さらに、本論文で扱う2つのシステムに対し、その手順にもとづいた分割例がまとめられている。

 第3章「アナログ型自己連想ニューラルネットワークのダイナミクス」では,一次減衰項をもつアナログニューロンからなる自己連想ニューラルネットワークが記憶パターンとして与えられたニューロンの発火パターンを用いて部分系に分割され、パラメータと称する変数を用いてそのダイナミクスが詳しく解析されている。まず、ネットワークダイナミクスのアトラクタの性質とそこへの近づき方を調べることによってダイナミクスの安定性が論じられ、周期解やカオスなどのアトラクタは存在しないことが示される。次に、誤想起の問題とその改善方法について論じられ、誤想起は特定のタイプの入力に対して高い確率で生じること、入力パターンを単純な確率的方法で変換することで避けられることが示される。また、偽記憶の問題とその改善方法に関しても論じられ、各ニューロンの自己結合の値を調整することによって、与えた記憶パターン以外の安定平衡点をネットワークダイナミクスから消去できることが証明される。

 第4章「確率型自己連想ニューラルネットワークの平衡状態」では、確率型ニュ-ロンからなる自己連想ニューラルネットワークが与えられた記憶パターンを用いて部分系に分割され、各部分系の状態の平衡分布を調べることによってネットワークの記憶容量が近似的に計算されている。

 第5章「フォールトトレラントシステムの領域分割モデル」では、フォールトトレラントシステムを極小パスを用いて部分系に分割することにより冗長性固定信頼度最大化問題が定式化され、それを平面の分割最適化問題に帰着させることによって一次の最適解が与えられている。まず最初に、システムの信頼度や冗長性が各部分系の信頼度やハードウェア量を用いて定義され、冗長性固定信頼度最大化問題が非線形計画問題として定式化される。次に、システムの構造を数学的に表現するモデルとして「領域分割モデル」が提案される。このモデルにおいては、システムの各部分系の関係が、平面上に描かれたパターンによる平面の部分系への分割によって表現され、冗長性固定信頼度最大化問題は平面上のパターンの最適化問題に帰着される。さらに、このパターン最適化問題を図形的に解析することによって一次の最適解が与えられる。この解は、各部分系のハードウェア量がどのような関係を持つときに、指定された冗長性の下で最も信頼度が高くなるかを与えるものとなっている。また、この構造の二次の最適性についても説明されている。

 第6章「pバージョン・コンフィギュレーションの信頼度最大化」では、前章の応用として、フィールドプログラマブルゲートアレイ(FPGA)のpバージョン・コンフィギュレーションの信頼度最大化問題が扱われている。まず、FPGA上の回路に耐故障性を持たせるために回路のコンフィギュレーションのp通りの別解を前もって生成しておくことが提案され、それらp通りの別解がpバージョン・コンフィギュレーションと定義される。次に、pバージョン・コンフィギュレーションによるFPGAの分割が前章の解析で得られた一次最適な構造に近くなるような仕組みを組み込んだコンフィギュレーションのレイアウト・アルゴリズムが提案され、単純化したFPGAに対して数値実験によって実際に信頼度が高くなることが示される。

 第7章は「結論」で、本論文全体を通したまとめと、今後の課題としてこの手法のさらなる応用分野の展望等が述べられている。

 付録Aではアナログ記憶パターンの場合への拡張について述べられ、付録Bでは第5章における信頼度と非線形計画問題の一次および二次の最適解の具体的な導出がなされている。

 これを要するに、本論文は「動作パターン」が定義できるシステムの統一的な解析方法を提案し、実際にそれを用いて自己連想ニューラルネットワークとフォールトトレラントシステムにおける基本的な問題を解決したもので、情報工学に貢献する所が大きい。

 よって本論文は博士(工学)の学位論文として合格と認める。

UTokyo Repositoryリンク