概要

神経系は情報処理に特化した機能を持つ点において非常に個性的な生体システムである.神経系の用いる情報処理のメカニズムを明らかにすることは神経科学の最も重要な問題の一つである.そこで我々は神経細胞の行う情報処理メカニズムの解明ため,モデル神経細胞から構成されるシンプルなネットワークにおけるパケット伝播の挙動を詳細に研究した.一様な結合強度のフィードフォワードネットワークにおけるパケット伝播の挙動は盛んに研究されている.しかし,実際の神経細胞ネットワークのような,結合が非一様な場合の研究は十分ではない.特に,一様結合のネットワークは1種類のパケットしか伝播しないことが知られており,複数の種類のパケットを伝播させるネットワークの研究が必要だと考えられる.

我々は非一様な結合の中でも特に連想記憶型と呼ばれるネットワークに着目し,そのネットワークにおけるパケット伝播を解析した.我々の解析の結果,連想記憶型ネットワークでは複数種類のパケットが伝播することが明らかになった.

さらに,この連想記憶ネットワークの解析により,一つのパケットの伝播で発火する神経細胞の数はより少ない方がパケットの伝播が安定することが示唆された.このことは神経細胞による効率的な情報処理のためには,スパースな情報表現が有用であることを暗示する結果であり,神経系の情報処理メカニズムの解明に寄与すると考えられる.

ネットワークモデル

Diesmann らはシナプス結合強度が一様なフィードフォワードネットワークにおいて,最初のパケットの入力の強度が大きい場合はパケットが安定して伝播するが,入力が弱い場合には全くパケットが伝播しない,という二つの状態しかとりえないことを示した.安定する場合のパケットは各神経細胞に白色ノイズが加えられた場合でも高い同期性を誇り,このネットワークは代表的な synfire chain ネットワークと呼ばれる.synfire chain とは同期した発火を安定して伝播することのできるネットワークのことである.そこで我々はこの synfire chain の性質を,結合が非一様なフィードフォワードネットワークも持っているかどうかを研究した.

Diesmann らのネットワークは,パケットが安定して伝播する点は情報処理装置として優れているものの,ただ1種類のパケットしか伝播しない点で効率的でない.そこで我々は,複数のパケットを伝播できると期待できる連想記憶型のシナプスを持つネットワークを解析した.本論文では連想記憶型ネットワークが期待通り複数のパケットを安定して伝播できることを示す.

我々の解析した連想記憶型ネットワークには,伝えたいパケットのパターンをシナプス結合に Hebb 学習則を使って埋め込んだ.また,神経細胞素子は Diesmann らと同様に,Leaky Integrate-and-Fire (LIF) ニューロンモデルを用いる.LIF ニューロンは生物学的にもっともらしいスパイキングニューロンモデルでありながら,膜電位に白色ガウスノイズが加わる時,神経細胞集団全体の膜電位の確率分布を容易に Fokker-Planck 方程式で計算することができる数学的な取り扱い易さも持ち合わせている.

以下では,我々の解析した連想記憶型フィードフォワードネットワークのパケットの伝播について,特に重要と思われる結果を2点記述する.1点は記憶パターンが安定したパケットとして伝播する性質,もう1点はパケットが同期しない入力が存在し,その場合の挙動がパターン占有率 F に大きく依存する性質である.

安定したパケットの伝播

連想記憶型フィードフォワードネットワークの最も重要な性質は,埋め込んだ記憶パターンを同期したパケットとして安定して伝播できることである.このことからこのネットワークは synfire chain として機能していると言える.その性質を調べるために,ネットワークの挙動を表す統計量としてオーバーラップを用いる.オーバーラップはある時刻の発火と埋め込まれた記憶パターンとの内積である.

ある一つの記憶パターンとのオーバーラップの大きな入力を第1層に与えた場合と,小さな入力の場合のそのパケットの伝播を示したものが図1である.図は縦方向にフィードフォワードの層を示している.軸は横軸が時間,縦軸はオーバーラップを表す.図1(a) は入力のオーバーラップが大きい場合であり,その場合は後に続く層で大きなオーバーラップの盛り上がりがあることから,埋め込んだ記憶パターンがパケットとして同期して伝播していることを示している.一方,図1(b) は入力のオーバーラップが小さい場合であり,その場合は後に続く層ではオーバーラップが生じてないことから,パケットが伝播していないことがわかる.したがって,それぞれの記憶パターンにおいて,Diesmann らの一様なネットワークと同様に連想記憶型ネットワークにおいても同期してパケットが伝播することがわかる.

また我々は,以上の結果を LIF ニューロンを用いたシミュレーション(図1破線)だけでなく,Fokker-Planck 方程式による計算によっても同様の結果を得ることに成功した(図1実線).

以上のように,我々は連想記憶型ネットワークにおいてもパケットが同期して伝播できることを,LIF シミュレーションと Fokker-Planck 方程式を使った両方の方法で示すことに成功した.このことは個々の細胞の状態がわからずともオーバーラップ等の統計量のみでネットワークの挙動が記述できることを示している.

同期しないパケットとパターン占有率

本節では入力の記憶パターンが複数の記憶パターンとオーバーラップを持つ場合を議論する.その結果,パケット同期が破れる入力が存在すること,またその破れ方がパターン占有率 F に依存することを示す.

入力パターンが二つの時(パターン1,パターン2),ニューロンは自身の記憶パターンにより4つに分類できる.(パターン1,パターン2)={(1,1), (1, 0), (0, 1), (0, 0)}.この集団をサブラティスと呼び,それぞれ{(++), (+-), (-+), (--)}と表記する.

図2は,(++) と (+-) の両方に入力が入るものの,その二つの入力のタイミングがわずかにずれた場合の挙動を Fokker-Planck 方程式を用いて解析した結果である.今 (++) と (+-) は共に最初の符号が + であることから,入力はパターン1と大きなオーバーラップを持つ.しかしながら,(++) と (+-) のタイミングが異なるということはわずかにパターン2のオーバーラップが入力に混ざっていることを意味する.図の実線は (++) の発火率を,破線は (+-) の発火率を示す.(a) から (c) は,それぞれの記憶パターンの伝播の時に発火するべきである細胞の割合を表すパターン占有率 F を 0.4 から 0.6 まで変化させた場合の結果である.

パターン占有率が 0.4 の場合(図2(a))は伝播するにしたがい (++) と (+-) のタイミングが同期している.対して,パターン占有率 F=0.5 の場合(図2(b))はタイミングのずれが維持されたまま伝播する.最後に,パターン占有率 F=0.6 の場合(図2(c))はタイミングのずれが伝播するにしたがい大きくなっている.我々は各サブラティスに流れる電流を解析的に計算することにより,パターン占有率 F<0.5 の場合には,(++) と (+-) サブラティス間に興奮性の結合が生まれ同期が促進されることを,それに対して F>0.5 の場合には抑制性の結合が生まれ同期が阻害されることを示した.

図2に示した (++) と (+-) への入力のずれは微少なものである.このずれ,すなわち入力に含まれるパターン2のオーバーラップを本来伝達すべきでないノイズと考えることもできる.その場合,記憶パターンを同期して伝播するという能力においてはパターン占有率が小さいものの方が大きなものよりノイズ耐性において優れていることが示唆される.博士論文本文においては,記憶パターンへの引き込み領域の面積やパターンの記憶容量の点からもパターン占有率が小さいものが優れていることを示す.神経系による情報伝達の議論の中で,一つの情報あたりどれだけ多くの細胞が関与しているか,は非常に重要な問題である.その問題に対して,我々の研究はパケットの伝播のタイミングという観点においては,パターン占有率が小さい,すなわち一つの情報あたりの細胞数が少ない方が情報伝達に優れている可能性を暗示するものである.

図1 (a)強い入力 (b)弱い入力

図2 (a)F=0.4 (b)F=0.5 (b)F=0.6

本論文は6章から構成されており,全章を通じて連想記憶型フィードフォワードネットワークの性質が議論されている.第1章は背景知識と連想記憶型フィードフォワードネットワークの導入にあてられている.第2章は議論の対象であるネットワークの詳細な構成について記述している.第3章は連想記憶型フィードフォワードネットワークの重要なパラメータであるパターン占有率が 0.5 の場合の解析結果について述べられている.第4章では,一般のパターン占有率の場合の解析結果についてのべ,特にスパースなネットワークにおける性能の向上について議論している.第5章では,埋め込む連想記憶の各パターンの間に相関がある場合の解析結果について述べられている.第6章は論文のまとめと,今後の発展性について議論している.

本論文は連想記憶型フィードフォワードネットワークのパケット伝播における性質を解析した論文である.その研究目的は,「多く」の情報を「正確に」伝達することを目的とする神経ネットワークの研究にある.神経系は情報処理を目的とする器官であるが,一般に個々の神経細胞の挙動はノイズの影響を受けやすいと考えられている.そこで,正確な情報伝達をすることのできるネットワークとして注目を受けているのが synfire chain と呼ばれるフィードフォワードネットワークである.synfire chain は各層に多数のニューロンを配置したネットワークであり,その冗長性ゆえに再現性の高い信号伝播を可能とする.その一方,従来の synfire chain はほぼ全細胞が同時に発火するモードしか情報を伝播するモードは存在せず,情報量の観点から効率がよいとは考えられなかった.そこで,本論文では連想記憶の手法を用いることで,一つのフィードフォワードネットワークにおいて複数の伝播モードを実現することを目標とした.

第2章では,本論文で扱うネットワークの詳細を記述した.本論文では各神経細胞に Leaky Integrate-and-Fire (LIF)ニューロンモデルを用いた.LIF ニューロンモデルは膜電位を内部変数として持つ,シンプルでかつ生物学的にもっともらしいモデルである.本論文ではホワイトなノイズを受ける LIF ニューロン集団の挙動を Fokker-Planck 方程式で記述することに成功した.これにより,巨視的変数だけを用いた見通しのよい議論が可能となった.また,各層の細胞の中から,発火すべき細胞を選び出し,それらの間を Hebb 学習則を用いて接続することにより各記憶パターンをネットワークに埋め込んだ.この時の,全体の細胞に対する発火すべき細胞の割合をパターン占有率と呼ぶ.

第3章では,パターン占有率が 0.5,すなわち半分の細胞が各記憶パターンで発火するときについて議論を行った.この時,期待した通り,各記憶パターンが再現性よく同期して発火することを解析の結果明らかにした.その一方,複数の記憶パターンを同時もしくは連続して活性化した場合は,通常の同期した発火タイミングがずれを生じることを明らかにした.

第4章では,パターン占有率が 0.5 以外のネットワークにおける挙動を解析した.パターン占有率が 0.5 より小さい場合は,第3章で見られたような発火タイミングのずれは伝播中に小さくなり最終的に消えることを明らかにした.それに対してパターン占有率が 0.5 より大きい場合では伝播中にタイミングのずれは大きくなっていくことが明らかになった.さらに,多くの記憶パターンを埋め込むと,各記憶パターンの伝播は不安定になる.その不安定さはパターン占有率に依存し,パターン占有率が小さいとより多くのパターンが埋め込めることを明らかにした.これらの結果は,小さなパターン占有率のネットワークが同期発火を安定伝播する能力において優れていることを示唆する.

第5章では各記憶パターンの間に相関が生じた場合には,一つの記憶パターンの入力しかない場合であってもそのパターンは同期しては伝播しないことが明らかになった.このことから相関のある記憶パターンは信号の同期伝播には不向きであることが示唆された.

以上のように,本論文は,連想記憶型フィードフォワードネットワークを解析することにより,高い再現性と多くの情報伝達を同時に実現するネットワークの基礎的研究を行った.

なお,本論文の主論文2報は,濱口航介,岡田真人との共同研究であるが,論文提出者が主体となって解析を行ったもので,論文提出者の寄与が十分であると判断する.

したがって,博士(科学)の学位を授与できると認める.