人間の脳における言語理解は、脳内における短期的な記憶の機構と深く関係している。記憶機構が解明されれば言語理解の研究が進むのはもちろんだが、言語理解に関する知見を生かして記憶機構の研究を進めることも可能である。

　本論文では、言語理解に適した人間の短期記憶機構のモデルと、そのシミュレーションに必要な技術について提案する。具体的には、以下の3項目について研究を行う。

(1)言語理解に適した短期記憶機構を神経回路網で構築するときに必要となる要素の探究

(2)連続時間での高速かつ一般的なパルス神経回路網シミュレーション技術

(3)(1)及び(2)を利用した、言語理解の原始的なシミュレーション

　ここで(1)については、言語を取り扱う神経回路網が備えているべき要素について、次のようなことを明らかにした。i)言語理解の結果を表現するには束縛問題を解決することが必要であり、そのためには神経回路網の時間領域での振る舞いを利用することが最も有望であること。ii)位相調停を実現するために、構造的な時系列記憶システムが構築されるべきであること。iii)時系列予測の形式で文法規則の適用が実装できること。

　また、(2)に関しては、イベント離散方式によるパルス神経回路網シミュレーション方式を研究した。位相調停など複雑な時間領域での操作を研究するために必要となる、時間精度の高い回路網シミュレーションは、時間離散方式による従来の手法ではシミュレーション速度に限界があった。一方、イベント離散方式には一般的なニューロンモデルに対し遅れ発火が扱えないという問題があった。本研究で提案する二次前進分割法は、遅れ発火を解析的に計算することにより、一般的なニューロンモデルに対してもイベント離散方式でパルス回路網シミュレーションが構築できることを示す。また、遅れ発火の処理を高速化する高速検査法やオブジェクトキューモデルについても述べる。

　そして、(3)においては、(1)及び(2)の研究を例証するために、3〜4単語程度の単純な文を理解する神経回路網シミュレーションを構築する。ここで構築した言語理解システムをさまざまな側面から検討し、よりよい文の理解のために研究すべき方向について考察する。

1.必要条件の探索

　この論文の最初では、脳の中にある短期記憶メカニズムが言語理解の能力を備えるための必要条件を探索する。ここでは、脳の中では言語の意味というものが何らかのコード表現によって脳の中で明示的に表わされており、脳には言語をそのコードに翻訳することができると仮定する。この仮定と脳のアーキテクチャを合わせて考えると、意味をコード化する機構および言語理解のメカニズムは、大きく制限される。その制限から、人間の脳は明らかに満たしておりまた製作するモデルも満たさなければいけないような、言語理解メカニズムの必要条件やよりよい選択肢を知ることができる。

　3章では、意味表現において重要な部分となる変数束縛の表現が時間によるコード化を要求することを指摘する。変数束縛は属性とオブジェクトの関係であり、例えば文「John loves Mary」の意味には2つの束縛「John-lover」 「Mary-beloved」が含まれていると考える。これは、別の束縛の集合である「Mary-lover」 「John-beloved」とは明確に区別できることから、束縛は意味の重要な部分であると考えられ、従って、脳の中で明示的に表現されるべきであると考えられる。しかし、このような束縛を表現することは神経回路網アーキテクチャにとっては大きな制約となる。この論文では、脳内で変数束縛を表現できるメカニズムにはどのような選択肢があるかを論じ、時間コーディングが他のコーディングに比べ優れていることを論じる。

　さらに、ここでは、時間コーディングを利用した言語理解においては時間コーディングへの入力を制御するための特別な機構(ここではPhase Arbitration(位相調停)と呼ぶ)が必要であることを議論する。脳への文入力が言葉の時間的シーケンスであることから、この入力を時間コーディングによる意味表現に直接接続することはパルス位相の予期しない衝突を引き起こす。このことから、脳は、文入力からの時間コーディングを安定して構築するためにパルス位相を調停するメカニズムを内蔵していると考えられる。ここでは、Phase Arbitration機構の可能なインプリメンテーション、および脳生理学で見つかったメカニズムとの関連について議論する。

2.シミュレーション技術

　この論文では、モデル化のための計算シミュレーション技術についても注目する。なぜなら、計算機を利用したシミュレーションは、モデルを検証するための重要なステップと考えられるからである。前章において神経回路網の時間的振る舞いをモデル化することの重要性が明らかになったので、シミュレーションにおいては、一般的な神経細胞モデルを扱うことができ、かつ時間方向に精度の高いなシミュレーション技術が必要となっている。ほとんどの神経回路網シミュレーションで使用されている離散時間式シミュレーションは、時間方向の精度を上げるためには効率を大幅に犠牲にしなければならないという問題があった。他方、離散イベント式シミュレーションは時間方向の高い精度を得られるという利点があるが、一般的な神経細胞モデルで発生する遅延発火の処理が困難であったため、既存の離散イベント式シミュレータは単純な神経細胞モデルしか扱うことができなかった。

　4章では、離散イベント式パルス神経回路網シミュレーションのためのいくつかの技術を提案します。今回の研究で開発した二次漸進分割法は、不連続点が有限であるような任意のスパイク反応神経細胞モデルにおいて遅延発火を解決することができる、優れた方法である。さらに、遅延発火の効率的な取り扱いのため、ここでは高速検査法およびオブジェクトキューモデルを導入する。そして、ここで実装した神経回路網シミュレータ(Punnets)が大規模ネットワークを効率的にシミュレートすることができることを示す。

3.言語理解モデルの構築

　最後に、5章においては、言語理解の小さなモデルを構築し、シミュレーションモデルによって検証する。シミュレーションの目的は3章で研究された必要条件や選択肢を検証することにある。シミュレーションは、これらの必要条件や選択肢に基づいて構築したモデルが文入力を意味表現に変換できることを示すことで、3章における研究の有効性を示すことができた。しかし、脳生理学の研究などから推測して補った部分についていくつか人間のモデルとしては違いがあることも判明した。ここでは、これらの点から明らかになる言語学や脳生理学への影響、そして今後の研究の方向についてさまざまな角度から議論する。

本論文は、6章からなり、第1章において、論文の主課題である言語理解のための神経回路網シミュレーション構築の意義に関して、また第2章においてこの分野における従来の研究(ニューラルネットワークでの時間コーディングの利用、コネクショニスト言語処理)の不十分な点を整理し、3章以降で展開される研究の課題を整理している。

第3章では、言語を取り扱う神経回路網が備えているべき要素について、理解した結果である意味表現と緊密に関連するという仮定から、言語理解メカニズムの構成を捉える試みを展開している。特に、意味表現において重要な部分となる属性と値の束縛を表現することについて、言語に含まれる未知の束縛をも記憶内で表現可能とするためには加算的意味表現が必要であることを述べ、単純な表現形式では重複表現破局を避けられないことを指摘している。そして、加算的でありながら重複表現破局を避ける束縛表現として時間によるコード化が好ましいこと、その際に時間コーディングへの入力を制御するための位相調停機構が必要であることを議論し、従来研究とは異なる角度から言語を取り扱う神経回路網の構成を浮かび上がらせている。

第4章においては、高効率で時間的精度の高い神経回路網シミュレーションの構築技術について述べている。まず、高い時間的精度を達成するためには、従来の離散時間式シミュレーション方式を用いると効率が大幅に落ちるため、離散イベント式シミュレーション方式を採用する必要があることを述べている。そして、ニューロンの遅延発火について正確な予測が必要であること、複雑なニューロンモデルにおいて正確な予測法が従来存在しなかったことを指摘し、実用的なニューロンモデルを効率的にカバーできる新たな予測法、二次漸進分割法を提案している。また、予測のコストを抑える技術として既知の到着パルス時刻を利用した高速検査法も併せて導入している。そして、計算機上での効率試験の結果を示し、その考察を通してこれらの手法の有効性を示すことに成功している。

第5章においては、第3章で研究した構成と第4章で提示した構築技術を使い、言語理解モデルを神経回路網シミュレーション上に実際に構築する研究について述べている。ここでは、第3章で論じた位相調停機構に相当する、大脳生理学で研究されている機構を導入し、そこに神経網で構成された文法知識を付加することで、単語列から束縛を含む意味表現に変換する神経回路網の構成を説明している。その上で、計算機上のシミュレーションにこの構成を実装し、実際に単語列でから意味表現への変換が働くことを実証することで、している。そのうえで、ここで構築したモデルの妥当性や、言語学的な含意について議論している。

最後に、第6章では、本論文で展開された神経回路網シミュレーションの構築、および、言語理解システムにおいて残された課題を整理し、この分野における将来の研究課題を簡潔にまとめている。

なお、本論文第3章は、合原　一幸・辻井　潤一との共同研究であるが、論文提出者が主体となって構築された議論であり、論文提出者の寄与が十分であると判断する。

したがって、博士(理学)の学位を授与できるものと認める。