近年の高速なコンピュータは、地球環境や天候の予測、もしくは物理・化学現象の解明に多大な影響を与えつつある。現在そのような研究をおこなっているプロジェクトとして、地球シミュレータプロジェクト、ASCIプロジェクト、またはSciDACプロジェクトなどが挙げられる。高速なコンピュータを用いることで複雑な現象を解析することが可能になったが、複雑な現象の解析には非線型方程式を解く必要がある。非線型方程式の解法として近年注目をあつめている方法として、非線形多重格子法やメモリフリーNewton-Krylov法がある。非線形多重格子法は、大規模線形問題解法として大いに期待がもたれている多重格子法の非線形問題への拡張であるが、プログラムの開発が困難であることや、分散メモリ型並列計算機への適用性が低いと言われる。対して、メモリフリーNewton-Krylov法は最も有名な非線形解法であるNewton法を改良したものである。メモリフリーNewton-Krylov法はNewton法にくらべメモリ使用量が極めて少なく、並列計算機への適用性も高い。しかし、Newton法に分類される手法は高速であるが不安定であることが指摘されている。このため、メモリフリーNewton-Krylov法の多くは、初期値問題への適用がほとんどである。初期値問題の場合、時間刻み幅が十分に細かい場合容易に収束解を得ることができる。

　ところで、工学分野において材料特性の解析に使われる計算手法としてもっとも高精度な手法は第一原理計算である。第一原理計算は、電子レベルから材料の性質を解析する手法であり、経験的なパラメータを一切用いずに解析をおこなうが、その計算量は膨大なものとなる。その膨大な計算量のため、スーパーコンピュータの利用は必須であるといえる。現在のスーパーコンピュータの主流は分散メモリ型、もしくは分散・共有メモリ型である。このような計算機アーキテクチャにおいては、従来の手法は効率的でないといわれている。そのような問題を克服する手法として、実空間第一原理計算法が脚光をあびている。実空間法は、その名の通り、3次元空間における離散化手法をもちいて第一原理計算をおこなうものである。第一原理計算の支配方程式もまた、非線形方程式であり、加えて境界値問題である。このような非線形な境界値問題を解く手法で、かつ、分散メモリ型並列計算機に適する手法として非線形共役勾配法が考えられる。共役勾配法は、線形連立一次方程式の解法として良く知られている。近年、その並列計算機への適用性の高さから注目をあつめている。共役勾配法は、前処理と呼ばれる収束性を向上させる手法を伴って用いられることが多い。線形共役勾配法の前処理は、多くの研究者の努力により、目覚しい発展が見られる一方、非線形共役勾配法を前提とした手法は研究されていないのが現状である。このような背景のもと、本研究では以下に挙げられる特徴をもつ。

1．　非線形共役勾配法のための新しい前処理を提案し、実空間第一原理計算への適用を行いその有効性を検討した。

2．　線形共役勾配法を用い超大規模計算を行った。この際、用いた計算機は地球シミュレータという複雑な並列構造をもつ計算機であり、その性能を発揮するための最適化をおこなった。

上記項目につき、詳しく述べる。

1.　非線形共役勾配法の前処理

非線型方程式解法の一種であるNewton法と、非線形共役勾配法のアルゴリズムを比較することにより、Newton法は非線形共役勾配法の特殊な場合であるとみなすことができる。両者は近似解を反復法であり、現在の近似解に修正を施すことで厳密解へ近づいてゆく。両者の解の更新部分のみを抜粋する。：

解くべき非線形関数をf(x)=0とすれば、共役勾配法においては、

　x i+1=xi+αi (-M-1f(xi))(1)

となる。ここでMは前処理行列でありαは修正係数である。他方、Newton法は

と表される。式(1)と(2)を較べたときに、共役勾配法の修正係数αをα＝1に固定し、前処理行列Mを〓とすれば、共役勾配法とNewton法は一致することがわかる。このような関係を利用し、非線形共役勾配法の新たな前処理を提案した。また、提案した前処理付きの効果を検証するために、第一原理計算への適用を行い、計算時間において最大5倍の加速が得られた。

2.　超大規模線形共役勾配法

現在のスーパーコンピュータの主流は分散・共有メモリ型の並列計算機である。分散・共有メモリ型の計算機の高い性能を発揮するためには、そのような階層構造を意識したプログラミングが求められる。加えて、数値計算に適した演算装置であるといわれるベクトルプロセッサーをもつ分散・共有メモリ型の計算機も存在する。そのような計算機として地球シミュレータがある。ベクトルプロセシングは広義の並列計算と考えられるため、地球シミュレータは、並列に際して

1.　分散メモリ並列

2.　共有メモリ並列

3.　ベクトルプロセシング

の三段階がある。このような、階層構造を意識することにより、高い並列性能をもった線形共役勾配法の開発が可能となる。結果、約8億自由度の線形連立一次方程式を解く際、4096プロセッサーを用いて80%の並列化効率が得られた。

　超高性能計算機の出現により複雑な自然現象の予測・解明が可能となってきているが、それらを記述する偏微分方程式の多くは非線型であり、今なお大規模な問題に対して有効な非線形方程式解法が求められている。大規模な非線形問題の解法として非線形共役勾配法が考えられる。共役勾配法は並列計算に適したアルゴリズムであり、また前処理を行うことで収束性を向上させ安定に解を求めることが期待される。

　一方、物質の性質を解明する手法のなかで最も信頼性の高い手法の一つに第一原理計算がある。第一原理計算は実験などにより得られる経験的なパラメータを用いることなく量子力学に基づいて解析を行う手法であるが、多くの計算を必要とし、また非線形問題を解く必要がある。第一原理計算に必要とされる計算量は膨大であり、並列計算機の利用が必須であるため、近年、有限要素法に基づく手法が注目を集めているが、得られた非線形方程式の高速・安定な解法が求められている。

　本論文では、非線形方程式解法として知られる共役勾配法の新たな前処理を提案し高速でロバストな非線形方程式解法を開発することを目的としている。本論文では共役勾配法とNewton法のアルゴリズムの比較から、Newton法が前処理付き共役勾配法の特殊な場合であることを考察し、Jacobi行列を近似する行列を前処理行列として用いることで共役勾配法の収束性を向上させることができることを示しており、その考察に基づき新たな前処理手法を提案している。提案された前処理は、有限要素法に基づく第一原理計算に適用され、従来手法に比べ収束性が向上することが確認されている。

　本論文は6章から構成されている。以下に各章の要旨を述べる。

第1章では、本研究の背景として非線型方程式解法、第一原理計算の現状についてのべ、あらたな非線形共役勾配法の前処理の必要性について言及している。

第2章では、まず線形共役勾配法、そしてその加速手法である前処理について説明を行っている。その後、非線形共役勾配法のアルゴリズムについて説明を行っている。

第3章では、地球シミュレータにおける共役勾配法の効率的な並列化手法について説明を行っている。地球シミュレータは並列化に際して階層構造をもつため、効率的な並列計算のためには階層構造を意識した並列化手法を選択する必要がある。そのような最適化を行った結果、4,096プロセッサー使用時に約85%の並列化効率を達成している。

第4章では、線形共役勾配法の局所化前処理と応力特異性の関係について述べている。線形共役勾配法においては、効率的に並列計算を行うため前処理を局所化することが多い。しかし、局所化により前処理の効果は低減されるうえ、応力特異性がもたらす収束性の悪化のため、現実的な並列応力計算においては共役勾配法の収束性が極めて悪化する可能性がある。本論文では、局所化前処理付き線形共役勾配法の収束性を向上させるために特異領域を考慮した領域分割を行うことが有効であると考察した。その結果、最大で約10％の収束性向上を達成している。

第5章では、あたらしい非線形共役勾配法の前処理を提案している。提案された前処理つき非線形共役勾配法を、有限要素法に基づく第一原理計算へ適用し収束性を確認している。提案された前処理を用いることで、従来手法にくらべ最大で計算時間を5倍短縮することができた。のみならず、従来手法では計算が破綻する場合においても計算を進めることが可能となっている。

第6章では、結論をまとめている。

　以上を要約すれば、本論文では現実的な数値計算に求められる高速で安定な非線形方程式解法として、新しい非線形共役勾配法のための前処理を提案し、有限要素法に基づく第一原理計算を用いて検証を行った結果、その有効性を確認することができている。このため、計算力学の発展に寄与するところが大きいと言える。

　よって、本論文は博士（工学）の学位請求論文として合格と認められる。