原子間力顕微鏡(AFM)は、導体・絶縁体両方の試料を原子スケールで観察出来るため、表面科学のみならず、様々な基礎・応用分野に適用可能な汎用性の高い走査型プローブ顕微鏡(SPM)である。しかしその微視的な機構は殆ど解明されていない。そこで本論文の前半では、探針先端の構造、負荷、探針の配向がAFM像に与える影響を詳細に調べ、探針-表面間の力分布の解析から、AFM像の表している物理量を明らかにする。AFM測定の標準試料として用いられるグラファイトに焦点を当て、クラスター模型を用いて、斥力モードでのAFM像の理論シミュレーションを行い、像に影響を与える種々の効果を系統的に調べるとともに、従来のほぼ全ての実験結果を再現する。数値シミュレーションにおいては、様々な探針を用いて先端構造の効果を調べる。また、探針-試料表面内の原子間ポテンシャルには調和ポテンシャルを、探針-試料表面間相互作用にはレナード・ジョーンズポテンシャルを採用する。AFM探針の走査速度は、格子振動の速度に比べてはるかに遅いため、探針の各走査位置に対してAFM系はエネルギー的に安定平衡状態にあると考えられる。そこで、探針の各位置に対して分子緩和法を用いて全エネルギーを極小化して構造を最適化する。

　力分布の解析からAFM像の意味を明らかにする。単原子探針の場合、弱斥力でも強斥力でも近似的にsingle-atom contactが起こっていてハニカム像が観察される。実験では多くの場合、ハニカム像以外の像が観察されるので、探針と試料表面との接触領域ではmultiple-atom contactが起こっている事が予想される。従って、ダイヤモンド[111]多原子探針を用いてより現実的な接触状況を考える。最先端に1個の原子を持つ多原子探針の場合、弱斥力では探針-試料表面間に働く力は、探針、表面の1原子に集中しており(single-atom contact)、ハニカム格子のAFM像はグラファイト表面の幾何学的構造を直接反映していると考えられる。但し探針第2層が感じている弱引力の影響でわずかにimageは変調されており、AサイトよりもBサイトの方が明るい三角格子の傾向を見せている。しかし負荷が増加するにつれて、力はより多くの探針・表面原子に広く分布し(multiple-atom contact)、多くの原子の情報がAFM像に含まれるようになる。強斥力で得られる三角格子状の異常像は、広い領域に分布する力の総和を表しているのである。このように負荷の変化に伴う力分布の変化からAFM像の意味を明らかにした。また多原子探針を傾けてeffectiveに探針先端構造を変化させることにより、AFM像のパターンに探針先端構造の対称性が現れていることも示された。2個のsingle-atom tip imageを位相をずらして重ね合わせて得られたdouble-atom tip imageは探針結合長の変化に伴ってdrasticに変化し、種々の実験像を再現した。探針の種類によっては、配向を変化させると探針先端と試料表面との非整合性が増してコラゲーションが急激に減少し、AFM像が観察不可能になる場合もある事が示された。

　このように、AFM像のパターン、対称性、コラゲーション振幅は、負荷、探針先端の構造、結合長、配向に強く依存している事が示された。つまりAFM像は、試料表面の幾何学的な表面構造だけではなく、探針・試料表面両方の微視的な構造、弾性論的な性質を反映しているのである。本論文前半では、AFM像の解釈に影響を与える様々な効果に対して、系統的かつ統一的な描像を与えた。この特色は、従来の理論研究と大きく異なる点である。

　最近、摩擦力顕微鏡(FFM)を用いて原子レベルで現れる摩擦現象に関する数多くの実験研究が行われており、摩擦の素過程についての理解が進みつつあり、ナノトライボロジーと呼ばれる摩擦の新しい研究分野が生まれている。しかし、理論的観点からは原子スケール摩擦の機構は十分に議論されていない。従って本論文の後半では、最初に、カンチレバーの硬さや異方性、走査方向、荷重のようなマクロな条件が水平力像に与える影響を数値シミュレーションにより調べ、原子スケールで現れる摩擦現象の特徴を明らかにし、実験との比較を行う。更に原子レベルの摩擦に関する幾つかの特異な現象を発見した。次に、解析的手法を用いてFFM像のパターンの持つ物理的意味を解明する。FFM系は、カンチレバーに接続した単原子探針を単層グラファイト試料表面系で走査することにより表す。系の全エネルギーはカンチレバー及び試料表面の調和的な弾性エネルギーと、レナード・ジョーンズポテンシャルで表した探針-試料表面間相互作用の和と仮定する。特にカンチレバーは三次元的バネで表す。数値シミュレーションは斥力領域かつconstant-height modeの条件で、分子緩和法を用いて行う。各走査点で求められた水平力が走査方向によるヒステリシスを示し、非保存的に振る舞うとき、摩擦力であると考える。また原子スケール摩擦はTomlinsonの機構に基づき出現すると考える。つまり、カンチレバーの走査に伴い、隣接する二つの極小間のエネルギー障壁が消える時、探針原子は別の極小点に不連続的に移動する。この時、カンチレバーの弾性エネルギーが散逸して、探針原子の運動エネルギーや表面原子のフォノンに変換されると仮定するのである。

　水平面内で等方的なカンチレバーを用いて、水平力像を計算した結果、荷重またはカンチレバー堅さの変化により、FFM像のパターンが顕著に変化する現象を理論的に発見した。低荷重(堅いカンチレバー)の時、水平力は走査方向によるヒステリシスを示さず保存力の特徴を示したが、荷重を増加させると(カンチレバーを柔らかくすると)、臨界荷重以上(臨界堅さ以下)で、水平力はヒステリシスを示す摩擦力になった。こうして、荷重が増加する(カンチレバーが柔らかくなる)に伴い、水平力像が保存力像から摩擦力像に転移する様子が明確に示された。摩擦力領域で、荷重を増加させると(カンチレバーを柔らかくすると)、FFM像のパターンが顕著に変化する現象を理論的に発見した。低荷重(堅いカンチレバー)の摩擦力像において明暗が急激に変化する領域をなぞるとグラファイトの炭素-炭素結合に対応するジグザグな模様が現れるが、このジグザグ模様は荷重を増加させる(カンチレバーが柔らかくなる)につれて消滅して走査方向に平行な直線状のパターンしか現れなくなるのである。この理論的に予測されたFFN像のパターン変化は、実験でも同様に観察される事が確認された。更に荷重を増加させると(カンチレバーを柔らかくすると)、超周期構造というべき特異なFFM像が現れる事を発見した。超周期構造を持つFFM像には、探針走査の開始位置の、走査に垂直方向の情報が現れるのである。また、荷重の増加に伴い初期付着が強くなるため、パターンの明暗の極大・極小の位置が、走査方向に移動する事も観察出来た。カンチレバーの堅さと荷重との対応関係は全エネルギーの勾配が0である条件から導かれる、探針原子とカンチレバー基底部との間の写像関係から定性的に理解出来る。

　前述した摩擦力像のパターンの変化は、探針原子の試料表面に平行な平面内での動きから理解出来る。探針緩和位置の分布を調べたところ、分布密度はグラファイト格子のhollow siteを中心に高くなる。保存力領域では平面内での分布は連続であるが、摩擦力領域では、不連続的になり、hollow siteを中心に探針原子が存在可能な「sticking domain」が出現する事を明らかにした。つまり、摩擦が現れる領域では、探針原子はsticking domain間を二次元的なスティック-スリップ運動を繰り返して移動する事が分かった。従ってFFM像のパターンの変化は、探針原子のスティック-スリップ運動の経路が変化することに由来する事を明らかにした。更にカンチレバーの走査方向を変えたり、カンチレバーに異方性を取り入れて摩擦力像を計算したところ、様々なFFM像のパターンが得られ、各種実験像を再現した。実験では、これらの要素が複雑に絡み合っていると考えられる。

　また、FFMのシミュレーション像と実験像とのパターンには非常に良い一致が得られたので、この共通する摩擦力像のパターンの物理的意味を解析的手法を用いて解釈した。本方法の特徴は、探針-表面系の安定平衡条件を、探針原子の座標(x,y)とカンチレバー基底部の座標(x_s,y_s)との間の写像関係として捉える事にある。保存力領域では(x,y)→(x_s,y_s)は1価関数だが、摩擦力領域では(x,y)→(x_s,y_s)は多価関数になる。この解析では、探針原子位置の安定領域が、前述のsticking domainに対応する。こうしてsticking domainの境界を解析的に決める事が出来た。また、カンチレバー基底部の安定領域の境界の一部が、FFM像の走査方向の明暗領域間の境界として現れている事が見い出され、FFM像の一般的特徴を明らかにした。更に前述のFFM像の荷重(カンチレバーの堅さ)依存性は、カンチレバー基底部(x_s,y_s)空間内での安定領域の形状と大きさが変化することにより引き起こされる事を明らかにした。

　本論文後半では、数値シミュレーションで原子スケール摩擦力像のパターンを求め、様々なタイプの実験像を非常にうまく再現した。そして、荷重・カンチレバーの堅さ・走査方向に強く依存している探針原子のステイック-スリップ運動の特徴によって、摩擦力像が決定される事を系統的に示した。また、ヒステリシス・初期付着パターン・超周期構造パターンのような、様々な特異な現象を発見し、説明した。更に解析的手法を併用してFFM像のパターンの物理的意味を解明した。