Two-dimensional electron systems (2DESs) exhibit fascinating quantum phenomena at low temperatures. The quantum Hall (QH) effect is a well known example. The essence of the integer QH effect is alternating extension and localization of a two-dimensional electron gas (2DEG), which is realized when the Fermi energy (EF ) is tuned to one of the Landau levels (LLs) and in between the adjacent LLs, respectively. In the localized states, it is commonly believed that the 2DEG is trapped around impurities or sample edges running along the equipotential lines with an approximate width of the magnetic length lB (=〓 where B is magnetic field). However, it is generally difficult to observe such localized states in real space at the nanometer scale with local probes, as the 2DESs are usually formed at heterojunctions one hundred nanometers below the semiconductor surface.

　Graphite is another candidate to study 2DESs with a small effective mass and a relatively high electron mobility. Unlike the semiconductor heterojunctions, it has a quasi 2DEG even at the surface. This feature is suitable for scanning tunneling spectroscopy (STS) which is a powerful tool to investigate the local density of states (LDOS) at sample surfaces microscopically and spectroscopically. Recent STS [1] and transport [2] measurements revealed that the two-dimensional (2D) nature of the electronic properties for higly oriented pyrolytic graphite (HOPG) is much stronger than that for bulk (single crystal) graphite because of its much higher stacking-fault density. The observed Hall resistance plateau [2] indicates the probable QH state in this material. More recently, the distinct QH plateaus have been observed in the 2DESs at a single layer of graphite (so-called "graphene") as well as bilayer graphene [3]. Therefore, the localized and extended states of the QH effect can be investigated in the thin-layer graphite systems including HOPG with the STS techniques.

　In this thesis, we have studied the LDOS of the quasi 2DES near defects and step edges at graphite surfaces using an ultra-low temperature scanning tunneling microscope (STM). We have succeeded in the first clear visualization of the alternating localized and extended states near defects in the 2DES at the HOPG surface in magnetic fileds, which indicates the possible QH state at the surface. In the vicinity of the zigzag step edges, theoretically predicted graphite edge state have been observed for the first time. We have also investigated the LDOS of the 2DES formed at surfaces of epitaxially grown InAs thin films.

　In Figs. 1(a)-(c), we show differential tunnel conductance (dI/dV ) curves and images obtained around point defects at the HOPG surface at B = 6 T. The dI/dV images, i.e., LDOS mappings, reveal a clear contrast between localized and extended spatial distributions of the LDOS at the valley and peak energies of the LL spectrum, respectively. The localized electronic state has a single circular distribution around the defects with a radius comparable to lB. These results indicate that the QH state is realized at the HOPG surface.

　Figures 1(e)-(h) show the LDOS distributions near the defects at the valley energies in between LL1 and LL2 in several different magnetic fields. The localized LDOS has a maximum just on the defects and a satellite around them with a radius comparable to lB (Fig. 1(i)). The observed LDOS distributions are in good agreement with the calculated LDOS for a single electron in 2D in a Coulomb potential in magnetic fields (Fig. 1(j)). These results reveal that the functional form of potential plays an important role in the formation of the localized states.

　In the vicinity of graphite edges, a peculiar localized state was predicted even at zero magnetic field from the tight-binding band calculations [4]. This localized state is known as the "graphite edge state". It stems from the topology of the π electron networks at the zigzag edge and does not appear at the armchair edge. We carried out the LDOS measurements near monoatomic step edges of both the zigzag and armchair types on the graphite surface at zero field. With STS, a clear LDOS peak at several tens meV below EF is observed on terraces with the zigzag edges but not on those with the armchair ones (Figs. 2(a) and (b)). This is the first clear spectroscopic observation of the "graphite edge state" theoretically predicted from the tight-binding calculations on graphene ribbons [4]. The existence of the LDOS peak near the zigzag edge is also confirmed by first-principles calculations.

　In the STM measurements, two types of superstructures, i.e., (〓 × 〓)R30° and honeycomb ones, are observed over 3-4 nm from both the zigzag and armchair edges (Figs. 2(c) and (d)). Calculations based on a density-functional derived nonorthogonal tight binding model show that the coexistence is due to a slight admixing of the two types of edges at the graphite surface.

　The 2DES is also formed at the surface of an InAs thin film epitaxially grown on a GaAs substrate (InAs/GaAs) [5]. We studied the LDOS of the 2DES at the InAs/GaAs(111)A surface in magnetic fields. Several peaks associated with the Landau quantization of the 2DEG are observed in the tunnel spectra at negative bias voltages just above the subband energy of the 2DES (Fig. 3). On the other hand, a field-independent oscillation with a larger energy separation than the LL is observed above EF . From the tunnel spectra for the InAs/GaAs(111)A, InAs/GaAs/GaAs(111)A and InAs/InAs(111)A, we found that this oscillation is associated with the transmission probability of the tunneling current through the Schottky barrier at the interface between the InAs film and the GaAs substrate.

　In conclusion, we have measured the LDOS of the quasi 2DES near point defects and step edges at graphite surfaces with the STM/STS techniques. The LDOS mappings near the defects in magnetic fields show alternating localization and extension of the 2DEG depending on energy, which is consistent with the electronic states expected in the QH effect. The localized LDOS distributions at the valley energies of the LLs are semi-quantitatively explained by the calculated LDOS for the 2DEG in the 1/r potential in magnetic fields. In the vicinity of the zigzag edges, we have observed a clear peak in the tunnel spectra near EF in zero field. This LDOS peak corresponds to the graphite edge state theoretically predicted from the tight-binding band calculations on graphene ribbons. The LDOS of the 2DES have also been investigated at surfaces of epitaxially grown InAs thin films, where the LLs of the 2DEG are observed in the tunnel spectra. The results obtained here can be achieved only by means of STM/STS, and play an important role in understanding the electron localization in 2D from the microscopic view point.

Figure 1: (a) Tunnel spectra averaged over 20 × 20 nm2, centered on point defects (triangle) and far away (> 30 nm) from them (circle) at B = 6 T and T = 30 mK. (b), (c) dI/dV images (80 × 80 nm2) around the defects at (b) the peak and (c) valley energies of the LLs. (d) Higher resolution STM image of the point defects (8 × 8 nm2). (e)-(h) The magnetic field dependence of dI/dV images (80 × 80 nm2) near the defects at the valley energies in between LL1 and LL2; (e) 6 T, (f) 4 T, (g) 3 T, (h) 2 T. (i) Typical cross sections of the dI/dV images in the different fields. (j) The field dependence of calculated LDOS at the valley energies in between LL1 and LL2 in the 1/r potential.

Figure 2: (a), (b) dI/dV curves measured at |V | 〓 300 meV near (a) the zigzag and (b) armchair edges at the graphite surface. The numbers denoted are distances from the edge (d = 0). (c), (d) STM images in the vicinity of (c) the zigzag and (d) armchair edges (6 × 6 nm2). The dashed and dot-dashed lines show the edge and the atomic row of B-site atoms, respectively. The diamond and hexagon represent the (〓 × 〓)R30° superstructure and honeycomb one.

Figure 3: (dI/dV )/(I/V ) curves at the InAs/GaAs(111)A surface in several different magnetic fields. Each spectrum is vertically shifted for clarity. The vertical solid line represents the bottom of the 2D subband. The inset shows a typical STM image of the reconstructed InAs(111)A surface (7.5×6.8 nm2).

　本論文は、超低温・強磁場下で動作する走査トンネル顕微鏡・分光法(Scanning Tunneling microscopy・spectroscopy, STM・S)を用い、グラファイトおよびInAs薄膜中に形成される2次元電子系の振る舞いを実空間において原子分解能で直接観察し、今まで理論的に予想されながら実際に観測されることがなかった現象を初めて観測することに成功した実験研究である。つまり、強磁場中の2次元電子系に現れる量子ホール効果状態での電子波動関数の局在および非局在状態の様子、さらにはグラフェンシートの特定な端だけに現れるグラファイト・エッジ状態を直接観測した。これらの研究成果は、理論的な予想を実験的に示したという重要性だけでなく、強磁場下での波動関数の振る舞いを原子尺度の空間分解能で詳細に明らかにしており、理論的考察と合わせて新たな知見を与える貴重な研究となっている。

　本論文は6つの章から構成されている。第1章では本研究の背景を概観し、問題意識および本研究の目的が述べられている。第2章では、本研究の実験手法であるSTM・Sについて解説されている。第3章では、グラファイトでの結果が詳述されている。2次元電子系の強磁場下で見られる現象の理論および過去の研究例を紹介したあと本研究の結果を述べ、理論計算と比較して考察を行っている。第4章では、グラファイト結晶のエッジ状態について、過去の研究例を紹介したあと本実験結果を詳述し、さらに理論計算との比較によって実験結果を解析している。第5章では、InAs薄膜の表面近傍に形成された2次元電子系の観測結果を述べている。第6章において本論文で明らかにされた結果と意義をまとめている。

　2次元電子系では3次元系にはないエキゾチックな物理現象が起こり研究対象となっている。その中でも2つのノーベル賞の対象となった量子ホール効果はいまだに多数の研究がなされ、未解決の問題も多い。2次元電子系に垂直に強磁場を印加すると電子状態はランダウ準位に量子化される。ランダウ準位にある電子状態は拡がった波動関数を持ち、隣り合うランダウ準位の間のエネルギー準位にある電子状態は欠陥や試料のエッジに局在した波動関数を持つことが理論的に示されているが，それを実空間で直接観察した例はない。なぜなら、2次元電子系は半導体ヘテロ接合に形成されるため、結晶表面から数百nmも深いところにあり、直接観察する手法が無いからである。そこで、本研究では、擬2次元電子系を形成するグラファイトを試料とし、STM・Sによってその表面を観察した。STM・S法は、個々の原子配列を直接観察きるだけでなく、その微分コンダクタンスが状態密度に比例するため、局所状態密度の分布、つまり電子波動関数の分布を直接可視化することができる。本研究の成果は大きく分けて三つある。

(1)　グラファイトでの量子ホール効果状態の実空間観測:highly oriented pyrolytic graphite(HOPG)表面上に形成された点欠陥近傍を100mK以下の超低温および数Tの強磁場中でSTM・S観測した。微分コンダクタンスのバイアス電圧依存性は明瞭にランダウ準位の形成を示した。微分コンダクタンス像では、ランダウ準位に対応するバイアス電圧で明るさの一様な像を示し、拡がった電子状態になっていた。しかし、2つのランダウ準位の間のエネルギー準位では波動関数が点欠陥に局在している像を示した。このように、電子状態がエネルギー準位に依存して局在および非局在状態になることを実空間で示した。また、局在状態を異なる磁場中で観察すると特徴的なリングパターンとなることを見出し、理論的考察により点欠陥が作るクーロンポテンシャルに強磁場下で束縛された電子状態で説明した。

(2)　グラファイト・エッジ状態の直接観測:グラファイト結晶の端には、原子の並び方が異なるジグザグ型とアームチェア型エッジがあるが、ジグザグ型エッジだけに局在した電子状態(エッジ状態)が存在することが理論的に予想されていた。本研究では、グラファイト結晶表面上のステップ端の原子配列をSTMで確認し、その近傍での電子状態をSTSで観測した。その結果、ジグザグ型エッジ近傍だけでフェルミ準位以下数十meVに局在した電子状態を見出した。系統的な測定により，これが理論予想されてうたエッジ状態であると結論した。

(3)　InAs表面電子蓄積層でのランダウ準位の観測:GaAs基板結晶上にエピタキシャル成長させたInAs薄膜の表面電子蓄積層も2次元電子系を形成する。そこで、これを超低温・強磁場下でSTM・S観測することにより、ランダウ準位の形成を示すトンネルスペクトルを得ることに成功した。また、InAs層とGaAs基板との界面に形成されるショットキー障壁に起因する微分コンダクタンスの振動現象も見出した。

　以上のように、強磁場下で原子尺度の分解能での波動関数の直接観察を可能にした本研究は、従来の伝導物性や空間平均した分光的手法では得られない重要な情報をもたらすもので、その独創性が認められたため、博士(理学)の学位論文として十分の内容をもつものと認定し、審査員全員で合格と判定した。なお、本論文は、共同研究者らとの共同研究であるが、論文提出者が主体となって実験の遂行や結果の解析を行ったもので、論文提出者の寄与が十分であると判断する。