We study the quantum phase transition between hadronic matter and color superconducting quark matter with three-flavors (up, down, and strange quarks). We demonstrate the conti-nuity between them from a variety of perspectives such as the phase structure, elementary excitations, and topological excitations.

First, we classify the possible QCD phase structures by using the Ginzburg-Landau theory based only on the QCD symmetry. We find that an interplay between the chiral conden-sate and the diquark condensate induced by the axial anomaly leads to a new critical point and a crossover between hadronic matter and quark matter. We then study the location of this new critical point with an effective model of QCD, the Nambu-Jona-Lasinio model. A novel crossover triggered by the axial anomaly between a Bose-Einstein condensation of the diquark pairing and a Bardeen-Cooper-Schrieffer-type pairing is found in this model

Secondly, we study the collective excitations in dense QCD and derive formulas relating the masses of Nambu-Goldstone modes and vector mesons to chiral and diquark condensates. For the Nambu-Goldstone modes, we show the continuity between the pions (qq-states) at low density and the generalized pions (qqqq-states) at high density within the framework of the effective Lagrangian. For the vector mesons, we find the spectral continuity between the flavor-octet vector mesons at low density and the color-octet gluons at high density using the in-medium QCD sum rules.

Thirdly, we constitute a dynamical demonstration of the crossover found above in terms of the QCD topological excitations, the instantons. We show that instantons always behave as a unpaired plasma at high density using the renormalization group approach, which accounts for a nonvanishing chiral condensate at high density. This crossover can also be interpreted as a four-dimensional analogue of the Berezinskii-Kosterlitz-Thouless phase transition of vortices in two dimensions.

Finally, we formulate an exact duality between hadronic matter and quark matter in a finite volume: Their partition functions are mapped to each other via a transformation between the chiral condensate and the color superconducting gap.

These studies on dense QCD from different points of view strongly indicate a novel notion of "hadron-quark continuity and duality" which has close relevance to the physics in the interiors of neutron stars and in the future heavy ion collision experiments.

本論文は7章からなる。第1章は、イントロダクションであり、本研究に至った着想が述べられている。第2章は、研究の背景となるカラー超伝導の物理の基礎がまとめられている。第3章ではモデルに依存しないGinzburg-Landau理論に基づきQCD相構造の解析がなされ、ハドロン相とカラー超伝導相の連続性が示された。また、連続性に関連して、相構造上に新しい臨界点が現れることを初めて具体的に示し、QCDの軸性アノマリーとの関連を議論した。更に、QCDの有効模型であるNambu-Jona-Lasinio模型を用いて、上記の連続性が具体的に確かめられた。特にこの模型のラグランジアンにおける従来の相互作用項は、軸性アノマリーを記述する上で不十分であることを指摘し、新たに高密度領域でも正しくアノマリーを表現する相互作用項を導いた。第4章では、有効ラグランジアン及びQCD和則を用いて、励起モードとしてのNambu-Goldstone粒子とベクトル粒子に対して、有限密度における一般化された質量公式の導出がなされた。第5章では、QCDのトポロジカルな励起としてインスタントンのダイナミクスを考え、上記の連続性の基礎付けを行った。第6章は、ある条件を満たす有限の体積において、低密度ハドロン物質と高密度クォーク物質の分配関数に関する等式を証明し、このハドロン相とカラー超伝導相の間に双対性があることを示した。また、関連して様々な和則を導いた。

QCD物質の相構造は、物性物理学的見地から見たQCDの中心課題であるが、論文申請者は、非常に一般的に相構造のパターンを見出し、そのメカニズムを理論が持つ対称性とその動的破れから見事に示した。高密度QCD物質の非摂動的側面を様々な角度から解析した、非常に重要な結果である。

なお、本論文の第3章は、阿武木啓朗・Gordon Baym・初田哲男・橘基らとの共同研究、第4章(付録Bを含む)は、Gordon Baym・初田哲男・橘基らとの共同研究、第6章(付録Cを含む)は、金澤拓也・Tilo Wettigとの共同研究であるが、いずれの章も論文提出者が主体となって計算、解析を行ったもので、論文提出者の寄与が十分であると判断する。

したがって、博士(理学)の学位を授与できると認める。