Single-gluon exchange between two quarks is attractive in the color-antitriplet channel. Therefore, at high baryon density and low temperature quark matter is expected to undergo a phase transition to a color superconductivity due to a Cooper instability. Forthree massless flavors（u,d,s）, a ground state called the color-flavor-locked（CFL）phaseis expected to realize. Theoretically, there has been a lot of work to make the nature ofthe high density quark matter clear and various new phases of color superconductor havebeen proposed so far. Such a high density quark matter is expected to exist in the coresof the neutron stars. Also,future experiments e.g. J-PARC（2007-）and GSI（2014-）tryto reproduce and elucidate this state.

In this thesis, we describe the thermal phase transition in color superconductivity bymodel independent Ginzburg-Landau（GL）approach and study the features of the phasetransition, the phase structure and the elementary excitations near the phase boundary.We also investigate the　vortices which arise in color-flavor-locking （CFL） phase by use ofthe GL free energy and topological considerations.

To investigate the phase structure color superconductivity, Ginzburg-Landau theoryis one of the most powerful analytic tools, where the thermodynamic potential differencebetween the superfluid and normal phases is expanded in terms of the order parameter（the pairing gap）. It is adequate near the phase transition temperature arid its form ismode independent, which means we can make some predictions even up to rather lowdensity region. Moreover, we can determine the coffients of the expansion by QCDitself in the asymptotically high density region.

In thebeginning of this thesis, we construct the GL free energy in the case of masslessquarks with no chemical potential differences among quarks （m=δμ=0）in weak coupling （at high baryon density）. The　method we employ is the Cornwall-Jackiw-Toinboulis（CJT） approach in the rainbow-ladder approximation with the gluon propagator in thenormal medium. The order parameter is just the pairing gap field with JP=0+, colorflavor antisymmetric, and positive energy. We derive the coefficients in the GL free energyup to quartic order. Then the phase transition is found to be second order and the orderedphase is the CFL phase. To incorporate the inhomogeneity, gradient terms are includedas well as color and electromagnetic gauge fields. The masses of color gauge fields andthe order parameter fields are calculated.

Next. we incorporate the effects of quark mass m and chemical potential differencesamong quarks δμ perturbatively into the GL free energy and study how they affect thethermal phase transition. In the regime of realistic baryon density for quark matter inneutron stars （μ〜400MeV）, m and δμ play an important role since strange quark mass（ms〜100MeV） cannot be neglected compared to the energy scale.δμ also enters ifwe impose the β equilibrium condition, color and electric charge neutrality conditions.Among these conditions, color neutrality condition turns out to be negligible near thephase transition temperature.

Generally, m and δμ shift the fermi momenta among flavors. The melting temperatureof a Cooper pair, which is made of quarks with the mismatch in fermi momenta, turn out todepend only on the average of the fermi momenta of paired quarks and not the differenceof the fermi momenta as in the case of T=0. Namely, the larger the average fermimomenta among the paired quarks,the higher the melting temperrature of the Cooperpair is. In realistic quark matter, the average fermi momenta among i,j quarks, 〓, ordersuch as〓,thus the melting temperature of the Cooper pair of i,j quark,〓,follows like 〓. This ordering hierarchies the thermal phase transition.Namely, three successive phase transitions take place as the temperature increases: a modified color-flavor locked phase （ud, ds, and us pairings）→a dSC phase （ud and ds pairings）→an 2SC phase（ud pairing）→a normal phase （no pairing）. Such picture is also confirmed by another effective theory of QCD.

Further we calculate the Meissner masses of the transverse gluons and the number of gapless quark modes analytically. The gapless quarks arc found to appear near the phase boundaries where the gap is small compared to the mismatch in fermi momenta. Also,the Meissner masses turn out to be real and positive in those phases which include the gapless quarks. This indicates the existence of stable gapless phases in contrast to the unstable gapless phases, where the Meissner masses are imaginary, which are found away from the critical temperature.

Finally, we investigate the vortices which arise in the CFL phase by use of the GL free energy as well as the topological and dynamical considerations. Firstly, we show that the order parameter space of CFL phase is U（3）, which can　genrate the vortices classified by Z. In the construction of the vortices, we have shown that both generators of local U（1） gauge symmetry （which is electromagnetic one and/or abelian subgroup of color SU（3）C symmetry） as well as global U（1）B baryon symmetry are required. The vortexconsists of a large amount of the color gauge field and a small amount of electromagncticgauge field. At the same time, it has a logarithmically divegrgent energy per unit length.Thus our vortex is named semi-superfluid vortex, which compromises the local （gauged flux tube） and global （superfluid） vortices. The profile of the semi-superfluid vortex is drawn by numerically solving the colipled Euler-Lagrange equations derived from the GL free energy. Dynamically, the vortices are stable in the Type II region of thecolor superconductor which is expected to exist in the low density region such as the cores in the CFL phase of the neutron star during the cooling process.

There remain several future problems:

In the construction of the Ginzburg-Landau free energy, we treat the CJT affective potential as the function of full fermion propagator.However, in principle, we should treat the full quark and gluon propagator together in a self-consistent way in the CJT formalism, which wolud make the picture of the phase transition more precise.

How the additional effect of thermal fluctuation of gauge fields affects the realistic quark matter is an important future problem.

QCD at high density seems to have various defects. The evolution mechanism of such defects is important since if such defects exist in the neutron stars, it may become one of the sources of the abnormal enhancement of rotation speed of thestar（glitch）, whose mechanism is not fully understood.

本論文は英文で書かれ、本文6章（chapter）と補章（appendix）5章から構成されている。第1章は序論で、この研究の背景と問題の設定、それに対するこの論文の基本的方法の説明、そして論文の構成と残りの各章の簡単な要約が述べられている。第2章は「カラー超伝導」についてのレビューで、その基本的概念がまとめられ、第3章では、Ginzburg-Landau型の自由エネルギーによってカラー超伝導状態を記述する方法が説明され、それをu、d、sクォークの質量が縮退している高密度極限の仮想的な系に適用して、3つのカラーとフレーバーが1対1に組んだCFR（Color-Flavor-Locking）相がその最も安定な基底状態となることが示されている。第4章では、実際のsクォークの質量が現実的な値をもち、電気的中性条件、β平衡条件によって化学ポテンシャルの縮退が解かれた場合が取り扱われている。秩序変数の2次の係数がsクォークの質量にどのように依存するかが摂動論で計算され、その結果をもちいてカラー超伝導相の相構造が調べられている。第5章は、秩序変数が2次元的なボーテックス（渦）構造をもつ可能性が検討されている。この2章がこの論文の中核をなしている。第6章は論文のまとめにあてられ、計算の詳細の説明は5つの補章でおこなわれている。

この論文において筆者は、核物質の高密度相として最近注目されているカラー超伝導相の相構造と渦構造について、Ginzburg-Landau理論に基づいて行った研究の成果をまとめている。核物質は、重い原子核の中心部分を理想化した陽子と中性子からなる高密度物質であるが、その密度が原子核の飽和密度よりも更に一桁以上高い高密度では、個々の核子はそれを構成するクォークの一様な物質（クォーク物質）に融解すると考えられ、更にクォーク間に2体の引力が働くと、超伝導のBCS理論で良く知られているように、フェルミ面上でクーパー対生成に対する不安定性が生じ、カラー超伝導相が実現すると理論的に考えられている。そのようなクォーク間の引力はグルーオン交換によって、クォーク対がカラーについて反3重項状態にあるとき働くことが知られており、それを反映した秩序相が実現することが予想される。クォークはスピン、カラー、フレーバーの内部自由度をもつため、それらがどのような組み合わせをもった凝縮相が実現されるかということが通常の超伝導相と違って特に興味がもたれる。また凝縮相において内部空間における対称性の破れのトポロジーを反映して凝縮体が渦構造をもつ可能性も興味ある問題である。著者等はこの2つの問題について研究を行った。

これまでの研究では、3種類の軽いクォークのフレーバーの質量差を無視する近似で、カラーとフレーバーのそれぞれの3重項の成分が1対1に結合したCFL相が最も安定に実現されると考えられてきた。しかし、実際に中性子星などで問題となる密度領域では、sクォークの質量（ms'〜150-200MeV）はクォークの化学ポテンシャルと同程度で無視できないことから、筆者等はフレーバー対称性が破れたより現実的な状況でどのような相が熱力学的にもっとも安定となるかを調べた。筆者等がとったアプローチは、秩序変数の4次までの項で自由エネルギーを書き下すGinzburg-Landauによる半現象論的な方法で、クォークの質量への依存性をCornwall-Jackiw-Tomboulisの複合場有効ポテンシャルの方法を用いて摂動的に計算し、それをつかって熱力学的安定性を調べた。

その結果、低温ではCFL相を少し変形したmCFL相が実現し、温度を上げるに従って、まずsクォークとuクォークのペアリング（対）が消えてdsクォーク対、udクォーク対が残ったdSC相と呼ばれる相が安定となり、更に温度が上がると、sdクォーク対も解けて、udクォーク対だけが凝縮した2SC相が安定となるという結果を得た。sdクォーク対がsuクォーク対に比べて安定なのは、平均してフェルミ面のサイズが大きいため結合状態を作るのにつかう状態数がおおきくなり強く結合できることによると筆者は結論している。但し、この結論は比較的低温の場合のみ適用でき、最近の別の研究では、温度が高い場合はペアリングを作る2つのクォークのフェルミ面のサイズに大きな違いがあると、逆に結合状態は作りにくくなり安定性が逆転するという結果も報告されている。著者は、更にそれぞれの凝縮相においてどのような励起モードが出現するかについても検討し、マイスナー効果によって質量をもつグルーオンのモードの数がmCFL相、dSC相、2SC相によって異なることを示している。マイスナー効果で遮蔽されていないグルーオンは熱的揺らぎが大きく臨界点近傍で相転移の次数を2次転移から1次転移に変化させる可能性が補章で議論されている。

この論文では、カラー超伝導体の中に1次元的な渦構造をもったゲージ場の配位ができる可能性も検討されている。一般に超伝導体はマイスナー効果に依って磁場を排除するが、第2種超伝導体では量子化された渦の形で磁場が侵入できることが知られている。渦の中心ではクーパー対を記述する秩序変数が0となり正常相となって磁場の存在を許しその周りで浸透長の距離で磁場が広がった構造が安定となる。同様なことは、超流体でも秩序変数の位相の自由度を用いて作ることができ、この場合はゲージ場を伴わないため単位長さあたりの渦のエネルギーは系の大きさとともに対数発散する。著者等は、カラー超伝導体中でも秩序変数が渦状に変化すした構造をもって安定となる解が存在することを秩序変数のトポロジカルな性質の考察から示し、その渦構造をGinzburg-Landau理論を用いてその局所平衡解を数値計算に依って求めた。著者等が見つけたカラー超伝導体中の渦は、超流体の渦と超伝導体の磁場の渦との両方の性質を兼ね備えた解となっていおり、著者等はこの解を「半超流動渦」と命名している。

この論文の一部は指導教官である初田教授等との共同研究に基づいているが、本人の寄与が十分あり、博士号を授与するのに十分な内容であると審査員一致で判定した。