李冠强 唐劲羽 彭娉 竹有章 牛海波

摘 要：研究了自旋张量-动量耦合作用下自旋1玻色-爱因斯坦凝聚体（BEC）中连续波态的调制不稳定性.借助于扰动频率和波数之间的色散关系，研究发现系统的调制不稳定性可以用六个不等价的分支来充分描述.进一步分析表明，在给定拉曼耦合强度和原子-原子相互作用强度下，动量空间中调制不稳定增长率分布关于k=0是对称的，并可用若干不同的不稳定带来表征.本文也计算了在相同参数条件下自旋-轨道耦合自旋1 BEC中调制不稳定的增长率，并与前者的结果进行了比较.除了不同的谱带数目和谱带强度外，具有自旋-轨道耦合BEC的调制不稳定性实际上只与三个不等价的分支有关，这源于它与具有自旋张量-动量耦合BEC系统的单粒子哈密顿量的不同对称性.这些结果不仅有助于人们理解系统基态的非线性动力学性质，而且有助于对系统中可能存在的非线性激发进行系统分析.

关键词：玻色-爱因斯坦凝聚；自旋张量-动量耦合；自旋-轨道耦合；调制不稳定性

中图分类号：O474

文献标志码： A

文章编号：2096-398X（2023）04-0195-08

Abstract：The modulation instabilities of continuous-wave states in spin-1 Bose-Einstein condensates under spin tensor-momentum couplings are investigated.With the help of the dispersion relation between perturbation frequency and wavenumber，we find that the modulation instability of the system can be adequately described by six unequal branches.Further analysis shows that，for a given Raman coupling strength and atom-atom interaction strength，the modulation instability growth rate distribution in momentum space is symmetric about k=0 and can be characterized by several different instability bands.We also calculate the growth rate of modulation instability in spin-orbit coupled spin-1 Bose-Einstein condensates under the same parameter conditions and compare with the former results.Besides the different number of bands and band intensities，the modulation instability of Bose-Einstein condensates with spin-orbit coupling is actually only related to three unequal branches，which stem from its different symmetries of the single-particle Hamiltonian of a spin-tensor-momentum coupled BEC system.These results not only contribute to the understanding of the nonlinear dynamic properties of the ground state，but also to the analysis of possible nonlinear excitations in the system.

Key words：Bose-Einstein condensate; spin tensor-momentum coupling; spin-orbit coupling; modulation instability

0 引言

超冷原子气体的玻色-爱因斯坦凝聚体（BEC）由于其纯净性和可控性成为量子模拟的理想平台［1，2］.在实验上，超冷气体中原子之间的相互作用可以通过费什巴赫共振技术来进行调节［3］.单组分和多组分BEC中物质波的非线性相干結构和动力学特性是展现这种技术的优良范例［4］.由于实现了超低温费米气体BCS-BEC渡越的幺正极限，使得探索强关联效应和超冷分子物理的性质成为了可能［5，6］.用于捕获超低温气体的光学晶格的出现在这种可控性方面又向前迈进了一步［7］.对传统凝聚态物理及其相关领域中的许多现象和效应，如超流-莫特绝缘转变［8］和Anderson局域化［9］，人们也已经借助超冷原子平台进行了大量研究并做出重新理解.

由于超冷原子人工规范场可以在实验上实现，使得在最近发展的拓扑量子物质和非平衡动力学过程中推广新的概念和构想变得更加灵活［10，11］.通过原子与两束激光的相互作用，原子的自旋和轨道运动可以耦合在一起，形成中性玻色原子中的自旋-轨道耦合（SOC）［12，13］.具有SOC作用BEC的研究为发现非零动量的平面波相和条纹相等奇异态提供了新的机会［14］.同时，各种SOC的新变种，包括自旋-轨道角动量耦合［15-17］和自旋张量-动量耦合（STMC）［18，19］，被提出用于研究新的物理机制.磁条纹孤子的研究进展［20］和亮孤子［21］也显示出STMC项所具有的非平庸特性.

如果关注具有STMC作用BEC的基态稳定性和物质波的动力学，目前还存在一个需要解决的基本问题.这就是连续波态对小扰动的调制不稳定性，它引发了常数振幅连续波向具有调制振幅态的动力学转换［22］.任何非线性系统的调制不稳定特性不仅决定了系统中非线性激发的种类，而且影响着系统的动力学演化特性，包括基态的寿命.在实验中，人们证实了调制不稳定性是孤波和孤波阵列形成的必要机制［23-25］.单组分BEC的调制不稳定性只存在于原子-原子间为吸引的相互作用情形中［26，27］.对于双组分BEC，必须满足相分离条件才能诱导出调制不稳定性［28，29］.对于均匀条件下的自旋1超冷气体，铁磁凝聚体是动力学不稳定的，它会自发演化为多畴结构，与动力学稳定的反铁磁凝聚体形成明显差别［30-34］.人们也在自旋1/2系统中研究了带SOC作用BEC的调制不稳定性［35-37］，发现不稳定性与无SOC作用BEC的结果有很大的不同.SOC项的加入极大地改变了BEC的不稳定性条件，使BEC的不稳定性不仅表现在具有吸引原子间的相互作用中，而且也表现在具有排斥性质的原子间相互作用中.同时，人们研究了调制不稳定性在自旋1 BEC中的推广，并通过考虑密度-密度和自旋交换相互作用，揭示了系统更加丰富的不稳定结构［38］.最近，调制不稳定性在偶极量子气体的BEC［39］和量子液滴系统中得到了研究［40，41］，使得人们对量子气体的奇异状态有了新的认识.

本文研究了拉曼耦合作用下具有自旋张量-动量耦合的自旋1 BEC的调制不稳定性质.在等效一维几何模型中，利用平均场框架对调制不稳定性进行分析.结果表明，具有STMC和SOC作用自旋1 BEC的调制不稳定性表现出非平庸的性质，将导致系统中奇异的非线性激发和复杂动力学的出现.本文结构安排如下：

第一部分描述了具有STMC和SOC作用自旋1 BEC的理论模型.在第二部分中，通过连续波的线性稳定性分析，给出了调制不稳定性的理论分析过程，解析推导了扰动的频率与波数之间的色散关系，并引入了不稳定性的增长速率，来定量地描述系统出现不稳定性的程度.在第三部分中，通过计算增长速率在动量空间的分布，讨论了拉曼耦合和原子间有效相互作用对调制不稳定性的影响.通过与具有SOC作用的BEC在相同参数条件下的调制不稳定性进行比较，得到了一些新的结果.最后，在第四部分给出简短的讨论和本文的结论.

1 理论模型

本文的研究基于对超冷玻色气体BEC中实现STMC的理论方案［18］.具有波数kR的三束激光在自旋1 BEC的三个超精细自旋态之间产生了两个拉曼跃迁，两个跃迁沿x方向具有相同的反冲动量2kR.在具有SOC的BEC中，两个拉曼跃迁中沿x方向被转移的反冲动量为±2kR［13］.这一过程使得具有STMC作用BEC的单粒子哈密顿量与具有SOC作用BEC的单粒子哈密顿量完全不同.具有STMC作用BEC的哈密顿量包括两个亮态带（与具有SOC作用自旋1/2 BEC相同）和一个暗态中间带.中间带最小值与两个亮态的最小值非常接近，这能极大地改变系统的基态.超冷原子气体中STMC效应与原子间的非线性相互作用相结合，为产生具有高对比度和长可调周期的新型动力学条纹相提供了机会［18］.

具有STMC作用自旋1 BEC的动力学由如下方程来给出［18，21］：

所有这些系数均由系统的初始密度以及参数ΩR和g来确定.

一般情况下，方程（10）的解析解是很难得到的，但是其数值解总是可以求解的.色散方程的解决定着系统调制不稳定的性质.本文发现对具有STMC的自旋1 BEC来说，色散方程具有六个不相同的根，代表了调制不稳定中六个不等价的分支.Ω虚部的存在性意味着连续波是调制不稳定的.空间调制微扰将随着时间指数式增长.系统的不稳定增长率（IGR），定义为χm≡|Im（Ωm）|（m=1，2，3，4，5，6），给出调制不稳定程度的定量描述.显然，调制不稳定增长率χm作為波数k的函数，可以被系统的参数ΩR和g进行调节.

3 主要结果

本部分给出本文的主要计算结果.图1描述了固定原子间相互作用但改变拉曼耦合强度时，具有STMC作用BEC中连续波态的调制不稳定增长率χm在动量空间中的分布情况.原子间有效相互作用g=1.0.首先，本文发现动量空间中调制不稳定增长率关于k=0的分布是对称的.在方程（9）形式的激发下，动量-k处基态的不稳定性与动量k处的不稳定性相伴随出现并且具有相同的不稳定性质.±k处同时出现动量不稳定性表明该系统很容易产生条纹型的非线性激发.

图1（a1）～（f1）所示的六种分布代表了六种不等价不稳定性分支.每个分支都具有双峰或多峰结构.这六个分支中，每一个分支通过峰的强度和分布与其它分支相区别.为了表示方便，图1（a2）～（f2）给出了三维分布对应的二维投影图.在每个分支中，对给定的原子-原子间排斥相互作用强度（g>0），不稳定增长率在（k，ΩR）平面上的分布被分为数对不同的带.

很明显，在图1（a2）～（d2）中，仅存在一对不稳定带，而在图1（e2）、（f2）中分别存在分布于k<0和k>0处的两对不稳定带.不同的对具有不同的分布和强度.不稳定性发生在整个拉曼耦合强度范围（ΩR∈［0.5］），不稳定增长率随着ΩR的增加而减小.当ΩR较大时，调制不稳定出现的时间会更长［24］.

为了进行比较，在相同参数条件下具有SOC作用自旋1 BEC的相应结果如图2所示.可以看出，两种情况下不稳定性的分布非常不同.对于SOC作用的BEC，在不稳定增长率χ1和χ2，χ3和χ4以及χ5和χ6的六种分布中，实际上只有三个不等价的分支.不仅如此，三个分支中不稳定带的对数分别是1、3和4，说明具有STMC的BEC与具有SOC的BEC在调制不稳定性上有显著差异.这种差异源于具有STMC和SOC作用BEC的单粒子哈密顿量中4ixF2z和4ixFz项所决定的不同对称性.单粒子哈密顿量对STMC作用BEC具有自旋旋转对称性，对SOC作用BEC具有自旋旋转和宇称联合对称性［21］.拉曼耦合作用下的结果与图1相似，不稳定性的强度随着ΩR的增加而减小.

對于单组分BEC，调制不稳定性只存在于原子-原子间为吸引的相互作用系统中［26，27］.对于双组分BEC，只要相分离条件满足，则会出现不稳定性［28，29］.具有吸引相互作用的BEC（g<0）中更容易出现不稳定.图3给出了考虑吸引原子间相互作用BEC连续波态的不稳定增长率χm（k，ΩR）的分布.原子间有效相互作用g=-1.0.研究发现，在具有STMC作用BEC的不稳定分布中，原子间的相互作用在吸引和排斥时存在较大的差异.在图3中，前两个分支的不稳定带对数在图3（a2）、（b2）中为1，在图3（c2）、（d2）中为2，在图3（e2）、（f2）中为3.不稳定增长率分布中，接近k=0的不稳定带相比于具有排斥原子作用的情形更宽，意味着不稳定性更易发生在具有吸引相互作用的情形中.同时，吸引相互作用情形中更大的不稳定增长强度显示不稳定将发生在相对更短的时间内.

在这种情况下，除了系统存在三个不同的分支外，图4（a2）、（b2）给出的第一分支中不稳定带的对数是1，图4（c2）、（d2）描述的第二分支中不稳定带的对数是3，图4（e2）、（d2）中描述的第三个分支中不稳定带的对数是5.最接近k=0的两个分支比其它强度更大.无论如何，不管是具有STMC的BEC还是具有SOC的BEC，我们都有理由认为在相同条件下的吸引相互作用更有利于调制不稳定的出现.

图5给出拉曼耦合强度ΩR=1.0时具有STMC作用BEC不稳定增长率χm（k，g）的分布.图6给出了具有SOC作用BEC相似的结果.

结果显示，具有STMC作用BEC的不稳定分布中存在6个不等价分支，而具有SOC作用BEC的不稳定分布中存在3个不等价分支.具有STMC作用BEC中除图5（a）给出的第一个分支外，g<0情形下其它分支的条带对数都大于g>0的情形，这从图5（b）～（f）中可以看出.g<0时不稳定带的强度随着|g|的增加而增强.这一结果并不局限于k=0附近，而且可以拓展到更大的动量k.在图6中，g>0和g<0时不稳定带的对数相同，不稳定增长率的最大值随着|g|的增加而急剧增加.

4 结论

综上所述，本文对具有STMC作用自旋1 BEC的调制不稳定性进行了线性稳定性分析.系统的不稳定性质是由连续波的扰动色散关系决定的，连续波的不稳定性有六个不等价分支.对于每个分支，不稳定增长率在三维情况下的分布为双峰或多峰结构，而在二维投影图上则以一对或数对不稳定带的形式表现出来.这些带在零波数的两侧对称分布.正动量和负动量同时出现不稳定表明，系统中具有条纹形状的非线性结构易于激发.在相同的条件下，对具有SOC作用BEC的调制不稳定性进行了类似的研究.具有SOC作用BEC的调制不稳定分布实际上可以用三个不等价的分支来描述.多带结构的不稳定分布会导致系统产生具有高次谐波的非线性激发和复杂动力学.对于具有STMC和SOC作用的BEC，在考虑拉曼耦合的整个区域内，调制不稳定性都会发生.不稳定强度随着拉曼耦合强度的增加而减小，意味着调制不稳定发生时间随着拉曼耦合强度的增加而变长.原子间相互作用越强，越容易观测到调制不稳定性.无论是具有STMC还是具有SOC作用BEC，在同等条件下具有吸引相互作用要比排斥相互作用系统更有利于产生不稳定.上述结果反映了自旋1 BEC中由SOC和STMC以及原子间的相互作用诱导的调制不稳定的独特性质，这些结果将促进对具有SOC和STMC作用BEC性能的进一步实验研究.

参考文献

［1］ Dalfovo F，Giorgini S，Pitaevskii L P，et al.Theory of Bose-Einstein condensation in trapped gases［J］.Review of Modern Physics，1999，71（3）：463-512.

［2］ Gross C，Bloch I.Quantum simulations with ultracold atoms in optical lattices［J］.Science，2017，357（6 355）：995- 1 001.

［3］ Chin C，Grimm R，Julienne P，et al.Feshbach resonances in ultracold gases［J］.Review of Modern Physics，2010，82（2）：1 225-1 286.

［4］ Kevrekidis P G，Frantzeskakis D J，Carretero Gonzalez R.Emergent nonlinear phenomena in Bose-Einstein condensates：Theory and experiment［M］.Verlag Berlin：Springer Publisher Services，2008.

［5］ Chen Q，Stajic J，Tan S，et al.BCS-BEC crossover：From high temperature superconductors to ultracold superfluids［J］.Physics Report，2005，412（1）：1-88.

［6］ Giorgini S，Pitaevskii L P，Stringari S.Theory of ultracold atomic fermi gases［J］.Review of Modern Physics，2008，80（4）：1 215-1 274.

［7］ Morsch O，Oberthaler M.Dynamics of Bose-Einstein condensates in optical lattices［J］.Review of Modern Physics，2006，78（1）：179-215.

［8］ Greiner M，Mandel O，Esslinger T，et al.Quantum phase transition from a superfluid to a Mott insulator in a gas of ultracold atoms［J］.Nature，2002，415：39-44.

［9］ Jendrzejewski F，Bernard A，Muller K，et al.Three-dimensional localization of ultracold atoms in an optical disordered potential［J］.Nature Physics，2012，8：398-403.

［10］ Dalibard J，Gerbier F，Juzeliūnas G，et al.Artificial gauge potentials for neutral atoms［J］.Review of Modern Physics，2011，83（4）：1 523-1 543.

［11］ Cooper N R，Dalibard J，Spielman I B.Topological bands for ultracold atoms［J］.Review of Modern Physics，2019，91（1）：015 005.

［12］ Lin Y J，Jimenez Garcia K，Spielman I B.Spin-orbit-coupled Bose-Einstein condensates［J］.Nature，2011，471：83-86.

［13］ Campbell D L，Price R M，Putra A，et al.Magnetic phases of spin-1 spin-orbit-coupled Bose gases［J］.Nature Communications，2016，7：10 897.

［14］ Wang C J，Gao C，Jian C M，et al.Spin-orbit-coupled spinor Bose-Einstein condensates［J］.Physical Review Letters，2010，105（16）：160 403.

［15］ DeMarco M，Pu H.Angular spin-orbit coupling in cold atoms［J］.Physical Review A，2015，91（3）：033 630.

［16］ Sun K，Qu C，Zhang C.Spin-orbital-angular momentum coupling in Bose-Einstein condensates［J］.Physical Review A，2015，91（6）：063 627.

［17］ Chen H R，Lin K Y，Chen P K，et al.Spin-orbital-angular momentum coupled Bose-Einstein condensates［J］.Physical Review Letters，2018，121（11）：113 204.

［18］ Luo X W，Sun K，Zhang C W.Spin-tensor-momentum- coupled Bose-Einstein condensates［J］.Physical Review Letters，2017，119（19）：193 001.

［19］ Hu H，Hou J P，Zhang F，et al.Topological triply degenerate points induced by spin-tensor-momentum couplings［J］.Physical Review Letters，2018，120（24）：240 401.

［20］ Zhao L C，Luo X W，Zhang C W.Magnetic stripe soliton and localized stripe wave in spin-1 Bose-Einstein condensates［J］.Physical Review A，2020，101（2）：023 621.

［21］ Sun J，Chen Y Y，Chen X，et al.Bright solitons in a spin-tensor-momentum-coupled Bose-Einstein condensate［J］.Physical Review A，2020，101（5）：053 621.

［22］ Zakharov V E，Ostrovsky L A.Modulation instability：The beginning［J］.Physica D：Nonlinear Phenomena，2009，238（5）：540-548.

［23］ Al Khawaja U，Stoof H T C，Hulet R G，et al.Bright soliton trains of trapped Bose-Einstein condensates［J］.Physical Review Letters，2002，89（20）：200 404.

［24］ Nguyen J H V，Luo D，Hulet R G.Formation of matter-wave soliton trains by modulational instability［J］.Science，2017，356（6 336）：422-426.

［25］ Everitt P J，Sooriyabandara M A，Guasoni M，et al.Observation of a modulational instability in Bose-Einstein condensates［J］.Physical Review A，2017，96（4）：041 601（R）.

［26］ Theocharis G，Rapti Z，Kevrekidis P G，et al.Modulational instability of Gross-Pitaevskii-type equations in 1+1 dimensions［J］.Physical Review A，2003，67（6）：063 610.

［27］ Salasnich L，Parola A，Reatto L.Modulational instability and complex dynamics of confined matter-wave solitons［J］.Physical Review Letters，2003，91（8）：080 405.

［28］ Kasamatsu K，Tsubota M.Multiple domain formation induced by modulation instability in two-component Bose-Einstein condensates［J］.Physical Review Letters，2004，93（10）：100 402.

［29］ Kasamatsu K，Tsubota M.Modulation instability and solitary-wave formation in two-component Bose-Einstein condensates［J］.Physical Review A，2006，74（1）：013 617.

［30］ Zhang W X，Zhou D L，Chang M S，et al.Dynamical instability and domain formation in a spin-1 Bose-Einstein condensate［J］.Physical Review Letters，2005，95（18）：180 403.

［31］ Pu Z G，Zhang J，Yi S，et al.Magnetic-field-induced dynamical instabilities in an antiferromagnetic spin-1 Bose-Einstein condensate［J］.Physical Review A，2016，93（5）：053 628.

［32］ Doktorov E V，Rothos V M，Kivshar Y S.Fulltime dynamics of modulational instability in spinor Bose-Einstein condensates［J］.Physical Review A，2007，76（1）：013 626.

［33］ Tasgal R S，Band Y B.Sound waves and modulational instabilities on continuous-wave solutions in spinor Bose-Einstein condensates［J］.Physical Review A，2015，91（1）：013 615.

［34］ Bhat I A，Mithun T，Malomed B A，et al.Continuous- wave solutions and modulational instability in spinor condensates of positronium［J］.Journal of Physics B：Atomic，Molecular and Optical Physics，2018，51（4）：045 006.

［35］ Ozawa T，Pitaevskii L P，Stringari S.Supercurrent and dynamical instability of spin-orbit-coupled ultracold Bose gases［J］.Physical Review A，2013，87（6）：063 610.

［36］ Ahmad Bhat I，Mithun T，Malomed B A，et al.Modulational instability in binary spin-orbit-coupled Bose-Einstein condensates［J］.Physical Review A，2015，92（6）：063 606.

［37］ Bhuvaneswari S，Nithyanandan K，Muruganandam P，et al.Modulation instability in quasi two dimensional spin-orbit coupled Bose-Einstein condensates［J］.Journal of Physics B：Atomic，Molecular and Optical Physics，2016，49（24）：245 301.

［38］ Li G Q，Chen G D，Peng P，et al.Modulation instability of an spin-1 Bose-Einstein condensate with spin-orbit coupling［J］.Journal of Physics B：Atomic，Molecular and Optical Physics，2017，50（23）：235 302.

［39］ Ferrier Barbut I，Wenzel M，Schmitt M，et al.Onset of a modulational instability in trapped dipolar Bose-Einstein condensates［J］.Physical Review A，2018，97（1）：011 604（R） .

［40］ Otajonov S R，Tsoy E N，Abdullaev F K.Modulational instability and quantum droplets in a two-dimensional Bose-Einstein condensate ［J］.Physical Review A，2022，106（3）：033 309.

［41］ Mithun T，Maluckov A，Kasamatsu K，et al.Modulational instability，inter-component asymmetry，and formation of quantum droplets in one dimensional binary Bose gases［J］.Symmetry，2020，12：174.

［42］ Li D，Huang L，Peng P，et al.Experimental realization of spin-tensor momentum coupling in ultracold Fermi gases［J］.Physical Review A，2020，102（1）：013 309.

【責任编辑：陈 佳】

基金项目：国家自然科学基金项目（11405100）；陕西省科技厅自然科学基金项目（2020 JM-507，2019JM-332）；陕西科技大学博士科研启动基金项目（2018BJ-02，2019BJ-58）; 西安交通大学城市学院校级研究专项（KCSZ01025）

作者简介：李冠强（1983—），男，甘肃庄浪人，副教授，博士，研究方向：超冷原子物理、量子模拟、非线性物理与拓扑物理