张爱旎， 邓志颖

重庆邮电大学 理学院，重庆 400065

本文讨论含有Sobolev临界指数项的分数阶p-q型椭圆系统

(1)

形如方程组(1)的分数阶椭圆边值问题具有很强的物理背景和广阔的应用前景，广泛应用于诸多领域，例如反常扩散问题、极小曲面问题、最优化问题、相变问题等[1-2]．

近年来，p-q型临界椭圆边值问题受到了学者们的广泛关注．例如文献[3]讨论了p-q型椭圆耦合系统

(2)

其中Ω⊂RN是包含原点的有界光滑区域，10，α，β>1满足α+β=p*，p*是Sobolev临界指数．应用山路引理和Lusternik-Schnirelmann(简称LS)畴数理论，得到了在一定条件下问题(2)至少存在cat(Ω)个正解．有关带有临界指数项的结论还可参见文献[4-10]．

近年来，分数阶临界椭圆边值问题引起了人们的广泛兴趣，目前已获得了一定的研究成果[11-17]．例如文献[14]研究了分数阶p-q型椭圆耦合系统

(3)

研究方程组(1)的主要困难在于：一方面，方程组(1)含有Sobolev临界指数项，使得对应的能量泛函失去紧性；另一方面，p-q型方程没有p-Laplace方程的齐次性，从而通常的变分方法和分析技巧受到很大的限制．本文应用山路引理克服了上述困难．

设a(x)，b(x)，H满足下述条件：

(H2)H(-ζ，-τ)=H(ζ，τ)，∀(ζ，τ)∈R2；

全文中，设Ω⊂RN为有界光滑区域，s∈(0，1)，p>1，C，C1均代表正常数．用Xs，p(Ω)表示通常的分数阶Sobolev空间，

其范数定义为

设乘积空间

这两个Banach空间的范数分别定义为

令空间E=Wp∩Wq，赋以范数

‖(u，v)‖E=‖(u，v)‖s，p+‖(u，v)‖s，q

下面我们定义分数阶Sobolev最佳临界常数

(4)

(5)

证该证明与文献[18]中引理3.2的证明类似．

(6)

容易验证J(u，v)∈C1(E，R)，从而泛函J(u，v)在E中的临界点对应于方程组(1)的弱解．我们称(u，v)∈E是方程组(1)的弱解，当且仅当对∀(φ，ψ)∈E，都有

(7)

其中

引理2若{(un，vn)}⊂E是J(u，v)的(PS)c序列，则{(un，vn)}在E中有界．

证若{(un，vn)}⊂E是J(u，v)的(PS)c序列，则有

(8)

应用反证法，假设当n→∞时，有‖(un，vn)‖E→∞．下面将分3种情况进行讨论：

由此可知‖(un，vn)‖E有界，矛盾．

情形2 ‖(un，vn)‖s，p有界，‖(un，vn)‖s，q→∞．根据(8)式，可知

从而可知

情形3 ‖(un，vn)‖s，p→∞，‖(un，vn)‖s，q有界．与情形2同理，矛盾．

引理3若{(un，vn)}⊂E是J(u，v)的(PS)c序列，且在E中有(un，vn)⇀(u，v)，则有J′(u，v)=0和J(u，v)>0．

证由文献[11]的引理3.3可知，J′(u，v)=0，即

(9)

(10)

成立，那么泛函J在E中满足(PS)c条件．

证设{(un，vn)}⊂E是J(u，v)的(PS)c序列，即满足

(11)

(12)

由引理2和引理3可知，{(un，vn)}在E中有界，从而{(un，vn)}存在子列(仍记为{(un，vn)})，在E中有(un，vn)⇀(u，v)，且(u，v)是J(u，v)的一个临界点．当n→∞时，有

un→u，vn→va.e.x∈RN

并且当n→∞时，由Lebesgue控制收敛定理可知

(13)

(14)

和

(15)

同时，对任意的(φ，ψ)∈E，若有

那么(u，v)∈E是方程组(1)的弱解，将(13)-(15)式代入(11)和(12)式，可得

(16)

(17)

不失一般性，设

由(5)和(17)式可知

(18)

这与(10)式矛盾，由此可知a=0，在E中有(un，vn)→(u，v)，引理4得证．

证证明与文献[15]中引理4.1、引理4.2、定理1.2的证明类似．

证显然J(0，0)=0成立．由(5)和(17)式可知

因此，存在常数ρ，β>0，使得对所有满足‖(u，v)‖s，p=ρ的(u，v)，都有J(u，v)≥β成立．

当t→∞时，J(tu，tv)→-∞，因此存在t0>0，使得当‖(t0u，t0v)‖s，p>ρ时，有J(t0u，t0v)<0．令(u0，v0)=(t0u，t0v)，则有成立．

Γ={γ∈C([0，1]，E)：γ(0)=0，γ(1)=e}

再结合引理4，可得泛函J的一个临界点(u1，v1)，因为J(u1，v1)=c1>0，故(u1，v1)是方程组(1)的非平凡解．