基于Hybrid样本的学习过程一致收敛速度的界
2016-11-07李俊华白鹤举
李俊华,白鹤举
(1.河北大学 数学与信息科学学院,河北 保定 071002;2.承德石油高等专科学校 基础教学部,河北 承德 067000)
基于Hybrid样本的学习过程一致收敛速度的界
李俊华,白鹤举
(1.河北大学 数学与信息科学学院,河北 保定071002;2.承德石油高等专科学校 基础教学部,河北 承德067000)
学习过程收敛速度的界是统计学习理论的重要组成部分,这些界决定了学习机器的推广能力.以机会理论和Hybrid变量的概念为基础,讨论了基于Hybrid样本的学习过程一致收敛速度的界,并给出了这些界和函数容量之间的关系.
Hybrid变量;Hybrid经验风险最小化原则;一致收敛速度的界
MSC 2010:28E10
统计学习理论(statistical learning theory,简称SLT)是专门针对小样本情况研究机器学习规律的理论,学习理论的关键定理和学习过程收敛速度的界在SLT中起着非常重要的作用,学习理论的关键定理给出了基于经验风险最小化原则的学习过程一致性的充分必要条件,而通过对学习过程收敛速度的界的讨论则可以进一步研究基于经验风险最小化原则的学习机器的推广能力.文献[1]给出了基于Hybrid样本的学习理论的关键定理,本文将在此基础上,进一步讨论基于Hybrid样本的学习过程一致收敛速度的界.
1 预备知识
定义1[2]设(Θ,P,Cr)是可信性空间,(Ω,A,Pr)是概率空间,则(Θ,P,Cr)×(Ω,A,Pr)称为机会空间.
性质1[2]设(Θ,P,Cr)×(Ω,A,Pr)是机会空间,则机会测度Ch满足以下性质:
1)Ch{Ø}=0,Ch{Θ×Ω}=1;2)对任意事件Λ,有0≤Ch{Λ}≤1;3)若事件Λ1⊆Λ2,则Ch{Λ1}≤Ch{Λ2};4)对任意事件Λ,有Ch{Λ}+Ch{Λc}=1;5)对任意事件Λ1和Λ2,有Ch{Λ1∪Λ2}≤Ch{Λ1}+Ch{Λ2}.
定义2[2]设ξ是一个从机会空间(Θ,P,Cr)×(Ω,A,Pr)到实数集R的可测函数,若对任意R上的Borel 集B,都有{ξ∈B}={(θ,ω)∈Θ×Ω|ξ(θ,ω)∈B}是……