APP下载

高温预警服务公众评价量表的信度和效度研究

2013-04-21吴擢春杨丹丹许建明耿福海

中国全科医学 2013年25期
关键词:效度信度条目

花 静,彭 丽,吴擢春,曹 萌,杨丹丹,许建明,耿福海

高温热浪可导致人体体温调节系统的功能失调,从而诱发心血管疾病或中暑的发生。而随着全球气候变暖趋势的不断持续,高温对于人类健康的危害也日益加剧。上海市气象局从2004年开始推行了针对热相关疾病的高温预警服务,除了对高温本身进行预报以外,对于不同预警等级还制订了预防热相关疾病的相应措施,成为了上海地区防止中暑等热相关疾病的综合预防措施之一。然而该项预警服务措施实施至今对公众的效果效益如何亟待相关研究进行评价,由于其效果指标的测量涉及了“健康结局”及“服务依从性”等问题,无法单纯沿用气象领域传统的服务评估指标[1-6],需要结合卫生和气象领域的特点,采用量化的方法构建测量工具,对该服务进行有效和可靠的评估。因此本研究选择了曾用于“社区卫生服务效果评估”的“逻辑框架”理论作为基础,从服务可及性、关注满意度、依从性、服务效果效益(将“中暑”等热相关疾病的发生和相应医疗费用也作为评价的指标)等方面构建“高温预警服务公众评价量表”。通过服务人群的调查对该量表的稳定性(信度)和可靠性(效度)进行评价,不仅为高温预警服务的效果评估提供可靠的工具,也可为进一步建立“上海地区医学气象服务效果评价体系”提供依据。

1 对象与方法

1.1 调查对象 2011年10月,以拦截式调查方式在上海市9个重点商圈开展问卷调查,共获问卷684份,其中有效问卷435份。本研究所获得的样本量符合量表信效度分析要求的观测条目(13条)与样本量比例为1∶5或以上。调查员由具有公共卫生专业背景本科以上学历的人员组成。正式调查开始前,对调查人员进行统一培训,使其明确调查的目的和意义、并了解高温对于人体危害的相关知识,统一指导语,在向被调查者提问和解释条目意思时采用通俗化、易于理解以及不产生歧义的语言。问卷回收后进行逐条审查。并在数据输入前对问卷进行“二次”核查。本研究获得复旦大学公共卫生学院伦理学委员会批准,批准号:IRB#2011-10-0320。

1.2 量表设计 本研究首先通过查阅文献资料了解国内外现有的健康气象服务效果评价研究现状,并在广泛征集一线气象预报服务人员建议的基础之上制定了15个条目的初始问卷。随后以小组讨论(8名专家组成)的方式对不适合本国实际情况的条目予以删减,增加相应适用性更强的条目,或对条目内容进行修改,最后确定了13个条目进行问卷调查。问卷采用里克特五分法,分1~5级计分,其中“没有”计1分,“轻微”计2分,“一般”计3分,“比较高”计4分,“非常高”计5分,得分越高表明情况越好。问卷中同时包括了年龄、性别、职业和文化程度等基本信息的调查。

1.2.1 信度分析 采用Guttman折半系数分析量表的内部一致性,将量表题目按照奇偶数分成两个折半量表,获得两个折半量表测验总分的相关系数即折半系数[7]。克朗巴赫系数(Cronbach′s α)是评价量表内部一致性信度的另一方法,α取值在0~1,测量学上认为,总量表Cronbach′s α系数在0.80以上为佳,0.70~0.80是可以接受的范围,如果低于0.7为信度不良[5]。

1.2.2 效度分析 采用条目水平内容效度指数(item-level content validity index,I-CVI)评价内容效度,由7名专家对每个测试条目根据符合、修改后符合、不符合三个等级(分别赋值3、2、1)进行评分,最后将评分相加后除以满分值(即7名专家均评为“符合”的总分)即获得I-CVI[8],I-CVI大于0.80提示内容效度较好。量表的结构效度采用探索性和验证性因素分析两种方法。探索性分析[9]运用主成分分析法提取公因子,采用因子特征值>1.0作为判断标准(Kaiser标准),采用正交旋转法进行因子旋转[10];根据探索性因素分析的结果,构建量表验证性因素分析(confirmatory factor analysis,CFA)模型,模型的拟合度指标[11-13]除了卡方自由度比(χ2/df)外,还包括了拟合优度指数(good-of-fit index,GFI)、调整拟合优度指数(adjusted goodness-of-fit Index,AGFI )、正规拟合指数(normed fit index,NFI)、比较拟合指数(comparative fit index,CFI)等。结构效度中的聚合效度通过所获得的最终模型的因素载荷和各因子的平均方差抽取量(average variance extracted,AVE)判断;而结构效度中的区分效度根据量表总得分区分出高分组(前27%)与低分组(后27%),采用两独立样本t检验分析高、低分组在每个测试条目的差异;方差不齐者采用调整t检验。

1.3 统计学方法 采用Epidata 3.1录入数据,并进行逻辑核查;一般信效度分析应用SPSS 17.0软件进行统计分析,验证性因素分析采用AMOS 17.0软件。在数据分析前,采用Adhoc法对调查数据的缺失值进行处理[9,14]。检验水准为α=0.05。

2 结果

2.1 调查对象的基本情况 435名被调查者中,男242人,占55.6%,女193人,占44.4%。年龄为18~86岁,20岁以下者15人(3.5%),20~年龄组为191人(43.9%),30~年龄组为74人(17.0%),40~年龄组为55人(12.6%),50~年龄组为54人(12.4%),60~年龄组为28人(6.4%),70岁及以上者为12人(2.8%),未应答者6人(1.4%)。被调查者职业分布:工人19人(4.4%),服务业人员59人(13.5%),公司职员113人(26.0%),医务人员19人(4.4%),教师16人(3.7%),科研人员31(7.1%),其他职业或退休在家者169人(38.8%),未应答者9人(2.1%)。工作类别中,33人(7.6%)为户外工作者,354人(81.4%)为室内工作者,未应答者48人(11.0%)。被调查者文化程度的构成为,小学及以下者16人(3.6%),初中文化程度者45人(10.4%),高中毕业77人(17.7%),大专或以上文化程度者284人(65.3%),未应答者13人(3.0%)。

2.2 内部一致性信度 13个条目的Guttman折半系数为0.521,总Cronbach′s α系数为0.699,提示内部一致性信度不够理想。去除条目后的Cronbach′s α系数为0.613~0.711(见表1),其中去除第三个条目(高温预警信息时效)后,Cronbach′s α系数可提高为0.711,提高值最大。

2.3 内容效度 由具有食品卫生、流行病学、气象学背景的7个专家进行评议,专家对各条目的评分情况见表2,分析结果显示高温预警气象公众评价量表13个条目的I-CVI为0.75~0.88(见表3),均达到或接近推荐值0.80;平均I-CVI为0.84,大于0.80,提示该量表的内容效度较好。

2.4 结构效度

2.4.1 探索性因素分析 将13个条目做探索性因素分析,KMO检验值为0.702,Bartlett球度检验χ2=1 009.12,P=0.000,提示可以进行因子分析。主成分分析提取特征根大于1的5个因子,累积方差贡献率为55.741%;经最大变异法正交旋转获得因子分析成分矩阵。“对热相关疾病的了解程度”这一项该因素载荷偏低,接近0.32仍暂时保留,其余条目在各所属因子(维度)大部分条目的因素载荷均在0.4以上,表明量表聚合效度较好。见图1、表4。

表1 高温预警服务公众评价量表内部一致性信度

Table1 The internal reliability of the public assessment scale on heat emergency meteorological service

条目去除该条目后平均得分去除该条目后得分方差该条目与总分的相关系数去除该条目后Cronbach'sα系数获取高温预警信息的渠道38.35229.5000.2910.636获取高温预警信息的频率37.49730.0710.2570.641高温预警信息时效38.53833.1150.0680.711高温预警的关注程度37.24829.3160.3790.624高温预警信息准确性的评价37.05331.3910.2630.642高温预警服务的总体评价36.97930.4950.3660.630对热相关疾病的了解程度37.21130.5080.3060.635高温预警服务的依从程度37.00030.9450.3080.637室内活动采取的防范措施37.82127.7280.3560.624户外活动采取的防范措施38.14927.4590.3890.618高温预警对中暑发生的影响36.96328.8100.3480.627高温预警对医疗开支的影响37.59327.9840.4260.613高温预警对日常生活的影响37.48529.0570.3210.631

表2 高温预警服务公众评价量表各条目专家评分情况

Table2 The professionals's assessing scores of the public assessment scale on heat emergency meteorological service

条目专家1专家2专家3专家4专家5专家6专家7获取高温预警信息的渠道3333332获取高温预警信息的频率3333333高温预警信息时效3333332高温预警的关注程度3313333高温预警信息准确性的评价3333233高温预警服务的总体评价3333333对热相关疾病的了解程度3333333高温预警服务的依从程度3333333室内活动采取的防范措施3323333户外活动采取的防范措施3323333高温预警对中暑发生的影响3323333高温预警对医疗开支的影响3323313高温预警对日常生活的影响3323133

表3 高温预警服务公众评价量表I-CVI

Table3 The item-level content validity of the public assessment scale on heat emergency meteorological service

条目I-CVI获取高温预警信息的渠道0.83获取高温预警信息的频率0.88高温预警信息时效0.83高温预警的关注程度0.79高温预警信息准确性的评价0.83高温预警服务的总体评价0.88对热相关疾病的了解程度0.88高温预警服务的依从程度0.88室内活动采取的防范措施0.83户外活动采取的防范措施0.83高温预警对中暑发生的影响0.83高温预警对医疗开支的影响0.75高温预警对日常生活的影响0.83

注:I-CVI=条目水平内容效度指数

图1 探索性因素分析碎石图

表4 高温预警服务公众评价量表探索性因素分析成分矩阵

Table4 The exploratory factor analysis of the public assessment scale on heat emergency meteorological service

条目因子1因子2因子3因子4获取高温预警信息的渠道0.646获取高温预警信息的频率0.679高温预警信息时效0.641高温预警的关注程度0.542高温预警信息准确性的评价0.780高温预警服务的总体评价0.800对热相关疾病的了解程度0.291高温预警服务的依从程度0.649室内活动采取的防范措施0.805户外活动采取的防范措施0.815高温预警对中暑发生的影响0.757高温预警对医疗开支的影响0.782高温预警对日常生活的影响0.793

注:萃取方法为主成分分析,旋转方法为最大方差法

2.4.2 验证性因素分析 采用验证性因素分析模型评价高温预警服务公众评价量表的结构效度,根据“逻辑框架”理论,参照条目信度分析(去除第三个条目)和探索性因素分析结果构建初始模型(见图2),拟合结果χ2/df=2.689,GFI 0.959和AGFI 0.927,均大于0.9。NFI为0.880,CFI为0.921,达到和接近0.9。RMSEA为0.062,高于接受值0.05,提示模型拟合不够理想。将初始模型进行修正(共修正5次,将不具有统计学意义的路径逐一去除后重新拟合),最终模型(见图3)的拟合结果为χ2/df=2.838,GFI为0.965,AGFI为0.934,均大于0.9;NFI为0.906,CFI为0.936,超过0.9;RMSEA为0.045,提示该模型较为理想;最终模型各条目的因素载荷均大于0.32,有统计学意义 (P<0.001),且MI均小于3.65,提示该模型可以接受;模型参数估计结果为各条目的因素载荷均大于0.32,有统计学意义(P<0.001);四个因子的AVE分别为0.533、0.481、0.519、0.512,修正后的量表(最终模型)聚合效度较好。

图2 验证性因素分析初始模型标准化参数路径图

Figure2 The standardized coefficients of the initial model of the confirmatory factor analysis

图3 验证性因素分析最终模型标准化参数路径图

Figure3 The standardized coefficients of the final model of the confirmatory factor analysis

2.4.3 区分效度分析 将量表总得分前27%者纳入高分组,将后27%者纳入低分组,分别将高分组和低分组每个条目的得分进行比较,结果显示两组间各条目的得分差异均有统计学意义(P<0.05),13个条目均具有鉴别度,提示量表区分效度良好。见表5。

3 讨论

为实现对上海地区高温预警服务的评价,本研究采用了量化的方法,收集并确定了高温预警气象服务公众评价量表的内容。并通过在服务人群中实证调查获取数据,从内部一致性信度、外部一致性信度、内容效度、结构效度等方面对量表的应用性进行评价,为进一步开展上海地区高温预警服务效果评价提供有效、可靠的测量工具。

Table5 Comparison of scores of each the publie assessment scale on heat emergency meteorological service iterm between high achievers and low achievers group

测试条目高分组(n=117)低分组(n=115)检验统 计量值 P值获取高温预警信息的渠道2.60±1.011.94±0.995.251 <0.001获取高温预警信息的频率3.44±0.992.95±1.003.915 <0.001高温预警信息时效2.23±1.411.88±1.282.071 <0.038高温预警的关注程度3.98±0.722.88±0.9510.448*<0.001高温预警信息准确性的评价3.97±0.443.30±0.798.397*<0.001高温预警服务的总体评价4.19±0.543.28±0.7011.580*<0.001对热相关疾病的了解程度3.85±0.703.01±0.838.575 <0.001高温预警服务的依从程度4.11±0.493.32±0.7510.060*<0.001室内活动采取的防范措施3.74±1.032.06±0.9213.556*<0.001户外活动采取的防范措施3.39±0.961.67±0.8315.245 <0.001高温预警对中暑发生的影响4.32±0.692.93±1.1211.945*<0.001高温预警对医疗开支的影响3.81±0.802.27±0.8714.607 <0.001高温预警对日常生活的影响3.79±0.882.47±0.9511.451*<0.001

注:*为t′值,余检验统计量值为t值

3.1 量表题目的质量 在题目收集与筛选过程中,研究者首先对相关文献进行了深入的分析与研究,发现以评价服务绩效的“逻辑框架”模型为理论基础,内容涉及服务内容、满意度、效果效益等指标体系,具有较广泛的涵盖面和较强的操作性,适合进行气象服务的评估研究。因此,高温预警气象服务公众评价量表的构建以“逻辑框架”模型为理论基础,同时借鉴了国内外部分学者有关气象服务评估的研究成果,在征求一线气象预报服务人员建议的基础之上确定了15个初始题目反映高温预警服务的可及性、服务关注满意度、服务依从性和服务效果效益。为了确保题目内容的表意符合研究目的需求。之后,通过小组讨论和专家咨询,从题目的语义学层面对每个问题进行了反复的推敲和修改,并在服务可及性方面减少了两个题目,而在服务依从性和效果效益方面各增加了一个问题,保证了量表题目的质量。

3.2 量表的信度 本研究首先对13个条目的内部一致性进行了评价,研究结果显示该量表折半系数为0.521,提示该量表的内部一致性信度尚可接受。然而,正如Crocker等[15]指出:Cronbach′s α系数是估计信度的最低限度,是所有可能折半系数的平均数,在反映量化工具一致性方面优于折半系数,因此本研究又采用了Cronbach′s α系数进行内部一致性的评价,结果显示该量表总Cronbach′s α系数较高,提示各条目具有较为相同的特质,各条目之间的相关性较高,内部一致性信度较为理想。而从去除各条目后的Cronbach′s α系数的结果来看,“高温预警信息时效”这一题目的去除可相对提高量表的总Cronbach′s α系数,可考虑将该条目进行修正,进一步提高该量表的信度。

3.3 量表的效度 在内容效度方面,本研究通过7位相关学术背景专家的评分,分析高温预警服务公众评价量表的I-CVI,结果显示大部分题目达到或接近推荐值0.8,平均I-CVI甚至超过了0.8,说明了该量表内容效度理想,能够较好地反映所要评测的内容。而结构效度方面,分析结果显示无论是探索性因素分析还是验证性因素分析的最终模型大部分条目的标准化因素载荷均超过0.4,仅“对热相关疾病的了解程度”这一条目的因素载荷偏小;其次,验证型因素分析结果显示三个因子的AVE均超过0.5(仅“服务依从性-知识态度”这一因子未超过0.5),均说明了各因子对条目变异量的解释率较高,量表的聚合效度较好。而从该量表的区分效度来看,13个条目的高分组和低分组的得分均有差异,说明每个条目均具有一定鉴别度,此外,验证性因素分析结果也显示最终模型修正指数小于3.84,均表明该量表具有较好的区别效度[16]。聚合效度和区分效度良好充分说明了量表的结构效度理想。

综上所述,本研究构建的“高温预警服务公众评价量表”在本地区(上海地区)人群的应用中内部一致性信度、内容效度和结构效度均理想,基本达到了心理测量学的要求,可作为开展上海地区高温预警服务效果评估研究的调查工具。并且根据人群调查的“简效”原则,依据信度分析(去除第3个条目)和验证性因素(去除第1、2个条目)分析结果可将量表调整为10个条目作为下一步高温(热相关疾病)预警服务效果评估的调查内容,从而为促进上海地区热相关综合预防模式的推进提供有力的依据。

1 黄治勇,王丽,王仁乔,等.公众气象服务质量评价方法研究[J].湖北气象,2002,21(2):30-32.

2 王新生,陆大春,汪腊宝,等.安徽省公众气象服务效益评估[J].气象科技,2007,35(6):853-857.

3 王仕星,雷俊,方英,等.公共气象服务满意度调查评估体系初探[J].浙江气象,2009,30(4):20-37.

4 李峰,郑明玺,黄敏,等.山东公众气象服务效益评估[J].山东气象,2007,27(1):22-24.

5 李有宏,贺敬安,张海珍,等.青海省2006年公众气象服务效用定量评估[J].青海科技,2009,16(2):16-19.

6 段欲晓,王玉彬,王迎春,等.好运北京决策气象服务效益评估[J].气象软科学,2008,2(3):14-19.

7 马文军,潘波.问卷的信度和效度以及如何用SAS软件分析[J].中国卫生统计,2000,17(6):364-365.

8 Polit DF,Beck CT.The content validity index:Are you sure you know what′s being reported? Critique and recommendations[J].Res Nurs Health,2006,29(5):489-497.

9 Abraham WT,Russell DW.Missing data:A review of current methods and applications in epidemiological research[J].Current Opinion in Psychiatry,2004,17(4):315-321.

10 孙晓军,周宗奎.探索性因子分析及其在应用中存在的主要问题[J].心理科学,2005,28(6):1440-1442.

11 邱皓政,林碧芳.结构方程模型的原理与应用[M].北京:中国轻工业出版社,2009:73-89,300-304.

12 孙春辉,郑日昌.《学习适应量表》的验证性因子分析[J].心理学探新,2001,21(2):59-64.

13 Cox BJ,Enns MW,Clara IP.The multi-dimensional structure of perfectionism in clinically distressed and college student samples[J].Psychological Assessment,2002,14(3):365-370.

14 胡红晓.缺失值处理方法比较研究[J].商场现代化,2007,36(5):352-353.

15 Crocker L,Algina J.Introduction to classical and modern test theory[M].Philadelphia:Harcourt Brace Jovanovich College Publishers,1986.

16 侯杰泰.结构方程模型及其应用[M].北京:教育科学出版社,2004.

猜你喜欢

效度信度条目
效度验证模式系统整合与效度研究发展策略
《广东地区儿童中医体质辨识量表》的信度和效度研究
作为数学教育研究质量分析的信度
《词诠》互见条目述略
平衡损失函数下具有时间效应和通胀因子的信度估计
Can we treat neurodegenerative diseases by preventing an age-related decline in microRNA expression?
中文版脑性瘫痪儿童生活质量问卷的信度
语言测试效度研究的另一视角:考试的因子结构研究
复杂图形测验对区分阿尔茨海默病与非痴呆的诊断效度
对县级二轮修志采用结构体式的思考