于明诚，党亚固，吴奇林，吉旭，毕可鑫

（四川大学化学工程学院，四川 成都 610041）

0 引言

目前学生英文作文评分主要依靠人工方式，打分过程耗时耗力，且结果具有明显主观性［1］。随着自然语言处理技术的发展，作文自动评分（AES）系统的出现能够减轻评分员的工作负担，同时避免主观因素影响评分结果［2-3］。

AES 属于文本多分类任务，研究方式主要有基于传统机器学习方法和基于深度神经网络模型方法。传统机器学习方法［4-5］需要手动构建特征工程，过程需要耗费大量人力物力，且泛化能力较弱，无法应用于大规模英文文本数据集。基于深度神经网络模型凭借强大的自动特征提取能力，深层次提取作文的高维潜在语义特征。文献［6］提出增强型混合神经网络的作文自动评分模型，通过融合文章的语言、语义和结构属性，更客观和全面地实现评分，较实验对比最佳模型的Kappa 系数平均提高1.4%。文献［7］通过EssayGAN 网络对英文作文数据集ASAP进行样本扩充，采用BERT-CLS 模型进行作文自动评分，EssayGAN-BERT-CLS 在8 个子集上的平均二次加权Kappa 系数（QWK）为78.8%，优于实验对比的其他预训练模型BERT［8］输入长度限制为512，对长文本进行截断操作影响上下文语义嵌入。文献［9］提出基于多层次语义特征的英文作文自动评分方法，通过将卷积神经网络（CNN）和长短期记忆（LSTM）网络模块相结合提取深层特征，并手动构建浅层语义特征，在ASAP 公开数据集上的平均二次加权的Kappa 值 为79.17%，CNN 和LSTM 模块无 法关注到对作文评分结果影响较大的关键特征，且未能提取句子级别的上下文连贯性语义。……