陈宇　郑德权　赵铁军

摘 要：DBN是一种快速全局最优的神经网络分类方法，它包含数层无监督学习网络和一层有监督学习网络。本文验证了DBN方法很好的适用于中文名实体分类任务。首先，采用多层RBM方法无监督地从字特征向量提取结构信息，得到更具有表征能力的特征；然后，利用BP方法微调网络参数并对提取后的特征向量进行分类，以此构成分类器进行名实体分类。通过对ACE 04的中文名实体进行的分类测试，准确率达到91.45%，明显高于支持向量机和反向传播神经网络等传统分类算法。

关键词：名实体分类； 神经网络； DBN； 字特征

中图分类号：TP391 文献标识码：A 文章编号：2095-2163（2014）02-

Study on Chinese Named Entity Categorization based on Deep Belief Nets

CHEN Yu， ZHENG Dequan， ZHAO Tiejun

（School of Computer Science and Technology， Harbin Institute of Technology， Harbin 150001， China）

Abstract： DBN is a classification of fast and global optimum neural network. It contains several layers of unsupervised networks and one layer of supervised network. The paper approves this novelty machine learning approach is suitable to the domain of named entity categorization. The paper applies RBM，an unsupervised learning method， to reconstruct more representative features from character-based features. Subsequently， the paper utilizes BP， a supervised learning method， to fine-tune parameters in whole network and accomplish the categorization task. In the end， the paper tests DBN on ACE 04 Chinese corpus and achieve 91.45% precision， which is much better than Support Vector Machine and Back-propagation neural network.

Key words： Named Entities Categorization； Neural Network； DBN； Character-based Feature

0引 言

传统的信息抽取任务包括名实体抽取、关系抽取和事件抽取，而名实体抽取又可分为两个子任务：一是识别消息文本中的名实体，二是将已识别的名实体进行分类，本文主要关注名实体抽取的第二个子任务。名实体是一个事物或事物集合的名称，在消息文本中，往往是信息的主要载体，所以名实体抽取是信息抽取的基础任务。名实体分类对名实体的语义表述具有重要指示意义，是名实体抽取准确与否的标准之一。按照Automatic Context Extraction （ACE）大会的定义，名实体一般分为人名、地名和机构名等。早期，研究主要聚焦于利用基于模式匹配的方法进行名实体分类，并取得了较高的准确率。Mcdonald[1]利用名词的内外部信息组成的模式对名词进行分类，Wacholder[2]则利用对不同名词类别进行聚类的方式辅助人工撰写的模式实现名词分类。……