-
题名基于弱标注数据的汉语分词领域移植
被引量：2
- 1
-
-
作者
朱运
李正华
黄德朋
张民
-
机构
苏州大学计算机科学与技术学院
-
出处
《中文信息学报》
CSCD
北大核心
2019年第9期1-8,共8页
-
基金
国家自然科学基金(61525205,61876116)
-
文摘
近年来,基于神经网络的分词模型在封闭领域文本上取得了很高的性能。然而,在领域移植场景下,即测试数据与训练数据的领域差异较大时,分词的性能会显著下降。该文尝试利用自动获取的弱标注数据来提升领域移植场景下的分词性能。首先,对目前性能最好的BiLSTM-CRF分词模型进行扩展,引入适用于弱标注数据的损失函数;进而提出一种简单有效的数据筛选方法,从海量弱标注数据中筛选和目前领域更相关的数据;最后,该文发现数据预处理和在神经网络中引入传统特征均可以有效提高分词性能。在SIGHAN Bakeoff 2010和ZhuXian标注测试集上的实验结果表明,该文所提方法可有效提升汉语分词领域移植性能,平均F值提高了3.6%。
-
关键词
汉语分词
领域移植
弱标注数据
-
Keywords
Chinese word segmentation
domain adaptation
partially annotated data
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
