文章摘要:针对预训练模型BERT存在词汇信息缺乏的问题，在半监督实体增强最小均方差预训练模型的基础上提出了一种基于知识库实体增强BERT模型的中文命名实体识别模型OpenKG+Entity Enhanced BERT+CRF。首先从中文通用百科知识库CN-DBPedia中下载文档并用结巴分词抽取实体来扩充实体词典，然后将词典中的实体嵌入到BERT中进行预训练，将训练得到的词向量输入到双向长短期记忆（BiLSTM）网络中提取特征，最后经过条件随机场（CRF）修正后输出。在CLUENER 2020和MSRA数据集上进行模型验证，将所提模型分别与Entity Enhanced BERT Pre-training、BERT+BiLSTM、ERNIE和BiLSTM+CRF模型进行对比实验，该模型的F1值在两个数据集上相比于对比模型分别提高了1.63和1.1个百分点，3.93和5.35个百分点，2.42和4.63个百分点以及6.79和7.55个百分点。实验结果表明，所提模型对命名实体识别的综合效果得到有效提升，F1值均优于对比模型。

文章关键词:

项目基金:《工程与试验》 网址: http://www.gcysyzz.cn/qikandaodu/2021/1007/2385.html