您当前的位置： 首页 > 论文 > 优先出版
DOI:
10.16355/j.tyut.1007-9432.2023BD003
摘要:
随着深度学习和自然语言处理技术的不断发展，预训练模型已成为解决关系分类、文本分类等问题的有效途径。然而，在实际应用中，预训练模型仍面临处理复杂任务所需的知识信息质量不高和数量庞杂的挑战，而融合知识图谱到预训练模型可增强其性能。分析并总结了近年来融合知识图谱的预训练模型的相关文献，首先简要介绍了预训练模型引入知识图谱的原因、优势以及难点；其次详细讨论了隐性结合、显性结合两类方法，并对代表模型的特点与优缺点进行了对比总结；最后对融合知识图谱的预训练模型将面临的挑战以及未来研究发展趋势进行了讨论。
关键字:
深度学习；预训练模型；知识图谱；增强