Awesome-LLM-KG 项目介绍
项目背景
Awesome-LLM-KG 是一个关于结合大型语言模型(LLMs)与知识图谱(KGs)的论文和资源的集合。在各种应用中,LLMs 展现出了令人瞩目的成功和泛化能力。然而,它们常常在捕捉和获取事实性知识方面有所欠缺。相较之下,知识图谱作为结构化数据模型,显式地存储着丰富的事实性知识。但即便如此,知识图谱建构过程困难,并且现有方法在处理现实世界中不完整和动态变化的知识图谱时仍然不足。因此,将 LLMs 和 KGs 联合起来,同时利用它们的优势成为一种自然的选择。
最新动态
项目当前正在开发中。感兴趣的研究人员与开发者可以通过为项目打星标或关注项目来获取更新。此外,项目团队已有多项在 KG 和 LLM 领域的研究成果:
- 关于利用 LLM 进行时间知识图谱推理的研究已被 NeurIPS 2024 录用。
- 在多跳推理中使用知识图谱进行 LLM 推理分析的论文被 ACL 2024 录用。
- 有关 LLM 和 KG 的综合推理方法的研究已提交至 ICLR 2024。
- 公布了基于 LLM 挖掘逻辑规则进行知识图谱推理的研究 ChatRule。
项目概览
该项目着重收集和展示将 LLMs 和 KGs 结合的最新进展,并制定了涵盖以下三个通用框架的路线图:
- KG 增强的 LLMs:利用知识图谱提升语言模型的预训练、推理和解释能力。
- LLMs 增强的 KGs:通过大型语言模型来加强知识图谱的嵌入、完备性、到文本生成的能力,以及问答能力。
- LLMs 和 KGs 的协同作用:实现知识表示和推理的结合,探索多种应用场景。
相关调研
为了帮助研究人员和从业者更好地理解这一新兴领域,项目还收录了多篇相关的调查研究:
- 《统一大型语言模型和知识图谱:一条路线图》(TKDE,2024)
- 关于知识增强型预训练语言模型的调查(2023)
- 语言模型作为知识库的回顾(2022)
项目应用
在具体应用领域中,项目探讨了以下几个方面:
- 推荐系统:通过与训练的语言模型结合,提升推荐系统在对话场景中的性能。
- 故障分析:应用于领域知识的故障分析中,通过预训练模型的融合来增强分析能力。
结论
项目的目标是在大量前沿研究的基础上,为这一新兴领域的研究人员和从业者提供一个丰富的知识库和工具集合,这有助于推进 LLMs 和 KGs 结合的研究与实践。读者如果觉得本项目对自己的研究有帮助,可以引用相关的研究论文。