LLM助力知识图谱的高质量构建

辛弃疾奋笔
262 阅读13分钟

“构建知识图谱是一项技术挑战，传统方法在处理文本数据时，需精确识别实体、抽取复杂关系，并解决知识融合难题。这不仅要求深入的领域理解，还需复杂的算法支持，使得知识图谱的构建过程充满艰辛。LLM的出现让这一问题得到了大大的缓解。”

简介

在信息爆炸的今天，如何高效地组织和利用海量数据成为了一个重要课题。知识图谱作为一种结构化的知识表示方式，能够将复杂的信息以图谱的形式展现出来，极大地方便了信息检索和知识发现。然而，传统的知识图谱构建方法存在效率低下、成本高昂等问题。本文将探讨如何利用大型语言模型（LLM）来助力知识图谱的高质量构建，并结合实际案例进行操作和分析。

大语言模型（LLM）以其强大的语言理解和生成能力，正在成为信息处理领域的革命性工具。它们通过简单的指令即可执行复杂的任务，极大地提升了工作效率和准确性。以下是一段描述，展示了LLM如何通过指令完成各种任务，并提供了具体的指令样例和说明。

LLM的指令驱动能力

大语言模型的核心优势在于其对自然语言指令的响应能力。用户可以通过直接的指令，让模型执行从文本分析到内容创作的多种任务。以下是一些具体的指令样例，以及它们所实现的功能：

  1. 文本摘要指令
   - 指令样例：请将以下文章摘要为200字以内。
   - 功能说明：LLM将阅读指定的文章，并生成一个简洁的摘要，保留关键信息。
  1. 翻译指令
   - 指令样例：将这段话从英语翻译成中文。
   - 功能说明：LLM将识别并翻译指定的文本，支持多种语言之间的转换。
  1. 问答指令
   - 指令样例：什么是机器学习？
   - 功能说明：LLM将提供关于机器学习的定义和解释，就像一个知识库。
  1. 写作辅助指令
   - 指令样例：以'气候变化对农业的影响'为题，写一篇500字的文章。
   - 功能说明：LLM将根据给定的题目创作文章，提供写作灵感和内容。
  1. 代码生成指令
   - 指令样例：生成一个Python函数，实现两个数的加法。
   - 功能说明：LLM将生成相应的代码片段，帮助用户快速实现编程任务。
  1. 数据分析指令
   - 指令样例：分析这份销售数据，找出最佳销售日。
   - 功能说明：LLM将对提供的数据进行分析，并识别出销售高峰的日期。
  1. 知识图谱构建指令
   - 指令样例：根据这段文本，构建一个关于公司结构的知识图谱。
   - 功能说明：LLM将识别文本中的实体和关系，构建可视化的知识图谱。

通过这些指令样例，我们可以看到LLM如何通过简单的自然语言指令，实现从文本处理到数据分析的一系列复杂任务。这种能力不仅提高了工作效率，也为非技术用户打开了使用高级AI功能的大门。随着技术的不断进步，LLM的应用范围将越来越广泛，成为人们日常工作和学习中不可或缺的助手。

让LLM来抽取信息

我们提供一些简单的语料来看下如何驱动LLM来一步一步解决问题。

1. 智言科技成为国内首家引入深度学习技术的AI公司。
2. 智言科技发布了创新的对话系统智言助手。
3. 智言科技的联合创始人兼CTO李明在行业会议上讨论了人工智能的伦理问题。
4. 智言科技的注册资本为500万元人民币，显示了其在行业中的雄厚实力。
5. 李明是智言科技的主要股东，持有公司60%的股份。
6. 李明同时也是智慧创新投资合伙企业的大股东。
7. 智慧创新投资合伙企业对智言科技进行了战略投资。
8. 东岸星辰科技有限公司是智言科技的重要股东之一。
9. 智言科技的智言助手在医疗咨询和法律服务中展现出巨大潜力。
10. 李明强调，人工智能的伦理和责任是未来发展的关键议题。

我们直接让GPT-4o使用以下指令进行操作。

<messages>
</messages>
指令：按照知识图谱的结构提取相关的信息。

--- 以下是LLM（GPT-4o）的输出

根据知识图谱的结构，我们可以将上述信息提取为实体及其属性，以及实体之间的关系。以下是提取的信息：

### 实体：
1. **智言科技**
   - 注册资本：500万元人民币
   - 引入技术：深度学习技术
   - 产品：智言助手
   - 主要股东：李明（持股60%）
   - 股东：东岸星辰科技有限公司
   - 领域展示潜力：医疗咨询、法律服务

2. **李明**
   - 角色：智言科技联合创始人兼CTO
   - 持股比例：60%
   - 其他身份：智慧创新投资合伙企业的大股东

3. **智慧创新投资合伙企业**
   - 大股东：李明
   - 对象：对智言科技进行了战略投资

4. **东岸星辰科技有限公司**
   - 与智言科技的关系：重要股东

5. **智言助手**
   - 公司：智言科技
   - 创新领域：对话系统
   - 展示潜力：医疗咨询、法律服务

### 关系：
1. **智言科技 - 联合创始人兼CTO - 李明**
2. **李明 - 主要股东 - 智言科技**
3. **智慧创新投资合伙企业 - 大股东 - 李明**
4. **智慧创新投资合伙企业 - 战略投资 - 智言科技**
5. **东岸星辰科技有限公司 - 重要股东 - 智言科技**
6. **智言科技 - 产品 - 智言助手**
7. **智言助手 - 展示潜力 - 医疗咨询、法律服务**
8. **李明 - 强调议题 - 人工智能伦理和责任**

### 属性：
1. **智言科技**
   - 主体性质：引入深度学习技术的AI公司
   - 注册资本：500万元人民币

2. **李明**
   - 讨论内容：人工智能的伦理问题

3. **智言助手**
   - 创新领域：对话系统
   - 应用潜力：医疗咨询、法律服务

通过这些结构化的信息，可以更清晰地理解智言科技及其关联实体之间的关系和属性，这有助于进一步的分析和应用。

虽然较好的结构化了文本的内容，但是对于我们来说还需要进行一定的程度的可视化可以帮我们更好的分析数据。那么我们可以修改指令，让LLM直接输出Graph的格式（这里我使用比较熟悉的GraphViz进行数据的整理和可视化）。具体的操作如下：

LLM的输入如下：
<message>
</message>
指令：
1. 按照知识图谱的结构提取相关的信息。
2. 将结果使用 GraphViz的格式输出。进行可视化。
3. 将实体节点添加一些颜色，同时让GraphViz的背景颜色是一种浅色的灰。
4. 实体节点中，颜色的填充不要使用黑色。

--------

digraph G {
    bgcolor="#f0f0f0"; // 设置背景颜色为浅灰色

    node [shape=box, style=filled]; // 设置节点形状为矩形，填充样式

    // 实体节点颜色
    Zhiyuan [label="智言科技", fillcolor="lightblue"];
    LiMing [label="李明", fillcolor="lightgreen"];
    CTO [label="联合创始人兼CTO", fillcolor="lightyellow"];
    DialogueSystem [label="智言助手", fillcolor="lightblue"];
    EthicalIssue [label="人工智能伦理问题", fillcolor="lightgrey"];
    Capital [label="注册资本", fillcolor="lightblue"];
    Shareholder [label="股东", fillcolor="lightgreen"];
    WisdomInnovation [label="智慧创新投资合伙企业", fillcolor="lightyellow"];
    DonganXingchen [label="东岸星辰科技有限公司", fillcolor="lightblue"];
    Potential [label="医疗咨询和法律服务潜力", fillcolor="lightgrey"];

    // 关系边
    Zhiyuan -> CTO [label="职位"];
    LiMing -> CTO [label="担任"];
    CTO -> EthicalIssue [label="讨论"];
    Zhiyuan -> Capital [label="注册资本: 500万元人民币"];
    LiMing -> Shareholder [label="主要"];
    LiMing -> WisdomInnovation [label="大股东"];
    WisdomInnovation -> Zhiyuan [label="战略投资"];
    DonganXingchen -> Shareholder [label="重要"];
    DialogueSystem -> Potential [label="展现潜力"];
    LiMing -> EthicalIssue [label="强调"];
}

image.png

以上图的渲染可以直接使用 edotor.net/ 好用的很！！😄

如何自动化完成🙋

这里我们要解决几个问题？

  1. 输出的内容要可以很方便的使用代码去解析（可以输出Yaml或者JSON格式的内容）
  2. 将任意的文本进行 chunking ，同时编写较为明确且鲁棒的Prompt让LLM去工作；

针对第一个问题，我们可以进行如下的尝试：

<message>
1. 智言科技成为国内首家引入深度学习技术的AI公司。
2. 智言科技发布了创新的对话系统智言助手。
3. 智言科技的联合创始人兼CTO李明在行业会议上讨论了人工智能的伦理问题。
4. 智言科技的注册资本为500万元人民币，显示了其在行业中的雄厚实力。
5. 李明是智言科技的主要股东，持有公司60%的股份。
6. 李明同时也是智慧创新投资合伙企业的大股东。
7. 智慧创新投资合伙企业对智言科技进行了战略投资。
8. 东岸星辰科技有限公司是智言科技的重要股东之一。
9. 智言科技的智言助手在医疗咨询和法律服务中展现出巨大潜力。
10. 李明强调，人工智能的伦理和责任是未来发展的关键议题。
</message>

<output>
{
  "entities": [
    {
      "id": "",
      "name": "",
      "attributes": {}
    }
  ],
  "relationships": [
    {
      "source_id": "",
      "target_id": "",
      "type": "",
      "details": ""
    }
  ]
}
</output>

指令：
1. 按照知识图谱的结构提取相关的信息。
2. 结果按照 JSON 结构输出，输出格式严格按照 <output> 中的结构。

我们拉看下具体的LLM的输出

{
  "entities": [
    {
      "id": "ZhiyuanTech",
      "name": "智言科技",
      "attributes": {
        "first_in_industry": "国内首家引入深度学习技术的AI公司",
        "registered_capital": "500万元人民币",
        "dialogue_system": "智言助手"
      }
    },
    {
      "id": "LiMing",
      "name": "李明",
      "attributes": {
        "position": "联合创始人兼CTO",
        "share_percentage_ZhiyuanTech": "60%",
        "major_shareholder": "智慧创新投资合伙企业"
      }
    },
    {
      "id": "DialogueSystem",
      "name": "智言助手",
      "attributes": {
        "potential_fields": ["医疗咨询", "法律服务"]
      }
    },
    {
      "id": "WisdomInnovation",
      "name": "智慧创新投资合伙企业",
      "attributes": {
        "investment_in": "智言科技"
      }
    },
    {
      "id": "DongAnXingChen",
      "name": "东岸星辰科技有限公司",
      "attributes": {
        "shareholder_of": "智言科技"
      }
    }
  ],
  "relationships": [
    {
      "source_id": "ZhiyuanTech",
      "target_id": "LiMing",
      "type": "has_position",
      "details": "李明是智言科技的联合创始人兼CTO"
    },
    {
      "source_id": "LiMing",
      "target_id": "ZhiyuanTech",
      "type": "major_shareholder",
      "details": "李明持有智言科技60%的股份"
    },
    {
      "source_id": "LiMing",
      "target_id": "WisdomInnovation",
      "type": "major_shareholder",
      "details": "李明是智慧创新投资合伙企业的大股东"
    },
    {
      "source_id": "WisdomInnovation",
      "target_id": "ZhiyuanTech",
      "type": "strategic_investor",
      "details": "智慧创新投资合伙企业对智言科技进行了战略投资"
    },
    {
      "source_id": "DongAnXingChen",
      "target_id": "ZhiyuanTech",
      "type": "shareholder",
      "details": "东岸星辰科技有限公司是智言科技的重要股东之一"
    },
    {
      "source_id": "LiMing",
      "target_id": "EthicalIssue",
      "type": "discussed",
      "details": "李明在行业会议上讨论了人工智能的伦理问题"
    },
    {
      "source_id": "DialogueSystem",
      "target_id": "PotentialFields",
      "type": "has_potential",
      "details": "智言助手在医疗咨询和法律服务中展现出巨大潜力"
    }
  ]
}

针对问题二来说，我们可以尝试让LLM直接对一段话进行结构化提取。我们看下效果。

<message>
机关、单位实行保密工作责任制，承担本机关、本单位保密工作主体责任。
机关、单位主要负责人对本机关、本单位的保密工作负总责，分管保密工作的负责人和分管业务工作的负责人在职责范围内对保密工作负领导责任，工作人员对本岗位的保密工作负直接责任。
机关、单位应当加强保密工作力量建设，中央国家机关应当设立保密工作机构，配备专职保密干部，其他机关、单位应当根据保密工作需要设立保密工作机构或者指定人员专门负责保密工作。
机关、单位及其工作人员履行保密工作责任制情况应当纳入年度考评和考核内容。
</message>

image.png

看起来效果还可以，这里有一个隐含的问题需要我们解决。就是实体的分类和相同实体的合并。这个还有结合很多语义网络，让LLM辅助一并解决掉。

小结一下☕️

在当今快速发展的技术领域，大型语言模型（LLM）的出现无疑是一个重大突破。 它们不仅为研发团队提供了强大的工具，以应对复杂多变的技术需求，而且通过提高模型处理输入token的能力以及加速推理速度，极大地提升了工作效率和生产力。随着这些模型的不断进步和优化，我们可以预见它们将在未来的各个领域中发挥更加关键的作用。

BigQuery等工具已经开始集成LLM，允许用户直接在SQL任务中调用这些模型进行文本处理。这种集成不仅简化了数据处理流程，还提高了数据分析的深度和广度。通过这种方式，LLM能够帮助我们从海量数据中提取有价值的信息，为决策提供更加精准的支持。

展望未来，LLM的普及和应用将不断扩展。我们期待它们在以下几个方面发挥更大的潜力：

  1. 自动化和智能化：随着LLM的进一步发展，它们将能够自动化更多目前需要人工参与的任务，从而释放人力资源，让人们能够专注于更加创造性和战略性的工作。
  2. 跨领域融合：LLM将促进不同领域之间的知识融合，通过理解和生成自然语言，帮助解决跨学科问题，推动创新。
  3. 个性化服务：通过深入学习和理解用户的需求和偏好，LLM能够提供更加个性化的服务和产品，满足用户的特定需求。
  4. 教育和培训：LLM可以作为教育工具，为学习者提供定制化的学习路径和资源，促进终身学习和技能发展。

总之，LLM的未来发展充满了无限可能。随着技术的不断进步和应用的不断深入，我们有理由相信，它们将成为推动社会进步和创新的重要力量。让我们拭目以待，共同迎接这一激动人心的时代。

可以关注 公众号 叨叨叨的成长记录

avatar
文章
阅读
粉丝