时序知识图谱构建关键技术及研究进展
doi: 10.7641/CTA.2024.30612
曾朝晖1,2 , 杨阳1 , 陈晓方2 , 桂卫华2 , 阳春华2 , 彭郅荣1
1. 湘潭大学智能计算与信息处理教育部重点实验室, 湖南 湘潭 411105
2. 中南大学自动化学院, 湖南 长沙 410083
基金项目: 国家自然科学基金项目(62133016, 61988101), 湖南省教育厅重点项目(21A0069)资助.
Key technologies and research progress of temporal knowledge graph construction
ZENG Zhao-hui1,2 , YANG Yang1 , CHEN Xiao-fang2 , GUI Wei-hua2 , YANG Chun-hua2 , PENG Zhi-rong1
1. Key Laboratory of Intelligent Computing and Information Processing, Ministry of Education, Xiangtan University, Xiangtan Hunan 411105 , China
2. School of Automation, Central South University, Changsha Hunan 410083 , China
Funds: Supported by the National Natural Science Foundation of China (62133016, 61988101) and the SRF of the Education Department of Hunan Province (21A0069).
摘要
近年来, 时序知识图谱受到国内外研究人员的广泛关注, 成为研究热点. 区别于传统知识图谱, 时序知识图谱嵌入了时序信息, 能够表示时序关系和因果关系, 描述关系变化规律和事件演化模式, 可成为能感知时间信息和因果律的知识库. 本文对时序知识图谱构建技术进行综述. 首先, 本文介绍了时序知识图谱的定义和构建流程; 其次, 梳理了时序知识图谱构建过程中时序知识抽取、时序知识嵌入、时序逻辑推理等关键技术的研究进展, 分析其发展状况并指出优缺点; 最后, 给出面向多级决策的铝电解氧化铝浓度多粒度知识图谱构建与应用案例, 对时序知识图谱在流程工业领域的应用前景进行了展望.
Abstract
In recent years, temporal knowledge graphs have garnered significant attention from both academia and industry, emerging as a major research hotspot. Unlike the traditional knowledge graph, the temporal knowledge graph embed temporal information, enabling representation of temporal relationship and causal relationships, describe the laws of relationship changes and event evolution patterns, and can serve as a knowledge base that can perceiving temporal information and causal laws. This paper primarily reviews the construction technologies of temporal knowledge graph. Firstly, the article introduces the definition and construction process of temporal knowledge graph. Secondly, it sorts out the research progress of key technologies such as temporal knowledge extraction, temporal knowledge embedding, and temporal logic reasoning in the process of temporal knowledge graph construction, analyzes its development status and points out its advantages and disadvantages. Finally, presents the multilevel decision of aluminum electrolysis alumina concentration multi-granularity knowledge graph construction and application case, the application prospects of temporal knowledge graph in process industry are prospected.
1 引言
随着人工智能技术的高速发展,知识图谱(knowledge graph,KG)在众多领域内得到了广泛的应用,例如工业控制 [1-3]、智能搜索 [4-6]、金融风险 [7-8] 和电子商务 [9-11] 等. 传统的静态知识图谱使用(实体、关系、实体)三元组对主体、客体及二者间关系进行表达 [12] . 然而,现实世界中的知识存在于某个特定的时期内,事件演化遵循某个时间顺序,且事件演化可改变实体状态,进而改变实体间关系. 由于缺少时序信息,善于表示“关联”关系的传统知识图谱在“因果”关系表示方面能力有限,难以描述、推理、预测关系变化和事件演化. 由于时序知识图谱(temporal KG,TKG)[13] 可表示时序关系和因果关系、描述关系变化规律和事件演化模式,人们开始尝试将时序数据与知识图谱相结合,构建时序知识图谱. 时序知识图谱在知识图谱的基础上增加时间维度,将时序信息集成到知识图谱中,实现对时序信息的建模、存储、查询、推理和可视化等操作. 时序知识图谱不仅包含了时序关系、因果关系和事件间的共指,还描述了关系变化规律和事件演化模式,在智能制造、社交网络、物联网、金融等领域有着广泛的应用前景. 在流程制造领域,时序知识图谱可描述各工序间复杂关系及其变化规律、多工况及其影响因素间的演化模式,对提高全流程控制与决策的准确、高效和精细化程度具有关键意义. 在社交网络中,时序知识图谱可描述用户行为和社交关系的变化,对用户行为预测和推荐起到重要作用. 在物联网中,时序知识图谱可描述不同设备之间的互动和变化. 在金融领域,时序知识图谱可帮助我们更好地预测市场走向.
本文将对时序知识图谱的定义、构建技术及其研究进展进行综述,最后给出铝电解氧化铝浓度多粒度知识图谱构建及应用案例.
2 时序知识图谱定义及构建方法
2.1 时序知识图谱定义
时序知识图谱是在传统知识图谱的基础上,针对时序数据的特点,将时序信息融入到知识图谱中,采用新型知识表示和推理方式. 它包含了时间上的先后顺序和时间跨度,能够描述和推理时序数据之间的关系、事件及其变化,是一种具有时间感知能力的知识表达方式.
时序四元组(temporal quadruple)[13] 是一种可表示知识图谱中时态信息的数据结构. 如时序四元组表示为(srot),其中: s表示主语实体(subject entity),r表示关系(relation),o 表示客体实体(object entity),t 表示时间戳(timestamp). 主语实体、客体实体及关系可用唯一标识符表示,时间戳是一个时间点t或者一个时间区间[tste].
时序知识图谱可视为一系列时序四元组所组成的集合,其形式为 G =(ERT),ERT 分别表示实体集合、关系集合和时间集合,由于时序四元组中时间戳有时间点和时间区间两种形式,因此,时序知识图谱中的时序四元组也分为(srot)和(sr o,[tste])两种形式,其中: so ErRt和[ts te] ∈ T.
2.2 时序知识图谱构建流程
时序知识图谱构建流程如图1所示,其中包括时序知识抽取、时序信息嵌入和时序逻辑推理3个关键技术. 时序知识抽取从多源异构数据中提取含有时序信息的知识并存入时序知识图谱的过程,是构建时序知识图谱的基础和进行时序信息嵌入的前提. 时序信息嵌入将时间信息嵌入到实体和关系的向量表示中,使传统的三元组扩展为时序四元组,是时序知识图谱构建的重要的步骤,同时也是进行时序知识图谱补全的重要方法之一. 时序逻辑推理能够实现时序知识图谱的补全,进一步完善时序知识图谱; 同时,时序逻辑推理也是时序知识图谱提供决策支持的主要途径. 时序知识图谱的构建流程如图1所示.
1时序知识图谱构建流程示意
Fig.1Schematic diagram of the construction process of temporal knowledge graph
3 时序知识图谱构建技术研究进展
本节详细阐述时序知识抽取、时序信息嵌入和时序逻辑推理等时序知识图谱构建关键技术研究进展.
3.1 时序知识抽取
时序知识抽取可分为动态实体嵌入和时序关系抽取两个方面,如图1所示. 其中,动态实体嵌入指的是从原始信息中识别出命名实体并将时间信息融于实体本身的过程. 该嵌入结果能够直接影响后续时序关系抽取的结果,决定时序知识图谱的整体质量. 因此,动态实体嵌入是时序知识抽取中最基础的环节. 时序关系抽取指的是通过获取动态实体之间某种语义关系或关系类别,识别实体对及联系这对实体的时间关系,是时序知识抽取的核心内容. 按照发展历程,传统知识抽取分为基于传统规则和模板、基于统计机器学习和基于深度学习的知识抽取等3种方法 [14] . 由于时序知识图谱相较于传统知识图谱新增了时间信息,而基于深度学习的知识抽取能自动地从海量数据中学习与时间相关的知识,在时序知识抽取中表现较好. 因此,本节主要阐述基于深度学习的时序知识抽取技术.
3.1.1 基于深度学习的时序动态实体嵌入方法
对于时序知识抽取而言,实体的本质含义是不变的,但其状态可能会随着时序知识图谱的演化发生变化,从而使得实体的含义更加丰富,进而影响实体间的关系变化. 因此在对动态实体嵌入和时序关系抽取中,主要考虑如何将时间融于实体和关系的演变中.
上下文时序范围轮廓模型(contextual temporal profile model,CTPM)[15]、RE-NET [16]、Know-Evolve [17] 及ATISE [18] 等为主要模型. CTPM利用上下文对状态和状态变化向量进行学习,将时序问题转换为状态变化检测问题. 但该模型依赖上下文关系,在处理时间间隔较大的两个时间信息时可能会出现误差. 受动态词向量嵌入的启发,Goel等人 [19] 以实体和时间戳作为实体嵌入函数的输入,以保证实体在任何时间点都具有时间感知特征. RE-NET利用循环神经网络(recurrent neural network,RNN)[20] 为参数设置了重复事件编码器,使用邻居聚合器记录各时段内实体的事件信息并进行聚合,并使用过去事件的标识信息对当前事件的联合概率进行定义,最终实现了实体之间多关系并发交互的时间维度建模. 通过对该模型进行训练,能够有效的预测未来事件,但该模型平等对待每个邻居对目标实体的影响,没有对影响的重要性进行划分. Know-Evolve是一个深度进化知识网络,通过部署 RNN来捕获嵌入的非线性动态特征. 该模型将事件的出现、演变和结束建模为一个多维的时间过程,捕获了事件的时间特征,实现了动态实体的嵌入. 其强度函数定义为
λrs,o(tt-)=fgrs,o(t-)(t-t-)
(1)
其中: t大于t-为当前事件的发生时间,t-表示主体或者客体参与事件的最近时间点; f(·)= exp(·)确保强度函数的计算结果为正值; g为关系评分函数,形式如下:
grs,o(t)=Vs(t-)TRrVo(t-),
(2)
该关系评分函数能够捕获主体和客体在t时刻前最新更新的嵌入向量,并使用关系权重矩阵Rr来捕获实体间的交互,使得模型能够通过时间轴上任一实体的最新状态来调节当前事件的强度,但该模型没有考虑到发生在同一时间戳上的并发事件,并且忽略了事件中实体随时间变化的不确定性. ATISE提出使用3种不同的分量来获取实体或关系在不同时间上的演化趋势,能够实现对时间间隔长度和时间点顺序的捕捉,并保留了时间变化过程中的不确定性. 为了使捕获的趋势更加平稳可靠,因此该模型对数据集的要求较为严格,需要使用数据量大并持久的数据集.
已有时序动态实体嵌入方法大多是对静态实体进行简单的时序知识拓展,并没有考虑到时序知识图谱中随时间不断变化的其他演变信息.
3.1.2 基于深度学习的时序关系抽取方法
由于在时间轴上的关系链往往存在时序依赖性,例如,出生于→毕业于→从事于→死于,因此在进行时序关系抽取时需要考虑关系间先后顺序,以融合关系间的时间顺序和一致性信息,这也是时序关系抽取的重点和难点.
目前,时序关系抽取研究仍处于发展阶段,现有时序关系抽取方法较少,传统关系抽取方法对时序关系抽取方法有借鉴作用. 传统关系抽取方法常采用基于卷积神经网络(convolutional neural networks,CNN)和循环神经网络(RNN)模型的关系抽取方法.2014年,Zeng等人 [21] 提出最大池化的CNN模型,使用卷积神经网络对文本中句子级特征进行编码,在传统CNN的基础上引入了位置嵌入的概念,为之后所有基于深度学习的关系抽取模型提供了标准. Santos等人 [22] 使用成对的排序损失函数对模型进行训练,减少了人工类的影响,提高了模型对关系的分类精度. 针对最大化 CNN的不足,Zeng等人 [23] 提出了分段 CNN,通过增加分段最大池化操作来自动提取文本中的关系特征,使得关系抽取的结果更加准确. 为解决标注错误等问题,Lin等人 [24] 将分段CNN与注意力机制进行结合,根据文本和预设关系的匹配程度为每个句子赋以不同的权重,以此来降低存在噪声的句子对关系抽取结果的影响. 由于CNN缺乏捕捉长距离依赖关系和时间序列的能力,因此,更适用于序列的RNN模型,也可用于关系抽取. Zhang等人 [25] 利用双向RNN对序列数据进行建模,使用双向架构对词级特征和长距离依赖进行建模,通过句子中过去和将来的词来预测语义. 双向长短期记忆网络(bi-directional long short-term memory,BLSTM)[26] 允许输入在两个方向上进行流动,利用不同方向上的信息帮助模型获取更好的句子级表示. SpanOIE [27] 采用流水线式方法进行关系抽取,通过谓词发现模块预测出谓词对应的span,通过关系抽取模块找出对应的主体、客体以及两者间的关系.
基于上述传统关系抽取方法,Huang [28] 提出了一种逻辑驱动的深度对比网络(logic-driven deep comparison network,LDCN)模型,旨在解决现有方法中存在的问题,例如事件特征构造方式单一和整数线性规划与神经网络的训练过程割裂等. 该模型能够对事件之间的关系进行增强表示,突出实体间关系的时间特征,同时让这些关系的逻辑一致性在模型训练过程中得以保留. 经实验证明该模型能够较好的应用于时序关系抽取任务. 程钦男等人 [29] 提出了一种基于多粒度信息编码和联合优化的篇章级服务事件序列抽取方法,该方法使用两个不同模块分别对服务事件所蕴含的语义信息和时序信息进行抽取,并构建了实验所用的服务事件数据集,通过实验结果证明了该方法的有效性. Han等人 [30] 提出了一种基于联合表示学习的神经结构预测模型,并通过该模型实现对事件和事件间关系的联合抽取,该模型能够有效地抽取事件间的时序关系,在TB-Dense和MA TRES数据集上分别将先前发布的模型的性能提高了10%和6.8%.
3.2 时序信息嵌入
时序信息嵌入(temporal information embedding)是将时序数据的时间信息嵌入到特征表示的技术. 该技术旨在将时序知识图谱中离散的实体和关系映射至一个低维连续的向量空间,通过设计得分函数使得低维的嵌入向量能够直接体现其语义信息,从而在方便计算的同时保留知识图谱中的结构信息,并在此基础上学习实体和关系随时间演化过程中所蕴含的时序信息,其结果将直接影响后续时序逻辑推理任务. 相较于传统知识图谱的知识嵌入方法,时序四元组中的时间信息能够有效的约束向量空间的几何结构,确保所学习的特征在时间上具有一致性.
Leblay等人 [31] 研究了Temporal Scope预测,对TTransE [31] 模型与TransE [32] 模型等现有嵌入方法进行了简单的扩展. 将基于向量的TTransE定义为
fT(h,r,t)=-h+r+T-tL1/2,
(3)
其中:(hrt)为(头、关系、尾)三元组,(hrt)为头、关系和尾嵌入,T为时间戳. TTransE模型使用3种不同的时间处理方法来扩展TransE和RESCAL [33],TransE模型的扩展方式分别为: 1)将关系和时间构成一个复合关系编码; 2)将时间表示为与实体和关系相同的维度; 3)时间作为影响实体或关系嵌入的系数. 该模型将时间维度转换为能够预测的序列,实现时序信息的嵌入,但在嵌入过程中未能充分考虑时间与实体的结合. Ma等人 [34] 为现有的嵌入方法添加了时间维度,提出了基于时间戳嵌入方法的ConT模型,该模型能够有效的降低计算复杂性且高维张量对时间指标具有表征灵活性. 但ConT模型使用的三维核心张量可能会导致在训练过程中出现过拟合的现象. Dasgupta等人 [35] 受静态知识图谱嵌入方法中TransH [36] 模型的启发,提出了基于时间超平面的HyTE模型. 该模型将整段时间上连续的时序知识图谱进行分解,得到若干个离散静态知识图谱,每个知识图谱对应着一个独立的时间戳和法向量,再将每个知识图谱映射到该法向量所对应的超平面上,实现了时序信息的嵌入. 然而,该模型对于时间戳分布不均匀的时序知识图谱处理效果不佳,并且在对依赖性较强的时序知识图谱进行分解时容易错误表达原知识图谱的结构性. Lacroix等人 [37] 通过扩展ComplEx分解提出了TComplEx 模型,在原方法的基础上新增了加权正则化器,但该模型目前只验证了在非时序数据上具有比ComplEx 更好的性能. García-Durán 等人 [38] 提出了一种方法,使用长短期记忆网络(long short-term memory,LSTM)对富含时序信息的谓词序列进行联合编码,实现文本中谓词序列信息和时序信息的对应,从而将时序信息嵌入文本数据. 但该方法目前只适用于带有时序信息的文本数据和非时序数据. Liu等人 [39] 提出上下文选择机制,通过将实体的上下文定义为包含该实体的集合来捕捉文本数据中能被有效利用的上下文信息,在嵌入过程中保证了实体的时间一致性和上下文一致性,但对于非文本的时序数据处理效果不佳.
已有多数时序信息嵌入方法只考虑了将时间信息融入关系或实体中,而忽略了实体和关系的嵌入也会随时间的变化而发生改变,难以捕捉时序依赖性.
3.3 时序逻辑推理
传统知识图谱的知识推理旨在根据知识图谱中已存在的关系信息对未知事实进行推断,根据其技术方法的不同可分为基于逻辑的推理、基于产生式规则的推理、基于图结构的推理和基于知识表示学习的推理等. 然而,传统的知识推理方法均不能有效处理时序知识图谱中的时序依赖性.
时序逻辑推理方法主要分为内推法(插值法)和外推法两种类型 [16] . 内推法是指对现有时间戳下的未知知识进行估计,即对现有的时序知识图谱进行补全. 外推法则是根据过去和现在的发展趋势,尝试对未来某一时间点的实体状态和关系状态进行预测的方法.
3.3.1 内推法
目前,时序知识图谱的补全方法可以分为基于时间戳依赖的方法、基于深度学习的方法和基于特定时间戳函数的方法.
基于时间戳依赖的方法将时间戳与对应的实体和关系进行关联,以完成实体或关系的演变. He等人 [40] 通过引入规范多元分解,将时序关系和非时序关系进行结合,对随时间变化的事实和静态事实进行分别建模,但该方法忽略了同一关系链中成对关系随时间的演变. 为进一步捕获实体以及实体相关关系在不同时间步长上的语义,Li等人 [41] 引入正则表达式,进一步约束了时序知识图谱补全的表达. Yu 等人 [42] 提出了 TBDRI模型,通过基于关系交互的分解模块对逆关系进行独立学习,提升了逆关系的重要程度,使得补全结果更加完整.
基于深度学习的方法使用CNN或RNN对时间戳进行编码,通过捕获该时间戳上实体和关系的内在相关性实现实体和关系的演化. 基于HyTE模型 [35],He 等人 [43] 提出了基于极坐标系统的HTKE模型,该模型将同一时间戳上的知识嵌入极坐标系统中,使得模型能够有效的捕捉复杂的关系模型,并通过引入时间超平面将时间信息与实体和关系进行显式结合. 与 HyTE一样,HTKE对相邻超平面之间的时间依赖性处理能力较差. 为解决这一问题,Yuan等人 [44] 提出了 TRHyTE,定义了时间间隔、开放间隔和时间点3类时间属性,以区分不同情况. 模型将实体依次映射到关系空间和时间超平面上,以此来学习时间关系感知嵌入,捕捉相邻超平面之间的时间依赖性. 但该方法忽略了时间戳分布的平衡性,在一定程度上限制了补全方法的表达性. SANe [45] 通过引入CNN将不同时间戳的知识图谱嵌入到各自对应的潜在空间,使用自适应方法学习各潜在空间中知识图谱内的实体和关系,为各个时间戳的知识图谱设定不同的特定参数,以避免出现潜在空间重叠现象. 然而,前述方法都是基于三元组建模,严重限制了表达时间信息的能力,为解决这一问题,Wang等人 [46] 提出了TDN模型,设计了四重分发器,通过实体、关系和时间戳之间的信息聚合和分布,促进时序知识图谱补全的表示学习,全面捕获时序四元组在各自时间点或时间段上的语义.
基于特定时间戳函数的方法利用特定函数对时间戳、实体和关系的演化进行学习. Wang等人 [47] 对特定时间上的局部信息和全局信息进行建模,使用稀疏变换矩阵学习实体的演化过程,在此基础上对实体关联和演变进行建模,提升了方法的可扩展性. Dikeoulias [48] 等人将时间戳分解为年、月、周、日4个粒度,提出了周期感知的时间戳编码函数,提升了时间戳编码的效果. TGeomE [49] 方法将时序知识图谱嵌入四元组空间中,为关系添加时间信息,定义了特定时间的关系嵌入,进一步提高了时间关系模式的建模能力和推理能力,提升了补全效果.
已有时序知识图谱补全方法大多将时序四元组转换为三元组进行处理,对于实体和关系间蕴含的时间信息表达能力不强,难以完全捕捉实体和关系随时间的演化趋势.
3.3.2 外推法
时序逻辑推理的外推法主要用于在时序知识图谱上对将来的未知事件进行预测. 目前,常见的模型在重复性或者周期性事件较多的数据集上预测效果良好. 然而,当面临新事件占比较多的数据集时,主流模型往往很难达到较好的预测效果.
为了提高预测精度,出现了多种基于深度学习的预测模型. Xu等人 [50] 提出了一种基于历史对比学习的时序知识图谱推理模型–—对比事件网络(contrasive event network,CENET). CENET的主要思想是学习整个实体集中令人信服的分布,并在对比学习框架中从历史和非历史依赖关系中识别与给定查询最匹配的实体. Trivedi等人 [17] 提出的Know-Evolve模型可学习时间序列中非线性进化实体的表示方法. 该模型将事实的出现建模为一个多变量点过程,通过基于学习的实体嵌入计算得到事实分数,使用该事实分数对多变量点过程的密度函数进行调节,这使得该模型对事物首次发生和重复发生的时间具有良好的预测效果. Han等人 [51] 提出的xERTE模型对时间关联注意机制进行了创新,建立了一个可解释的时间关联注意预测模型,对时间序列中实体的多种关系间因果性进行了保留,并可视化了推理过程,因此可检查论证的可靠性,以防止使用误导性数据进行不恰当的预测. Liu等人 [52] 所提出的TLogic模型通过从知识图谱中提取时序信息来实现自动挖掘循环时序逻辑规则,以时序逻辑的形式实现了较高预测性能,但其应用场景有限. Zhu等人 [53] 提出了CyGNet模型,该模型采用复制生成机制对一段时间内的高频重复事件进行识别. 实验结果表明,CyGNet模型不仅能够识别实体中的重复事实,还能够根据过去已知的事实进行未来事实的预测. CyGNet模型包含两种推理模式,即复制模式和生成模式. 复制模式的原理是从特定的历史词汇中进行实体筛选,从而得到历史中重复事实集合,而生成模式旨在根据实体词汇中历史事实来进行未来事实的预测. Li等人 [54] 提出了一种两阶段推理模型CluSTeR来预测未来事实,两阶段分别包括线索搜寻和时序推理. 在线索搜集阶段,CluSTeR模型通过强化学习来学习一个随机束搜索策略从历史事实中归纳线索; 在时序推理阶段,CluSTeR模型采用基于图卷积神经网络的方法从线索中推理出答案. 为了更好地学习事实的长期依赖性,Jung等人 [55] 提出了一种新的GNN编码器,该编码器采用两段GNN,通过知识图谱上的边缘传播注意力进行基于路径的多跳推理,使得推理过程也能捕捉到相关实体和关系的结构特征,能够有效地从时序知识图谱中抽取相关信息. Bai等人 [56] 引入了两种类型的预定义趋势得分来组织链接预测的历史事实. 根据趋势分数聚合历史事实,以便使用更多相关线索进行预测. 进一步采用门控循环单元(gate recurrent unit,GRU)来汇总每个时间戳的历史事实,以学习动态推理过程. Zhang等人 [57] 提出HGLS模型,将时序知识图谱序列转换为全局图,对不同时间步长的历史实体进行显式关联,通过建立分层图神经网络模块,对全局图进行分层编码,来捕获实体之间的长期依赖关系. 此外,基于长短期记忆(long short-termmemory,LSTM)网络开发了门控集成模块,对各个实体和关系之间的长短期信息进行自适应集成. Wang 等人 [58] 提出了MP-KD模型,通过跨语言对齐和知识迁移方法将高资源语言的时序知识图谱进行有效利用,从而增强低资源语言的时序知识图谱的推理能力. Ren等人 [59] 提出HSAE模型,使用自关注机制捕捉实体和关系的结构化信息,在此基础上使用历时嵌入函数学习实体和关系随时间的演化规律,以实现对时序知识图谱静态结构和动态规律的全面掌控,提升推理能力. 虽然目前已经出现了许多方法,但在预测精度上仍有一定的提升空间.
4 应用案例: 铝电解氧化铝浓度多粒度知识图谱构建及应用
已有许多知识图谱应用于智能制造领域的案例,如Youn等人 [60] 构建大肠杆菌抗生素耐药性知识图谱,为制药流程提供决策支持; Liu等人 [61] 构建了铜冶炼过程知识图谱; 王雅琳等人 [62] 构建了注塑知识图谱,可实现注塑过程表面缺陷的诊断及优化; Wang等人 [63] 构建了用于汽车焊接机器人的工业机器人知识图谱; Zhou等人 [3] 将时间序列数据语义事件嵌入到由焊接技术文档转换的工业知识图中,构建了时序知识图谱. 流程制造业涉及复杂连续物理化学反应,生产过程是多个不可拆分的工业过程连续生产,流程制造企业面临多级决策和大量传感器采集的时序数据,而现有时序知识图谱构建技术大都是基于包含主客体事件、关系谓词和时间戳的文本类型时序四元组数据集的,如ICEWS,GDELT等. 因此,现有知识图谱构建技术难以很好满足流程工业智能制造多级决策需求.
氧化铝浓度是铝电解生产过程中核心参数,精细的氧化铝浓度监控对稳定槽况、提升电流效率等方面有着十分重要的意义. 铝电解生产过程面临多级决策,不同的角色根据自身权限和职责不同,所进行的决策也不同. 例如,工艺专工对应生产操作决策、车间主任对应车间管理决策. 王国胤等人 [64] 提出的多粒度认知计算结合了人类“大范围优先”的认知机制,即“由粗到细”认知过程和机器学习系统“由细到粗”的信息处理机制. 为实现对氧化铝浓度进行实时、稳定、精细的监测和控制,本文从工厂实时生产运行数据和生产报表组成的基本数据级中抽取到的铝电解数据知识,构建铝电解氧化铝浓度多粒度知识图谱,为精细认知下料决策提供知识库支持.
4.1 铝电解氧化铝浓度多粒度本体构建
本文首先使用自顶向下和自底向上结合的方式 [2] 进行多粒度本体构建.
在自顶向下部分,由专家定义知识图谱的模式层,使用七步法 [65-66] 进行本体构建. 在自顶向下的本体构建中,将知识图谱构建为分别对应下料决策、生产操作决策和车间管理决策三级决策的工艺语义级、生产操作级、车间管理级等3个粒度级. 根据3个粒度级的特点,建立如下所示的铝电解氧化铝浓度多粒度本体模型.
O psl = G i , T i , T v , D , D v , S , S p , R s , T , T s , M , O pol = G i , S n , S v , O , O t , T s , T e , R , R c , M , O wml = W id , R t , T r , G i , O i , M ,
(4)
其中: Opsl表示工艺语义级十一元组本体模型,工艺语义级面向下料决策,包含的子属性主要为工艺数据的值以及这些工艺数据对其他属性的影响; Gi表示车间号、电解槽槽号、分组号等基本信息; TiTv分别表示目标指标和目标指标的值,目标指标包含表观氧化铝浓度(pseudo alummina concentrate,PAC)[67]、表观溶解滞后系数(pseudo dissolution hysteresis coefficient,PDHC)[68-69]、子带瞬时能量谱(sub-band instantaneous energy spectrum,SIEP)[70]、针摆-X [67]、实际综合下料周期(integral feed period,IFP)[68-69] 等子属性; DDv分别表示计算目标指标所需的指标集合和相应的值; S表示目标指标能够影响的其他属性的集合; Rs为目标指标TiS中出现属性的关系集合; Sp 为状态信息数据,用于建立Opsl本体模型与Opol本体模型间联系,为因果推理做准备; T表示采样频率; Ts 为时间戳; M为当前本体模型的粒度级.
Opol表示生产操作级十元组本体模型,生产操作级面向生产操作决策,包含的子属性主要为出铝、换极、阳升、阳降等多种生产操作发生的时间及该生产操作发生时参考数据的值. 其中: Gi表示基本信息; SnSv分别表示状态信息名称和对应的值; O为当前 SnSv对应的生产操作; Ot表示生产操作的类型,分为持续和即时两种类别; TsTe分别表示生产操作的起始时间和结束时间,若Ot的值为即时,则Ts = Te; RRc为当前生产操作的参考数据和参考数据的值,参考数据主要包括OpslTi中部分指标数据和工厂实时生产运行数据中部分基本数据; M为当前本体模型的粒度级.
Owml表示车间管理级六元组本体模型,车间管理级面向车间管理,包含的子属性主要为从生产报表中抽取的报表数据和工艺数据等. 其中: Wid为车间号,Rt表示报表类型,Tr为当前报表的时间粒度,Gi为基本信息, Oi为其他信息集合,M为当前本体模型的粒度级.
在自底向上部分,从知识中提取本体. 该部分知识图谱的知识来源两方面: 与铝电解过程相关、能够在外部数据中找到的开放性知识; 来自企业内部、无法从外部数据中找到的特异性知识. 在自底向上的本体构建中,对于结构化数据和半结构化数据,使用基于规则的方法进行实体识别,使用专家编写的模板进行关系抽取.
4.2 铝电解氧化铝浓度多粒度知识图谱
根据铝电解氧化铝浓度多粒度本体模型,最终构建的部分铝电解氧化铝浓度多粒度知识图谱的实体与关系如图2所示. 该知识图谱存储于Neo4j图数据库. 包含基本数据级、工艺语义级、生产操作级、车间管理级4类实体. 该知识图谱不仅能够反映各粒度级中子属性间的静态关系,也能够反映各子属性值的变化趋势以及不同时间内子属性间关系的动态变化,为铝电解精细认知下料决策提供知识库支撑.
2铝电解氧化铝浓度多粒度知识图谱(部分)
Fig.2Aluminum electrolysis alumina concentration multi-granularity knowledge graph (partial)
4.3 基于多粒度知识图谱的氧化铝浓度估计
在铝电解生产过程中,由于物理检测速度较慢,很少有能满足氧化铝浓度在线监控要求的传感器,因此氧化铝浓度估计对氧化铝浓度监控非常重要. 基于多粒度知识图谱的氧化铝浓度估计方法,利用了知识图谱可为铝电解生产过程存在的碎片化知识 [69] 和多源异构数据统一的结构化表示的优点; 利用多粒度知识图谱适用铝电解生产、操作面临多级决策的优势; 而多粒度知识图谱中的时序信息可有效表示氧化铝浓度与各影响因素间互相作用的时间顺序和复杂因果关系,可描述氧化铝浓度相关工况随各影响因素随变化而转换的规律,为氧化铝浓度估计提供包含时序关系和因果关系的动态知识库. 基于该多粒度知识图谱的氧化铝浓度估计方法步骤简述如下:
1)通过知识图谱获取相关参数. 该方法首先通过知识图谱对所需参数进行搜索. 对于氧化铝浓度估计任务,关键参数为表观氧化铝浓度PAC,该参数已保存在知识图谱的工艺语义级中. 在获取该PAC参数时,只需在工艺语义级对Ti = PAC的Opsl十一元组进行搜索,即可得到包含PAC值的数据集合V-,该集合包括PAC的值Tv和对应的时间戳Ts .
2)使用PAC数据进行氧化铝浓度估计. 为了保证估计结果的准确性,需要在铝电解槽为正常槽况: 氧化铝浓度基本正常,且连续3个综合下料周期内无出铝、换极等人工操作和阳极效应等特殊槽况下,进行氧化铝浓度估计. 因此,首先根据采样槽电压PotResist判断电解槽是否为正常槽况: 通过在工艺语义级中搜索时间戳Ts时刻的D =“采样槽电压”的Opsl 十一元组来推理判断当前槽况; 如果槽况正常,使用方法1)中得到的数据集合Vpac; 根据时间戳Ts 时刻的 PAC值进行折算,得到时间戳Ts时的氧化铝浓度估计值.
3)将氧化铝浓度估计值存入知识图谱. 由图2可知,氧化铝浓度属于“影响指标集合”,因此将氧化铝浓度估计值存入到工艺语义级Opsl 十一元组中的S集合中,对知识图谱进行更新.
与在整个知识图谱中搜索不同,该基于多粒度知识图谱的氧化铝浓度估计方法步骤1)–3)的执行过程,只在工艺语义级范围内搜索参数,缩小了搜索范围,提高了参数获取和存储速度. 类似的,不同层级内的决策,大概率只使用本粒度层级数据和知识. 因此,多粒度知识图谱可较大程度上减少数据和知识的获取、存储时间,降低各级决策所需时间,进而从整体上提升系统运行效率.
5 结论与展望
5.1 结论
本文首先在时序知识图谱和时序四元组定义的基础上,给出时序知识图谱构建流程; 再对时序知识抽取、时序信息嵌入和时序逻辑推理3类时序知识图谱构建关键技术的发展历程和研究进展进行了总结和梳理; 最后给出铝电解氧化铝浓度多粒度知识图谱构建及应用案例.
后续工作将会继续完善该多粒度知识图谱,通过该多粒度知识图谱实现如氧化铝浓度实时认知、氧化铝溶解性实时感知、电解质温度实时感知和铝液波动实时感知等功能,为铝电解认知下料决策提供知识库支撑.
5.2 展望
流程制造领域涉及大量工艺机理、经验知识和具有动态、多尺度和时空关联特性的过程数据,时序知识图谱是流程工业知识自动化系统知识库的一种解决方案,未来需要发展动态知识价值评价、动态关系和多粒度知识空间等方面的研究.
1)动态知识价值评价体系. 与传统知识图谱显著不同,时序知识图谱中知识价值也是动态变化的,需要建立隐含时间元素的动态知识价值评价体系,如知识新鲜度、知识频度、知识可信度等评价指标.
2)动态关系的量化表示及定量推理方法. 流程制造企业生产过程涉及复杂连续物理化学反应,具有鲜明的时序性,各工况、工序间关系复杂、相互影响且动态变化. 嵌入了时序信息的时序知识图谱不仅可表示动态关联关系链,还可表示动态的因果关系及因果关系链. 时序知识图谱需要进一步研究动态关系量化表示及定量推理方法、动态关系间相互关系等.
3)面向时序知识图谱的多粒度知识空间. 流程制造领域常面临多级决策,需要时序知识图谱提供多种粒度层级的动态知识. 根据具体应用需求,同一粒度层级内又可划分更细的粒簇; 不同粒度层级所表达的知识密度和知识量不同,隐含的关系变化规律和事件演化模式表现形式不同. 同粒度层级内粒簇间、不同粒度层级间的转换和融合机制; 各粒度层级内关系变化规律和事件演化模式等,共同形成了动态多粒度知识空间. 面向时序知识图谱的动态多粒度知识空间构筑、表达、分析和操作需要深入研究.
1时序知识图谱构建流程示意
Fig.1Schematic diagram of the construction process of temporal knowledge graph
2铝电解氧化铝浓度多粒度知识图谱(部分)
Fig.2Aluminum electrolysis alumina concentration multi-granularity knowledge graph (partial)
MAO S, WANG B, TANG Y,et al. Opportunities and challenges of artificial intelligence for green manufacturing in the process industry. Engineering,2019,5(6):995-1002.
MOU Tianhao, LI Shaoyuan. Knowledge graph construction for control systems in process industry. Chinese Journal of Intelligent Science and Technology,2022,4(1):129-141.(牟天昊, 李少远. 流程工业控制系统的知识图谱构建. 智能科学与技术学报,2022,4(1):129-141.)
ZHOU B, SHEN X, LU Y,et al. Semantic-aware event link reasoning over industrial knowledge graph embedding time series data. International Journal of Production Research,2023,61(12):4117-4134.
DONG X, GABRILOVICH E, HEITZ G,et al. Knowledge vault: A web-scale approach to probabilistic knowledge fusion. Proceedings of the 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York, USA: Association for Computing Machinery,2014:601-610.
KE S, PAN Z, HE T,et al. AutoSTG+: An automatic framework to discover the optimal network for spatio-temporal graph prediction. Artificial Intelligence,2023,318:103899.
JEONG J, LEE N, SHIN Y,et al. Intelligent generation of optimal synthetic pathways based on knowledge graph inference and retrosynthetic predictions using reaction big data. Journal of the Taiwan Institute of Chemical Engineers,2022,130:103982.
MITRA R, DONGRE A, DANGARE P,et al. Knowledge graph driven credit risk assessment for micro,small and medium-sized enterprises. International Journal of Production Research,2024,62(12):4273-4289.
REN J, LONG J, XU Z. Financial news recommendation based on graph embeddings. Decision Support Systems,2019,125:113115.
ZHAO Y, WEI S, DU H,et al. Learning Bi-typed multi-relational heterogeneous graph via dual hierarchical attention networks. IEEE Transactions on Knowledge and Data Engineering,2022,35(9):9054-9066.
WANG X, WANG C, LI L,et al. FashionKLIP: Enhancing Ecommerce image-text retrieval with fashion multi-modal conceptual knowledge graph. Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics. Toronto, Canada: Association for Computational Linguistics,2023:149-158.
LUO X, LIU L, YANG Y,et al. AliCoCo: Alibaba e-commerce cognitive concept net. Proceedings of the 2020 ACM SIGMOD International Conference on Management of Data. New York, USA: Association for Computing Machinery,2020:313-327.
LIU Qiao, LI Yang, DUAN Hong,et al. Knowledge graph construction techniques. Journal of Computer Research and Development,2016,53(3):582-600.(刘峤, 李杨, 段宏, 等. 知识图谱构建技术综述. 计算机研究与发展,2016,53(3):582-600.)
JI S, PAN S, CAMBRIA E,et al. A survey on knowledge graphs: Representation,acquisition,and applications. IEEE Transactions on Neural Networks and Learning Systems,2021,33(2):494-514.
ZHANG Jixiang, ZHANG Xiangsen, WU Changxu,et al. Survey of knowledge graph construction techniques. Computer Engineering,2022,48(3):23-37.(张吉祥, 张祥森, 武长旭, 等. 知识图谱构建技术综述. 计算机工程,2022,48(3):23-37.)
WIJAYA D T, NAKAASHOLE N, MITCHELL T. CTPs: Contextual temporal profiles for time scoping facts using state change detection. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing(EMNLP). Doha, Qatar: Association for Computational Linguistics,2014:1930-1936.
JIN W, JIANG H, QU M,et al. Recurrent event network: Global structure inference over temporal knowledge graph. ArXiv Preprint,2019,arXiv:1904.05530.
TRIVEDI R, DAI H, WANG Y,et al. Know-evolve: Deep temporal reasoning for dynamic knowledge graphs. International Conference on Machine Learning,2017:3462-3471.
XU C, NAYYERI M, ALKHOURY F,et al. Temporal knowledge graph embedding model based on additive time series decomposition. ArXiv Preprint,2019,arXiv:1911.07893.
GOEL R, KAZEMI S M, BRUBAKER M,et al. Diachronic embedding for temporal knowledge graph completion. Proceedings of the AAAI Conference on Artificial Intelligence,2020,34(4):3988-3995.
SHU W, CAI K, XIONG N N,et al. A short-term traffic flow prediction model based on an improved gate recurrent unit neural network. IEEE Transactions on Intelligent Transportation Systems,2021,23(9):16654-16665.
ZEND D, LIU K, LAI S,et al. Relation classification via convolutional deep neural network. Proceedings of COLING 2014,the 25th International Conference on Computational Linguistics: Technical Papers. Dublin, Ireland: Association for Computational Linguistics,2014:2335-2344.
SANTOS C N, XIANG B, ZHOU B. Classifying relations by ranking with convolutional neural networks. Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing. Beijing, China: Association for Computational Linguistics,2015:626-634.
ZENG D, LIU K, CHEN Y,et al. Distant supervision for relation extraction via piecewise convolutional neural networks. Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing. Lisbon, Portugal: Association for Computational Linguistics,2015:1753-1762.
LIN Y, SHEN S, LIU Z,et al. Neural relation extraction with selective attention over instances. Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics. Berlin, Germany: Association for Computational Linguistics,2016:2124-2133.
ZHANG D, WANG D. Relation classification via recurrent neural network. ArXiv Preprint,2015,arXiv:1508.01006.
ZHANG S, ZHENG D, HU X,et al. Bidirectional long short-term memory networks for relation classification. Proceedings of the 29th Pacific Asia Conference on Language, Information and Computation. Shanghai, China: Association for Computational Linguistics,2015:73-78.
ZHAN J, ZHAO H. Span model for open information extraction on accurate corpus. Proceedings of the AAAI Conference on Artificial Intelligence,2020,34(5):9523-9530.
HUANG M Z. Deep learning based extraction of events and temporal relations. Liaoning: Dalian University of Technology,2021.
CHENG Qinnan, MO Zhiqiang, CAO Bin,et al. Document-level service event sequence extraction based on multigranularity information encoding and joint optimization. Journal of Nanjing University: Natural Science,2023,59(3):460-470.(程钦男, 莫志强, 曹斌, 等. 基于多粒度信息编码和联合优化的篇章级服务事件序列抽取方法. 南京大学学报: 自然科学版,2023,59(3):460-470.)
HAN R, NING Q, PENG N. Joint event and temporal relation extraction with shared representations and structured prediction. ArXiv Preprint,2019,arXiv:1909.05360.
LEBLAY J, CHEKOL M W. Deriving validity time in knowledge graph. Companion Proceedings of the The Web Conference 2018. Lyon, France: Association for Computing Machinery,2018:1771-1776.
BORDES A, USUNIER N, GARCIA-DURAN A,et al. Translating embeddings for modeling multi-relational data. Neural Information Processing Systems(NIPS). Red Hook, NY, USA: Curran Associates, Inc.,2013,26:1-9.
NICKEL M, TRESP V, KRIEGEL H P. A three-way model for collective learning on multi-relational data. Proceedings of the 28th International Conference on International Conference on Machine Learning. Bellevue, Washington, USA: Association for Computing Machinery,2011:809-816.
MA Y, TRESP V, DAXBERGER E A. Embedding models for episodic knowledge graphs. Journal of Web Semantics,2019,59:100490.
DASGUPTA S S, RAY S N, TALUKDA P P. HyTE: Hyperplanebased temporally aware knowledge graph embedding. Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing. Brussels, Belgium: Association for Computational Linguistics,2018:2001-2011.
WANG Z, ZHANG J, FENG J,et al. Knowledge graph embedding by translating on hyperplanes. Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto, CA, USA: AAAI Press,2014,1112-1119.
LACROIX T, OBOZINSKI G, USUNIER N. Tensor decompositions for temporal knowledge base completion. ArXiv Preprint,2020,arXiv:2004.04926.
GARCÍA-DURÁN A, DUMANČIĆ S, NIEPERT M. Learning se-quence encoders for temporal knowledge graph completion. Conference on Empirical Methods in Natural Language Processing. Brussels, Belgium: Association for Computational Linguistics,2018:4816-4821.
LIU Y, HUA W, XIN K,et al. Context-aware temporal knowledge graph embedding. Web Information Systems Engineering-WISE 2019:20th International Conference. Hong Kong, China: Springer,2019:583-598.
HE P, ZHOU G, ZANG M,et al. Improving temporal knowledge graph embedding using tensor factorization. Applied Intelligence,2023,53(8):8746-8760.
LI M, SUN Z, ZHANG W,et al. Leveraging semantic property for temporal knowledge graph completion. Applied Intelligence,2023,53(8):9247-9260.
YU M, GUO J, YU J,et al. TBDRI: Block decomposition based on relational interaction for temporal knowledge graph completion. Applied Intelligence,2023,53(5):5072-5084.
HE P, ZHOU G, LIU H,et al. Hyperplane-based time-aware knowledge graph embedding for temporal knowledge graph completion. Journal of Intelligent & Fuzzy Systems,2022,42(6):5457-5469.
YUAN L, LI Z, QU J,et al. Trhyte: Temporal knowledge graph embedding based on temporal relational hyperplanes. International Conference on Database Systems for Advanced Applications. Cham: Springer International Publishing,2022:137-152.
LI Y, ZHANG X, ZHANG B,et al. Each snapshot to each space: Space adaptation for temporal knowledge graph completion. International Semantic Web Conference. Cham: Springer International Publishing,2022:248-266.
WANG J, WANG B, GAO J,et al. QDN: A quadruplet distributor network for temporal knowledge graph completion. IEEE Transactions on Neural Networks and Learning Systems.2024,35(10):14018-14030.
WANG X, LYU S, WANG X,et al. Temporal knowledge graph embedding via sparse transfer matrix. Information Sciences,2023,623:56-69.
DIKEOULIAS I, AMIN S, NEUMANN G. Temporal knowledge graph reasoning with low-rank and model-agnostic representations. ArXiv Preprint,2022,arXiv:2204.04783.
XU C, NAYYERI M, CHEN Y Y,et al. Geometric algebra based embeddings for static and temporal knowledge graph completion. IEEE Transactions on Knowledge and Data Engineering,2022,35(5):4838-4851.
XU Y, OU J, XU H,et al. Temporal knowledge graph reasoning with historical contrastive learning. ArXiv Preprint,2022,arXiv:2211.10904.
HAN Z, MA Y, CHEN P,et al. Xerte: Explainable reasoning on temporal knowledge graphs for forecasting future links. ArXiv Preprint,2020,arXiv:2012.15537.
LIU Y, MA Y, HILDEBRANDT M,et al. Tlogic: Temporal logical rules for explainable link forecasting on temporal knowledge graphs. Proceedings of the AAAI Conference on Artificial Intelligence,2022,36(4):4120-4127.
ZHU C, CHEN M, FAN C,et al. Learning from history: Modeling temporal knowledge graphs with sequential copy-generation networks. Proceedings of the AAAI Conference on Artificial Intelligence,2021,35(5):4732-4740.
LI Z, JIN X, GUAN S,et al. Search from history and reason for future: Two-stage reasoning on temporal knowledge graphs. Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing. Stroudsburg, PA, USA: Association for Computational Linguistics,2021:4732-4743.
JUNG J H, JUNG J H, KANG U,et al. Learning to walk across time for interpretable temporalknowledge graph completion. Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery & Data Mining. New York, USA: Association for Computing Machinery,2021:786-795.
BAI L, MA X, ZHANG M,et al. Tpmod: A tendency-guided pre-diction model for temporal knowledge graph completion. ACM Transactions on Knowledge Discovery from Data,2021,15(3):1-17.
ZHANG M, XIA Y, LIU Q,et al. Learning long-and short-term representations for temporal knowledge graph reasoning. Proceedings of the ACM Web Conference 2023. New York, USA: Association for Computing Machinery,2023:2412-2422.
WANG R, LI Z, YANG J,et al. Mutually-paced knowledge distillation for cross-lingual temporal knowledge graph reasoning. Proceedings of the ACM Web Conference 2023. New York, USA: Association for Computing Machinery,2023:2621-2632.
REN X, BAI L, XIAO Q,et al. Hierarchical self-attention embedding for temporal knowledge graph completion. Proceedings of International World Wide Web Conference. New York, USA: Association for Computing Machinery,2023:2539-2547.
YOUN J, RAI N, TAGKOPOILOS I. Knowledge integration and decision support for accelerated discovery of antibiotic resistance genes. Nature Communications,2022,13(1):2360.
LIU Q, LIU M, ZHOU H,et al. Intelligent manufacturing system with human-cyber-physical fusion and collaboration for process fine control. Journal of Manufacturing Systems,2022,64:149-169.
WANG Yalin, ZOU Jiangfeng, WANG Kai,et al. Injection molding knowledge graph based on ontology guidance and its application to quality diagnosis. Journal of Electronics & Information Technology,2022,44(5):1521-1529.(王雅琳, 邹江枫, 王凯, 等. 基于本体引导的注塑知识图谱构建及缺陷溯因应用. 电子与信息学报,2022,44(5):1521-1529.)
WANG X, LIU M, LIU C,et al. Data-driven and knowledge-based predictive maintenance method for industrial robots for the production stability of intelligent manufacturing. Expert Systems with Applications,2023,234:121136.
WANG Guoyin, FU Shun, YANG Jie,et al. A review of research on multi-granularity cognition based intelligent computing. Chinese Journal of Computers,2022,45(6):1161-1175.(王国胤, 傅顺, 杨洁, 等. 基于多粒度认知的智能计算研究. 计算机学报,2022,45(6):1161-1175.)
NOY N F, MCGUINESS D L. Ontology Development 101: A Guide to Creating Your First Ontology. Stanford University,2001,https://protege.stanford.edu/publications/ontology development/ontology101.pdf.
ZHONG W M, LI C Y, PENG X,et al. A knowledge base system for operation optimization: Design and implementation practice for the polyethylene process. Engineering,2019,5:1041-1048.
CHEN X F, ZENG Z H, XIE Y F,et al. Methods and devices for detection abnormal alumina concentration and for monitoring electrolyte temperature in aluminum electrolysis driven by process mechanism knowledge: CN2020200691,2020-08-20.
ZENG Z H, GUI W H, CHEN X F,et al. A mechanism knowledgedriven method for identifying the pseudo dissolution hysteresis coefficient in the industrial aluminium electrolysis process. Control Engineering Practice,2020,102:104533.
GUI Weihua, ZENG Zhaohui, CHEN Xiaofang,et al. Knowledgedriven process industry smart manufacturing. Scientia Sinica Informationis,2020,50(9):1345-1360.(桂卫华, 曾朝晖, 陈晓方, 等. 知识驱动的流程工业智能制造. 中国科学: 信息科学,2020,50(9):1345-1360.)
ZENG Z H, GUI W H, CHEN X F,et al. A cell condition-sensitive frequency segmentation method based on sub-band instantaneous energy spectrum of the voltage for aluminium electrolytic cells. Engineering,2021,7(9):1282-1292.