用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网科技动向学人动向
关键字  范围   
 
肖仰华:KBQA over Corpora & Knowledge Bases
肖仰华:KBQA over Corpora & Knowledge Bases
2017/9/19 2:43:26 | 浏览:2647 | 评论:0

肖仰华:KBQA over Corpora & Knowledge Bases

问答系统(QA)已经成为人类访问十亿级知识图谱的流行方式,它回答的是自然语言问题。 QA系统最有名的故事之一就是IBM WATSON在2011年参加了Jeopardy竞赛,打败了所有人类竞争对手,获得了100万美元的奖励。

肖仰华:KBQA over Corpora & Knowledge Bases

QA的研究非常重要。首先,从应用角度来看,QA系统降低了人机交互的门槛, 非常适合成为互联网的新入口。作为聊天机器人的重要组件,吸引了来自工业界的大量关注。

从人工智能角度来看,QA是评估机器智能的一个重要任务,也就是图灵测试。同时,QA还是许多AI技术的重要测试平台,比如机器学习,自然语言处理,机器认知等等

肖仰华:KBQA over Corpora & Knowledge Bases

现在我们来谈谈知识库。近年来,我们目睹了知识库的发展,越来越多的大规模知识库涌现出来,如Google Knowledge graph,Yago和Freebase等。这些知识库具有体量大,质量高的特点。

一个知识库包含了大量的结构化数据。右图给出了一个关于Obama的知识图谱示例。知识库中的每一个三元组代表一个知识或某个事实。 例如,一个三元组(d,人口,390k)表示檀香山的人口为390k。

肖仰华:KBQA over Corpora & Knowledge Bases

KBQA指的是以知识库作为答案来源的问答系统。

那么它是如何工作的呢?关键在于将自然语言问题转换为知识库上的结构化查询。例如,要回答“有多少人住在檀香山?”这个问题,我们需要将其转移到SPARQL或者SQL查询。 这里的关键问题是属性推断。

肖仰华:KBQA over Corpora & Knowledge Bases

关于属性推断,我们面临两个挑战。

第一个挑战是问题表示。对于任意一个QA系统,我们需要一个具有代表性的问题表示来帮助识别具有相同语义的问题,同时区分不同意图的问题。

第二个挑战是语义匹配,如何将问题表示映射到知识库中的结构化查询?

肖仰华:KBQA over Corpora & Knowledge Bases

然而,之前的解决方案并不能解决上述提出的挑战。

我们研究了两个主流的解决方案。

第一个是基于模板/规则的方法。这个方法用模板表示句子,语义解析往往通过人工标记来实现。这种方法的优点是它的结果是用户可控的,这使得它更适用于工业用途。缺点是严重依赖人工,成本太高,昂贵的人力成本使得它无法处理多样性的问题。

另一个是基于神经网络的方法。最近这种做法很受欢迎,它们通过embedding的方式来表示一个问题,并从QA语料库中学习出它的语义解析。这种方法的优点是embedding是灵活的,所以它可以理解各种各样的问题。缺点是基于神经网络的方法通常具有较差的解释性,此外,结果是不可控的,所以他们并不适用于工业应用。

因此,我们不禁会想:能不能提出一种新的方法兼备这两种方法的优点?

肖仰华:KBQA over Corpora & Knowledge Bases

为了做到这一点,我们用模板来表示自然语言问题。 例如,“檀香山有多少人?”的模板成为“城市里有多少人?”。因为使用了模板作为问题表示,我们的方法具有可解释性和用户可控性。

然而,我们并不是手动标记模板,而是从QA语料库中自动学习模板。 最终,我们为2,782个意图学到了2,700万个模板,这么大量的数据保证我们可以理解不同的问题。

肖仰华:KBQA over Corpora & Knowledge Bases

这个系统体系结构如图所示。它主要包括两个过程:离线预处理部分和在线QA部分。

我们先来看看离线过程,离线过程的目标是学习出从模板到属性的映射。

再来看在线部分,当一个问题进来,系统首先将其解析和分解为一组二元事实型问题。对于每个二元事实型问题,系统使用概率推断来寻找它的值。这个推断是基于给定模板的属性分布来得到的。

肖仰华:KBQA over Corpora & Knowledge Bases

接下来,我们对这个问题进行形式化定义。给定问题q,问答系统的目标是寻找具有最大概率的答案v(其中,v是一个简单值)。

我们提出了一个生成模型来解释如何为一个问题找到它的答案。

我们认为使用概率推断的方法来做KBQA是非常合理的。首先,一些问题的意图是模糊的。其次,大多数知识库都是不完整的。最后,QA语料库中的答案也可能是错误的。

肖仰华:KBQA over Corpora & Knowledge Bases

我们以这个问答对来说明这个生成过程。

肖仰华:KBQA over Corpora & Knowledge Bases

从用户问题q开始,我们首先生成或者说识别出其中对应的知识库中的实体d。

肖仰华:KBQA over Corpora & Knowledge Bases

在知道问题和实体之后,我们根据d的概念分布生成模板t。 这样,我们得到了一个模板“有多少人住在某城市?”

肖仰华:KBQA over Corpora & Knowledge Bases

由于属性只与模板有关,所以我们推断出这个属性的模板为“population”。

肖仰华:KBQA over Corpora & Knowledge Bases

最后,给定实体d和属性population,我们通过查找知识库来得到它的答案。

肖仰华:KBQA over Corpora & Knowledge Bases

通过这种方法,我们完成了从一个自然语言问题到生成答案的整个过程。这个过程可以建模为一个概率图模型。

基于这个生成模型,可以得到一个联合概率分布,进而用来解决给定其他变量求最大v的条件概率问题。

肖仰华:KBQA over Corpora & Knowledge Bases

下一个问题是如何计算出联合概率分布公式中的每一种概率。

我们可以从语料库直接估计出来大部分的概率。例如实体分布的概率,模板分布的概率以及值分布的概率。

我们从雅虎问答的4200万的QA pairs中,学习出问题模板和属性的映射关系。表中展示了QA语料库中的一些例子。

肖仰华:KBQA over Corpora & Knowledge Bases

最后我们来估计P(P|T)的值。基本思路是将P(P|T)作为参数,然后使用极大似然法来估计P(P|T)。

这里我们使用了EM算法来进行参数估计。

肖仰华:KBQA over Corpora & Knowledge Bases

KBQA的另一个难点就是回答复杂问题。在面对复杂问题时,我们采用了分治算法。首先,系统把问题分解为一系列的二元事实型问题,然后系统依次回答每个问题。每个问题的答案都是一个概率,我们通过动态规划算法找到最优分解。

肖仰华:KBQA over Corpora & Knowledge Bases

接下来我们来看看实验部分。我们首先通过实验证明属性推断的有效性。我们从学习出的属性数量和模板数据来对比我们的方法和bootstrapping方法。结果表明,我们的KBQA方法能得到更多的属性和模板, 这意味着KBQA在属性推理中更有效。大量的模板可以确保KBQA理解不同的问题模板,同时,大量的属性可以确保KBQA理解不同的关系。

肖仰华:KBQA over Corpora & Knowledge Bases

我们也在很多benchmarks上用到了我们的KBQA。图为QALD-5的结果。结果表明,KBQA具有最高的准确度。由于KBQA只回答二元事实型问题,因此召回率相对较低。如果我们只考虑二元事实型问答,召回率能上升到0.67。

肖仰华:KBQA over Corpora & Knowledge Bases

即使在一个不以二元事实型问题为主的数据集中(如WEBQUESTIONS,QALD-3),KBQA也可以作为混合问答系统的一个完美组件。

我们这样构建混合问题系统:一个问题过来,首先提交给我们的KBQA系统。如果KBQA系统不能回答,这意味着这个问题很可能不是二元事实型问题。然后,我们再将这个问题提交给baseline系统。

结果表明,当使用了我们的KBQA系统后,baseline系统的性能都有了很明显的提高。

肖仰华:KBQA over Corpora & Knowledge Bases

最后,我们对本文进行总结。我们构建了一个基于知识库的问答系统KBQA。 我们的QA系统和以前的系统有两个明显区别:第一,它使用模板理解问题;第二,它从非常大的QA语料库中学习语义解析。

我们认为系统还有很多可以改进的地方。 首先,目前关于QA系统的研究主要建立在开放领域的知识库上。因此,研究如何使这些系统适应不同特定领域的应用是非常重要的。 其次,我们希望可以通过常识推理来更深入的理解问题。 再者,由于知识库仍然存在数据缺陷问题,如何使用互联网作为外部知识变得非常重要。

相关栏目:『学人动向
杨伟民:2022经济走势、挑战和逻辑 2021-12-05 [25]
李稻葵:经济结构的艰巨性不可忽视,必须重修政府与市场经济学 2021-12-05 [29]
杨东平:双减政策,能最终解决中国教育的顽症吗? 2021-12-05 [18]
科尔曼·休斯:关于种族财富差距,我们似乎已陷入政治僵局 2021-12-05 [95]
袁昱博士当选2022年IEEE标准协会候任主席 2021-11-30 [107]
项栋梁:病毒的确是变异了,但别听他们吓唬人 2021-11-27 [134]
刘文权 李恬:俄罗斯将财经素养教育升为国家战略 2021-11-29 [105]
蒙特利尔麦吉尔大学教授坎姆帕提批加拿大政府太左 人们不敢思考和说话 2021-11-26 [131]
清华教授沈阳:未来,元宇宙可能从哪些方面重塑产业布局? 2021-11-15 [133]
《Nature》调查报告:中国博士生们的科研围城 2021-11-24 [134]
相关栏目更多文章
最新图文:
:陈文玲: 必须推动中美关系回到正确轨道 Colleen Flaherty 翻译 刘勤:MIT教授发文《美国经济评论》 :生命科学受益于明星科学家们的死亡 :北京和上海金融人的最新鄙视链 :日本政府《氢能利用进度表》 :美国《2016-2045年新兴科技趋势报告》 :天津工业大学“经纬英才”引进计划 :浙江财经大学国际青年学者论坛的邀请函 (10/31-11/1) :美国加大审查范围 北大多名美国留学生遭联邦调查局质询
更多最新图文
更多《即时通讯》>>
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2021 ScholarsUpdate.com. All Rights Reserved.