自动摘要生成方法及装置的制造方法
【技术领域】
[0001] 本发明涉及自然语言处理领域,尤其涉及一种自动摘要生成方法及装置。
【背景技术】
[0002] 自动摘要是利用计算机自动地从原始文本中提取全面、准确地反映该文本中心内 容的句子,生成简单、连贯的短文的技术。摘要应具有概括性、客观性、可理解性和可读性。 自动摘要长期以来一直是自然语言处理领域重要的且富有挑战的研究议题之一,尤其是随 着各种Web文本和用户原创内容的爆炸式增长,自动摘要能够缓解信息过载的潜在优势展 露无遗,并在诸多领域得到实际应用,如新闻推荐、机器翻译、文献检索、情报分析、舆情监 控等。
[0003] 文本可视为一系列句子的集合,自动摘要试图选择出最重要的若干个句子形成节 录式摘要,因此,其本质是句子的排序问题。每个句子用词袋模型(bag-of-words)表示成词 及其词频的集合,常见的自动摘要技术主要从句子和词两个部分出发,通过将词或句的统 计特性,如位置、长度、频率等线性组合,对句子的重要程度进行排序;另一类方法通过构建 句关联网络,利用图模型排序算法迭代计算句子权重,从而进行排序。现有方法单纯考虑句 子的特征或词的特征,而未能同时考虑两者之间的相互作用。
【发明内容】
[0004] 本发明的目的是解决现有技术中在生成摘要时,单纯考虑句子的特征或词的特 征,而未能同时考虑两者之间的相互作用,本发明通过利用词句协同,迭代增强计算获取句 子权重,自动生成摘要,有效改善了长文本摘要的质量。
[0005] 第一方面,本发明实施例提供了一种自动摘要生成方法,所述方法包括:
[0006] 对文本进行建模,生成句网络图,所述句网络图包括边权值;
[0007] 根据所述边权值、所述文本中各句子的初始权重,计算所述文本中各句子的第一 权重;
[0008] 根据词在所述各句子中的频率、所述词对应的句子的第一权重,计算出所述词的 词权重;
[0009] 根据各所述词在所述各句子中的频率、以及各所述词的词权重,计算各所述句子 的第二权重;
[0010] 根据所述第一权重和所述第二权重,计算所述各句子的最终权重;
[0011] 比较第N次迭代后的最终权重和第N-1次迭代后的最终权重差值是否小于预设阈 值以及第N次迭代后的词权重和第N-1次迭代后的词权重差值是否小于预设阈值;
[0012] 如果第N次迭代后的最终权重和第N-1次迭代后的最终权重差值不小于预设阈值 以及第N次迭代后的词权重和第N-1次迭代后的词权重差值不小于预设阈值,将所述第N次 迭代后的最终权重作为第N+1次迭代的初始权重;
[0013] 如果第N次迭代后的最终权重和第N-1次迭代后的最终权重差值小于预设阈值以 及第N次迭代后的词权重和第N-1次迭代后的词权重差值小于预设阈值,生成自动摘要。
[0014] 优选地,所述根据所述边权值、所述文本中各句子的初始权重,计算所述文本中各 句子的第一权重具体包括:
[0015] 利用公¥
计算所述文本中各句子的第 一权重;
[0016] 其中,W(Sj)为第j个句子的第一权重,W(Si)为第i个句子的第一权重,d为阻尼系 数,Link(Sj)为与句子Sj相连接的句子集合, Wij为句子Si和句子Sj之间的边权值。
[0017] 优选地,所述根据词在所述各句子中的频率、所述词对应的句子的第一权重,计算 所述词的词权重具体包括:
[0018] 利用公式
计算所述词的词权重;
[0019] 其中,WS(Wi)为第i个词的词权重,W(Sj)为第j个句子的第一权重,nji为第i个词在 第j个句子中的频率。
[0020] 优选地,所述根据各所述词在所述各句子中的频率、以及各所述词的词权重,计算 各所述句子的第二权重具体包括:
[0021] 利用公式
计算各所述句子的第二权重;
[0022]其中,WW(Sj)为第j个句子的第二权重,WS(Wi)为第i个词的词权重,nji为第i个词 在第j个句子中的频率。
[0023]优选地,所述根据所述第一权重和所述第二权重,计算所述各句子的最终权重具 体包括:
[0024]利用公式矿(Sj^aWOa-cOffKSj)计算所述各句子的最终权重;
[0025] 其中,W' (Sj)为第j个句子的最终权重,W(Sj)第j个句子的第一权重,WW(Sj)为第j 个句子的第二权重,a为调节因子,ae[0,l]。
[0026] 第二方面,本发明实施例提供了一种自动摘要生成装置,所述装置包括:
[0027] 生成单元,用于对文本进行建模,生成句网络图,所述句网络图包括边权值;
[0028] 计算单元,用于根据所述边权值、所述文本中各句子的初始权重,计算所述文本中 各句子的第一权重;
[0029] 所述计算单元还用于,根据词在所述各句子中的频率、所述词对应的句子的第一 权重,计算出所述词的词权重;
[0030] 所述计算单元还用于,根据各所述词在所述各句子中的频率、以及各所述词的词 权重,计算各所述句子的第二权重;
[0031] 所述计算单元还用于,根据所述第一权重和所述第二权重,计算所述各句子的最 终权重;
[0032] 比较单元,比较第N次迭代后的最终权重和第N-1次迭代后的最终权重差值是否小 于预设阈值以及第N次迭代后的词权重和第N-1次迭代后的词权重差值是否小于预设阈值;
[0033] 如果第N次迭代后的最终权重和第N-1次迭代后的最终权重差值不小于预设阈值 以及第N次迭代后的词权重和第N-1次迭代后的词权重差值不小于预设阈值,将所述第N次 迭代后的最终权重作为第N+1次迭代的初始权重;
[0034] 如果第N次迭代后的最终权重和第N-1次迭代后的最终权重差值小于预设阈值以 及第N次迭代后的词权重和第N-1次迭代后的词权重差值小于预设阈值,生成自动摘要。 [00 35] 优选地,所述计算单元具体用于,
[0036]利用公式
计算所述文本中各句子的第 一权重;
[0037]其中,W(Sj)为第j个句子的第一权重,W(Si)为第i个句子的第一权重,d为阻尼系 数,Link(Sj)为与句子Sj相连接的句子集合,Wij为句子Si和句子Si之间的边权值。
[0038] 优选地,所述计算单元具体用于,利用公式
计算所述词的 词权重;
[0039] 其中,WS(Wi)为第i个词的词权重,W(Sj)为第j个句子的第一权重,nji为第i个词在 第j个句子中的频率。
[0040] 优选地,所述计算单元具体用于,利用公式
计算各所述 句子的第二权重;
[0041] 其中,WW(Sj)为第j个句子的第二权重,WS(Wi)为第i个词的词权重,nji为第i个词 在第j个句子中的频率。
[0042]优选地,所述计算单元具体用于,利用公式WlSjzc^Sj + a-cOffff⑶)计算所述 各句子的最终权重;
[0043] 其中,W' (Sj)为第j个句子的最终权重,W(Sj)第j个句子的第一权重,WW(Sj)为第j 个句子的第二权重,a为调节因子,ae[0,l]。
[0044] 本发明通过对文本进行建模,生成句网络图,句网络图包括边权值;根据边权值、 文本中各句子的初始权重,计算文本中各句子的第一权重;根据词在各句子中的频率、词对 应的句子的第一权重,计算出词的词权重;根据各词在各句子中的频率、以及各词的词权 重,计算各句子的第二权重;根据第一权重和第二权重,计算各句子的最终权重;比较第N次 迭代后的最终权重和第N-1次迭代后的最终权重差值是否小于预设阈值以及第N次迭代后 的词权重和第N-1次迭代后的词权重差值是否小于预设阈值;如果第N次迭代后的最终权重 和第N-1次迭代后的最终权重差值不小于预设阈值以及第N次迭代后的词权重和第N-1次迭 代后的词权重差值不小于预设阈值,将所述第N次迭代后的最终权重作为第N+1次迭代的初 始权重;如果第N次迭代后的最终权重和第N-1次迭代后的最终权重差值小于预设阈值以及 第N次迭代后的词权重和第N-1次迭代后的词权重差值小于预设阈值,生成自动摘要,通过 考虑文本中词与句之间的相互影响,在句关联网络上融入词对句排序分值的影响,解决了 单个长文本摘要质量低下的问题,缓解了信息过载、提升了摘要质量。
【附图说明】
[0045] 图1为本发明实施例一提供的自动摘要生成方法流程图;
[0046] 图2为本发明实施例一提供的自动