[發(fā)明專利]文檔標(biāo)題生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210072397.X
• 申請(qǐng)日: 2022-01-21
• 公開（公告）號(hào): CN114399775A
• 公開（公告）日: 2022-04-26
• 發(fā)明（設(shè)計(jì)）人: 唐小初;張祎頔;舒暢;陳又新
• 申請(qǐng)（專利權(quán)）人: 平安科技（深圳）有限公司
• 主分類號(hào): G06V30/40
• 分類號(hào): G06V30/40;G06K9/62;G06N3/04;G06N3/08;G06V30/148;G06V10/74;G06V10/774
• 代理公司: 深圳市沃德知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44347
• 代理人: 高杰;于志光

本發(fā)明涉及人工智能技術(shù)，揭露一種文檔標(biāo)題生成方法，包括：對(duì)原始文檔信息進(jìn)行區(qū)塊劃分，得到多個(gè)文本子信息、多個(gè)圖像子信息和多個(gè)位置子信息；將多個(gè)文本子信息輸入至文本編碼模型中進(jìn)行文本編碼，得到文本特征向量；對(duì)文本特征向量、多個(gè)圖像子信息中的圖像特征和位置編碼后的多維位置向量進(jìn)行加權(quán)相加，得到最終輸入向量，將最終輸入向量輸入至transformer encoder模型中進(jìn)行融合編碼，得到最終輸出特征；利用解碼器模塊對(duì)最終輸出特征進(jìn)行特征解碼，得到包含標(biāo)題的文檔區(qū)塊。此外，本發(fā)明還涉及區(qū)塊鏈技術(shù)，圖像特征可存儲(chǔ)于區(qū)塊鏈的節(jié)點(diǎn)。本發(fā)明還提出一種文檔標(biāo)題生成裝置、電子設(shè)備以及存儲(chǔ)介質(zhì)。本發(fā)明可以提高文檔標(biāo)題生成的準(zhǔn)確度。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，尤其涉及一種文檔標(biāo)題生成方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著數(shù)字化進(jìn)程的加快，文檔、圖像等載體的結(jié)構(gòu)化分析和內(nèi)容提取成為關(guān)乎企業(yè)數(shù)字化轉(zhuǎn)型成敗的關(guān)鍵一環(huán)，自動(dòng)、精準(zhǔn)、快速的信息處理對(duì)于生產(chǎn)力的提升至關(guān)重要。視覺富文本文檔(Visually Rich Document)因其包含大量的文本、布局、格式信息而成為人們?nèi)粘９ぷ魃钪惺殖Ｓ们抑匾奈募问剑欢幚磉@類文檔，例如給文檔添加對(duì)應(yīng)的標(biāo)題卻需要耗費(fèi)大量的人力與時(shí)間成本。

現(xiàn)有的文檔標(biāo)題生成方法通常是將待處理文檔與現(xiàn)有的已有標(biāo)題的文檔進(jìn)行比對(duì)，根據(jù)比對(duì)情況為待處理文檔生成對(duì)應(yīng)標(biāo)題，這種方法沒有考慮到文檔中的除去文本內(nèi)容的其他信息的影響，因此生成標(biāo)題的準(zhǔn)確度不夠高。

發(fā)明內(nèi)容

本發(fā)明提供一種文檔標(biāo)題生成方法、裝置及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其主要目的在于提高文檔標(biāo)題生成的準(zhǔn)確度。

為實(shí)現(xiàn)上述目的，本發(fā)明提供的一種文檔標(biāo)題生成方法，包括：

獲取原始文檔信息，所述原始文檔信息中包含原始文本信息、原始圖像信息和原始位置信息；

對(duì)所述原始文檔信息進(jìn)行區(qū)塊劃分，得到多個(gè)文本子信息、多個(gè)圖像子信息和多個(gè)位置子信息；

將多個(gè)所述文本子信息輸入至預(yù)訓(xùn)練好的文本編碼模型中進(jìn)行文本編碼，得到文本特征向量；

利用預(yù)設(shè)的特征提取模型提取多個(gè)所述圖像子信息中的圖像特征；

對(duì)多個(gè)所述位置子信息進(jìn)行位置編碼，得到多維位置向量；

對(duì)所述文本特征向量、所述圖像特征和所述多維位置向量進(jìn)行加權(quán)相加，得到最終輸入向量，并將所述最終輸入向量輸入至transformer encoder模型中進(jìn)行融合編碼，得到最終輸出特征；

利用預(yù)設(shè)的解碼器模塊對(duì)所述最終輸出特征進(jìn)行特征解碼，得到包含標(biāo)題的文檔區(qū)塊。

可選地，所述利用預(yù)設(shè)的解碼器模塊對(duì)所述最終輸出特征進(jìn)行特征解碼，得到包含標(biāo)題的文檔區(qū)塊，包括：

利用所述解碼器模塊中的第一解碼器對(duì)所述最終輸出特征進(jìn)行第一特征解碼，得到包含標(biāo)注類別的所述原始文檔信息；

選取所述包含標(biāo)注類別的所述原始文檔信息中符合預(yù)設(shè)類別的文檔區(qū)塊；

利用所述解碼器模塊中的第二解碼器對(duì)所述符合預(yù)設(shè)類別的文檔區(qū)塊進(jìn)行標(biāo)題分類，得到包含標(biāo)題的文檔區(qū)塊。

可選地，所述對(duì)多個(gè)所述位置子信息進(jìn)行位置編碼，得到多維位置向量，包括：

獲取多個(gè)所述位置子信息的相關(guān)數(shù)據(jù)，并將所述相關(guān)數(shù)據(jù)映射到預(yù)設(shè)維度；

通過embedding層對(duì)預(yù)設(shè)的維度的相關(guān)數(shù)據(jù)進(jìn)行編碼，得到多維位置向量。

可選地，所述將多個(gè)所述文本子信息輸入至預(yù)訓(xùn)練好的文本編碼模型中進(jìn)行文本編碼之前，所述方法還包括：