[發(fā)明專利]一種基于深度學習及遺忘算法的中文分詞方法

有效

• 申請?zhí)枺?/td>: 201811258651.5
• 申請日: 2018-10-26
• 公開（公告）號: CN109388806B
• 公開（公告）日: 2023-06-27
• 發(fā)明（設計）人: 盧學裕;王安;楊大海;楊利軍
• 申請（專利權）人: 北京布本智能科技有限公司
• 主分類號: G06F40/289
• 分類號: G06F40/289;G06F40/237;G06N20/00
• 代理公司: 北京東方芊悅知識產(chǎn)權代理事務所(普通合伙) 11591
• 代理人: 陳靳秋

本發(fā)明公開了一種基于深度學習及遺忘算法的中文分詞方法，包括以下步驟：一：逐字掃描句子獲取自然語言，采用深度學習分詞方法對掃描的自然語言劃分成詞語序列收入至第一詞庫；二：逐字掃描句子獲取自然語言，采用遺忘算法分詞方法對獲取的自然語言進行斷字劃分成候選詞收入至第二詞庫，三：將第一詞庫中的詞語序列與第二詞庫中的候選詞融合獲取最終分詞結果，融合方法為：第二詞庫中的連續(xù)單字，若對應深度學習中為詞，則合并為詞；第二詞庫中的單個單字，若對應深度學習中為詞，則向前或向后合并為詞。本發(fā)明的分詞方法，通過將深度學習分詞方法和遺忘算法分詞方法的融合，可以自動偵測領域知識，完成無監(jiān)督領域新詞發(fā)現(xiàn)功能，提高分詞效果。

技術領域

本發(fā)明涉及分詞技術領域，具體涉及一種基于深度學習及遺忘算法的中文分詞方法。

背景技術

中文分詞(Chinese?Word?Segmentation)指的是將一個漢字序列切分成一個一個單獨的詞。分詞就是將連續(xù)的字序列按照一定的規(guī)范重新組合成詞序列的過程。

1、基于字符串匹配的分詞方法

這種方法又叫做機械分詞方法，它是按照一定的策略將待分析的漢字串與一個“充分大的”機器詞典中的詞條進行配，若在詞典中找到某個字符串，則匹配成功(識別出一個詞)。按照掃描方向的不同，串匹配分詞方法可以分為正向匹配和逆向匹配；按照不同長度優(yōu)先匹配的情況，可以分為最大(最長)匹配和最小(最短)匹配；按照是否與詞性標注過程相結合，又可以分為單純分詞方法和分詞與標注相結合的一體化方法。常用的幾種機械分詞方法如下：

1)正向最大匹配法(由左到右的方向)；

2)逆向最大匹配法(由右到左的方向)；

3)最少切分(使每一句中切出的詞數(shù)最小)。

還可以將上述各種方法相互組合，例如，可以將正向最大匹配方法和逆向最大匹配方法結合起來構成雙向匹配法。由于漢語單字成詞的特點，正向最小匹配和逆向最小匹配一般很少使用。一般說來，逆向匹配的切分精度略高于正向匹配，遇到的歧義現(xiàn)象也較少。統(tǒng)計結果表明，單純使用正向最大匹配的錯誤率為1/169，單純使用逆向最大匹配的錯誤率為1/245。但這種精度還遠遠不能滿足實際的需要。實際使用的分詞系統(tǒng)，都是把機械分詞作為一種初分手段，還需通過利用各種其它的語言信息來進一步提高切分的準確率。

一種方法是改進掃描方式，稱為特征掃描或標志切分，優(yōu)先在待分析字符串中識別和切分出一些帶有明顯特征的詞，以這些詞作為斷點，可將原字符串分為較小的串再來進機械分詞，從而減少匹配的錯誤率。另一種方法是將分詞和詞類標注結合起來，利用豐富的詞類信息對分詞決策提供幫助，并且在標注過程中又反過來對分詞結果進行檢驗、調整，從而極大地提高切分的準確率。

對于機械分詞方法，可以建立一個一般的模型，在這方面有專業(yè)的學術論文，這里不做詳細論述。

2、基于理解的分詞方法

這種分詞方法是通過讓計算機模擬人對句子的理解，達到識別詞的效果。其基本思想就是在分詞的同時進行句法、語義分析，利用句法信息和語義信息來處理歧義現(xiàn)象。它通常包括三個部分：分詞子系統(tǒng)、句法語義子系統(tǒng)、總控部分。在總控部分的協(xié)調下，分詞子系統(tǒng)可以獲得有關詞、句子等的句法和語義信息來對分詞歧義進行判斷，即它模擬了人對句子的理解過程。這種分詞方法需要使用大量的語言知識和信息。由于漢語語言知識的籠統(tǒng)、復雜性，難以將各種語言信息組織成機器可直接讀取的形式，因此目前基于理解的分詞系統(tǒng)還處在試驗階段。

3、基于統(tǒng)計的分詞方法