[發明專利]一種分詞系統的評測方法和一種分詞評測系統

有效

• 申請號: 200810089834.9
• 申請日: 2008-03-28
• 公開（公告）號: CN101246473A
• 公開（公告）日: 2008-08-20
• 發明（設計）人: 張耀杰;邵榮防
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27
• 代理公司: 北京集佳知識產權代理有限公司
• 代理人: 逯長明

技術領域

本發明涉及自然語言處理領域，特別是涉及一種分詞系統的評測方法和一種分詞評測系統。

背景技術

分詞技術屬于自然語言處理技術范疇，對于一句話，人可以通過自己的知識來明白哪些是詞，哪些不是詞，但如何讓計算機也能理解，就是分詞技術所要解決的問題。例如，英文是以詞為單位的，詞和詞之間是靠空格隔開，對于英文句子“I?am?a?student”，計算機可以很簡單通過空格知道student是一個單詞；而中文是以字為單位，句子中所有的字連起來才能描述一個意思，對于中文句子“我是一個學生”，計算機不能很容易明白“學”、“生”兩個字合起來才表示一個詞。把中文的漢字序列切分成有意義的詞，就是中文分詞。例如，對于“我是一個學生”，分詞的結果可以是：我是一個學生。

現有的分詞算法可分為三大類：基于字符串匹配的分詞方法、基于理解的分詞方法和基于統計的分詞方法。對于任何一個成熟的分詞系統來說，不可能單獨依靠某一種算法來實現，而需要綜合不同的算法。由于中文分詞是其他中文信息處理的基礎，諸如搜索引擎、機器翻譯(MT)、語音合成、自動分類、自動摘要、自動校對等技術均需要運用到中文分詞技術，因此，有必要建立一個相應的評測機制，用來評價分詞系統分詞的合理性。

現有技術中，對于分詞系統的評測通常采用將分詞系統分詞的結果與基礎語料庫(如，北大語料庫)進行匹配，根據匹配的結果驗證分詞的合理性，在實際中，這種匹配評測的過程需要大量的人工操作才能得以完成，且數據處理量較大，不僅評測效率較低，成本也較高。

因此，現階段需要本領域技術人員迫切解決的一個技術問題就是，如何在盡可能地節約成本的情況下，提高對分詞系統評測的處理效率。

發明內容

本發明所要解決的技術問題是提供一種分詞系統的評測方法，以在節約成本的情況下，提高對分詞系統評測的處理效率。

本發明的另一個目的是提供了一種分詞評測系統，用以保證上述方法在實際中的實現及應用。

為了解決上述技術問題，本發明實施例公開了一種分詞系統的評測方法，包括：

采用目標分詞系統對測試語料進行多次切分，獲得多個目標切分結果，并采用基準分詞系統對所述測試預料進行切分，獲得基準切分結果；

將所述多個目標切分結果進行縱向對比，得到第一評測參數，用以評估所述目標分詞系統的穩定性；并將所述目標切分結果與所述基準切分結果進行橫向對比，得到第二評測參數，用以評估所述目標分詞系統的準確性。

優選的，所述的方法，還包括：

記錄所述評測參數符合預設條件的測試語料。

優選的，所述的方法，還包括：

從不符合所述預設條件的測試語料中，選取一定的測試語料生成語料庫。

優選的，所述評測步驟包括：

依據所述測試語料的多個目標切分結果計算第一評測參數；以及，匹配所述基準切分結果和目標切分結果獲得第二評測參數；

依據所述第一評測參數和第二評測參數評測所述目標分詞系統。

優選的，所述切分步驟包括：

獲取所述測試語料的特征信息；

所述基準分詞系統和目標分詞系統分別依據所述特征信息對所述測試語料進行切分，獲得基準切分結果和目標切分結果。

優選的，所述切分步驟還包括：

將具有同一特征信息的測試語料保存至同一文件中。

優選的，所述評測參數符合預設條件的測試語料為不合理語料，所述記錄為在文件或數據庫中記錄。

優選的，所述基準分詞系統為海量智能分詞系統。

本發明實施例還公開了一種分詞評測系統，所述評測系統用于評測分詞系統，所述分詞系統包括基準分詞系統和目標分詞系統，所述評測系統包括：

結果獲取模塊，用于采用目標分詞系統對測試語料進行多次切分，獲得多個目標切分結果，并采用基準分詞系統對所述測試預料進行切分，獲得基準切分結果；

參數評測模塊，用于將所述多個目標切分結果進行縱向對比，得到第一評測參數，用以評估所述目標分詞系統的穩定性；并將所述目標切分結果與所述基準切分結果進行橫向對比，得到第二評測參數，用以評估所述目標分詞系統的準確性。

優選的，所述的評測系統，還包括：

記錄模塊，用于記錄所述評測參數符合預設條件的測試語料。

優選的，所述的評測系統，還包括：

自定義庫生成模塊，用于從不符合所述預設條件的測試語料中，選取一定的測試語料生成語料庫。

優選的，所述參數評測模塊包括：