[發明專利]分詞評價方法及裝置

有效

• 申請號: 200910181124.3
• 申請日: 2009-10-10
• 公開（公告）號: CN102043791A
• 公開（公告）日: 2011-05-04
• 發明（設計）人: 方高林;鄭全戰
• 申請（專利權）人: 騰訊科技(深圳)有限公司
• 主分類號: G06F17/30
• 分類號: G06F17/30
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 何文彬

技術領域

本發明涉及信息處理領域，特別涉及一種分詞評價方法及裝置。

背景技術

隨著互聯網的普遍應用，面向互聯網進行搜索逐漸成為了人們獲取信息的主要方式。分詞技術作為搜索引擎中的一項重要的基礎技術，它的好壞將直接影響搜索質量的好壞。為了提高分詞的質量，人們設計出了各種各樣的分詞程序。如何對這些分詞程序的分詞性能進行評價，一直是一個比較困難的問題。

現有技術采用的是根據分詞的準確率和召回率進行分詞評價的方式，為了計算分詞的準確率和召回率，需要有事先標注的比較大規模的語料庫，并在此基礎上進行統計計算，最后根據計算結果對分詞的好壞進行評價。

在實現本發明的過程中，發明人發現現有技術至少存在以下缺點：

現有的分詞評價方式需要有事先標注的語料庫才能實現自動評價，而目前已有的比較大規模的語料庫均需要人工進行標注。另外，由于現有語料庫中的語料和目前互聯網中涉及的網絡語料具有一定的差異性，從而導致有些分詞程序即使根據現有語料庫計算出較高的準確率和召回率，但將其應用到面向互聯網的搜索引擎中時，分詞性能仍然很差。

發明內容

為了實現對分詞性能的自動評價，并更加有效地評價面向互聯網應用的分詞性能，本發明實施例提供了一種分詞評價方法及裝置。所述技術方案如下：

一方面，提供了一種分詞評價方法，所述方法包括：

從互聯網中獲取每個測試詞語的測試語料，構建所述每個測試詞語的測試語料集；

以待評價的分詞程序對所述每個測試詞語及其測試語料集進行分詞處理；

將所述每個測試詞語的分詞結果與其測試語料集中的分詞結果進行比對，根據所述每個測試詞語的分詞結果與其測試語料集中的分詞結果的一致性，對所述待評價的分詞程序進行評價。

其中，所述從互聯網中獲取每個測試詞語的測試語料，構建所述每個測試詞語的測試語料集，具體包括：

將所述每個測試詞語作為搜索詞放入面向互聯網的搜索引擎中進行搜索，得到所述每個測試詞語的搜索結果；

在所述每個測試詞語的搜索結果中提取有效的測試語料，構建所述每個測試詞語的測試語料集。

所述根據所述每個測試詞語的分詞結果與其測試語料集中的分詞結果的一致性，對所述待評價的分詞程序進行評價，具體包括：

統計每個測試語料集中的分詞結果的個數，并統計所述每個測試語料集中的分詞結果與所述每個測試語料集對應的測試詞語的分詞結果一致的個數；

根據所述統計出的個數，對所述待評價的分詞程序進行評價。

或者，所述根據所述每個測試詞語的分詞結果與其測試語料集中的分詞結果的一致性，對所述待評價的分詞程序進行評價，具體包括：

在所有測試語料集中，統計測試語料集中的所有分詞結果均與所述測試語料集對應的測試詞語的分詞結果一致的個數；

根據所述統計出的個數，及所有測試詞語的個數，對所述待評價的分詞程序進行評價。

另一方面，提供了一種分詞評價裝置，所述裝置包括：

構建模塊，用于從互聯網中獲取每個測試詞語的測試語料，構建所述每個測試詞語的測試語料集；

分詞模塊，用于以待評價的分詞程序對所述每個測試詞語及其測試語料集進行分詞處理；

比對模塊，用于將所述每個測試詞語的分詞結果與其測試語料集中的分詞結果進行比對；

評價模塊，用于在將所述每個測試詞語的分詞結果與其測試語料集中的分詞結果進行比對之后，根據所述每個測試詞語的分詞結果與其測試語料集中的分詞結果的一致性，對所述待評價的分詞程序進行評價。

其中，所述構建模塊，具體包括：

搜索單元，具體用于將所述每個測試詞語作為搜索詞放入面向互聯網的搜索引擎中進行搜索，得到所述每個測試詞語的搜索結果；

構建單元，具體用于在所述每個測試詞語的搜索結果中提取有效的測試語料，構建所述每個測試詞語的測試語料集。

具體地，所述評價模塊，具體用于在將所述每個測試詞語的分詞結果與其測試語料集中的分詞結果進行比對之后，統計每個測試語料集中的分詞結果的個數，并統計所述每個測試語料集中的分詞結果與所述每個測試語料集對應的測試詞語的分詞結果一致的個數；根據所述統計出的個數，對所述待評價的分詞程序進行評價。