[發(fā)明專利]一種利用謂賓信息篩選負(fù)樣本的新意圖識(shí)別方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011492756.4
• 申請(qǐng)日: 2020-12-17
• 公開（公告）號(hào): CN112417132A
• 公開（公告）日: 2021-02-26
• 發(fā)明（設(shè)計(jì)）人: 戴新宇;陳陌信;何亮;黃書劍;尹存燕;陳家駿
• 申請(qǐng)（專利權(quán)）人: 南京大學(xué)
• 主分類號(hào): G06F16/335
• 分類號(hào): G06F16/335;G06F16/38;G06F40/284;G06N3/08
• 代理公司: 江蘇圣典律師事務(wù)所 32237
• 代理人: 胡建華;于瀚文

1.一種利用謂賓信息篩選負(fù)樣本的新意圖識(shí)別方法，其特征在于，包括如下步驟：

步驟1，輸入意圖標(biāo)簽和標(biāo)注的正樣本；

步驟2，收集無標(biāo)注的句子樣本，計(jì)算無標(biāo)注樣本與意圖標(biāo)簽的相似度，排序并篩選后作為用于后續(xù)訓(xùn)練意圖識(shí)別模型的負(fù)樣本；

步驟3，結(jié)合正、負(fù)樣本訓(xùn)練意圖識(shí)別模型；

步驟4，使用訓(xùn)練好的意圖識(shí)別模型對(duì)用戶輸入進(jìn)行預(yù)測(cè)。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，步驟2包括：

步驟2-1，輸入無標(biāo)注樣本和意圖標(biāo)簽；

步驟2-2，對(duì)無標(biāo)注樣本和意圖標(biāo)簽的文本進(jìn)行分詞，然后使用預(yù)訓(xùn)練的詞向量將分詞得到的詞語依次映射到對(duì)應(yīng)的向量，得到樣本和意圖標(biāo)簽的向量化表示；

步驟2-3，對(duì)無標(biāo)注樣本進(jìn)行句法分析，獲得它的句法結(jié)構(gòu)信息，識(shí)別出其中的謂語和賓語成份；

步驟2-4，計(jì)算無標(biāo)注樣本和意圖標(biāo)簽之間的相似度，采用詞移距離作為相似度指標(biāo)；

步驟2-5，按照相似度對(duì)無標(biāo)注樣本降序排序，選擇與正樣本同等數(shù)量的無標(biāo)注樣本作為訓(xùn)練意圖識(shí)別模型的負(fù)樣本。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，步驟2-4包括：

步驟2-4-1，匯總所有無標(biāo)注樣本和意圖標(biāo)簽的分詞結(jié)果構(gòu)造詞匯表；

步驟2-4-2，使用nBOW向量d，d′分別表示無標(biāo)注樣本和意圖標(biāo)簽中每個(gè)詞的權(quán)重，對(duì)于無標(biāo)注樣本，設(shè)定詞匯表的大小為n，則無標(biāo)注樣本中第i個(gè)詞的權(quán)重d_i為該詞在無標(biāo)注樣本中出現(xiàn)的次數(shù)c_i除以詞表中所有詞在無標(biāo)注樣本中出現(xiàn)的次數(shù)之和，計(jì)算公式為：其中α_i是對(duì)無標(biāo)注樣本中謂賓成份詞權(quán)重的增強(qiáng)系數(shù)，如果第i個(gè)詞屬于賓語或謂語成份，則α_i為大于1的常數(shù)，否則α_i＝1；

對(duì)于意圖標(biāo)簽，意圖標(biāo)簽中第i個(gè)詞的的權(quán)重d′_j通過該詞在意圖標(biāo)簽中出現(xiàn)的次數(shù)c′_j除以詞表中所有詞在意圖標(biāo)簽中出現(xiàn)的次數(shù)之和得到，并對(duì)意圖標(biāo)簽中的謂賓成份詞進(jìn)行權(quán)重增強(qiáng)，計(jì)算公式為：

步驟2-4-3，對(duì)無標(biāo)注樣本和意圖標(biāo)簽之間的每個(gè)詞都計(jì)算兩兩之間的距離，計(jì)算方式為：設(shè)定無標(biāo)注樣本和意圖標(biāo)簽之間兩個(gè)詞對(duì)應(yīng)的詞向量分別表示為w_i，w_j，通過詞向量歐式距離來表示兩個(gè)詞的距離sim(i，j)：sim(i，j)＝||w_i-w_j||₂；

步驟2-4-4，計(jì)算得到無標(biāo)注樣本與意圖標(biāo)簽之間的相似度。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，步驟2-4-4包括：構(gòu)造轉(zhuǎn)移矩陣T∈R^n×n，R^n×n表示一個(gè)維度為n×n的實(shí)數(shù)矩陣，其中T_ij表示第i個(gè)詞中權(quán)重轉(zhuǎn)移至第j個(gè)詞上的數(shù)量；在計(jì)算無標(biāo)注樣本和意圖標(biāo)簽之間的相似度時(shí)，要求無標(biāo)注樣本中每個(gè)詞的權(quán)重全部轉(zhuǎn)移到意圖標(biāo)簽的詞上，即通過一種無標(biāo)注樣本與意圖標(biāo)簽之間詞的映射方式，使得詞與詞之間通過轉(zhuǎn)移矩陣加權(quán)的距離之和最小，得到的最小距離記為無標(biāo)注樣本與意圖標(biāo)簽之間的相似度，公式如下：