[發(fā)明專利]基于知識(shí)圖譜的數(shù)據(jù)預(yù)處理和內(nèi)容推薦方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201911292040.7
• 申請(qǐng)日: 2019-12-16
• 公開(kāi)（公告）號(hào): CN111190968A
• 公開(kāi)（公告）日: 2020-05-22
• 發(fā)明（設(shè)計(jì)）人: 宋浩男;包瑩;于帥;李秀偉;丁文強(qiáng);冀燕朋;陳冀華;肖俊杰;趙鵬程
• 申請(qǐng)（專利權(quán)）人: 北京航天智造科技發(fā)展有限公司
• 主分類號(hào): G06F16/28
• 分類號(hào): G06F16/28;G06F16/2457
• 代理公司: 北京中濟(jì)緯天專利代理有限公司 11429
• 代理人: 郝志亮

1.一種基于知識(shí)圖譜的數(shù)據(jù)預(yù)處理和內(nèi)容推薦方法，其特征在于，包括以下步驟：

1)對(duì)收集到的數(shù)據(jù)進(jìn)行預(yù)處理，包括語(yǔ)料清洗和自然語(yǔ)言處理；

2)利用經(jīng)過(guò)預(yù)處理的數(shù)據(jù)構(gòu)造數(shù)據(jù)集；

3)利用構(gòu)造的數(shù)據(jù)集建立知識(shí)圖譜，基于知識(shí)圖譜進(jìn)行特征提取；

4)利用提取的特征訓(xùn)練用于內(nèi)容推薦的網(wǎng)絡(luò)模型；

5)利用訓(xùn)練完成的網(wǎng)絡(luò)模型進(jìn)行內(nèi)容推薦。

2.如權(quán)利要求1所述的方法，其特征在于，所述語(yǔ)料清洗包括：

針對(duì)數(shù)據(jù)自動(dòng)采集過(guò)程產(chǎn)生的數(shù)據(jù)質(zhì)量問(wèn)題，包括數(shù)據(jù)缺失、丟失和冗余，建立針對(duì)數(shù)據(jù)質(zhì)量問(wèn)題的檢查規(guī)則引擎，包括準(zhǔn)確性規(guī)則引擎、一致性規(guī)則引擎和完整性規(guī)則引擎；

在建立的檢查規(guī)則引擎的基礎(chǔ)上進(jìn)行字段篩選，實(shí)現(xiàn)重復(fù)數(shù)據(jù)的智能冗余清除，并通過(guò)主數(shù)據(jù)模糊匹配規(guī)則實(shí)現(xiàn)數(shù)據(jù)的缺失填補(bǔ)和錯(cuò)誤修正。

3.如權(quán)利要求2所述的方法，其特征在于，所述準(zhǔn)確性規(guī)則引擎包括值長(zhǎng)度規(guī)則、值域規(guī)則、數(shù)目規(guī)則；所述一致性規(guī)則引擎包括格式規(guī)范規(guī)則、重復(fù)數(shù)據(jù)規(guī)則、類型規(guī)則、主鍵規(guī)則；所述完整性規(guī)則引擎包括空值規(guī)則、關(guān)聯(lián)性規(guī)則。

4.如權(quán)利要求1所述的方法，其特征在于，所述自然語(yǔ)言處理是利用分詞工具對(duì)文本信息進(jìn)行分詞、詞性標(biāo)注、去停用詞處理。

5.如權(quán)利要求1所述的方法，其特征在于，步驟3)包括：

采用自然語(yǔ)言處理提取文本中的關(guān)系和實(shí)體，并利用實(shí)體鏈接技術(shù)將提取的知識(shí)補(bǔ)充到知識(shí)圖譜庫(kù)中；

訓(xùn)練知識(shí)圖譜中實(shí)體和關(guān)系的向量，使訓(xùn)練得到的向量能夠表達(dá)關(guān)系；

根據(jù)實(shí)體的上下文實(shí)體特征，得到上下文向量；

通過(guò)卷積神經(jīng)網(wǎng)絡(luò)提取句子的向量特征；

將每一個(gè)文本對(duì)應(yīng)的實(shí)體向量、上下文向量、句子向量再通過(guò)一個(gè)卷積池化層，獲取最終向量。

6.如權(quán)利要求5所述的方法，其特征在于，一個(gè)實(shí)體e的上下文實(shí)體是e的所有一跳鄰居節(jié)點(diǎn)，e的上下文實(shí)體特征為e的所有上下文實(shí)體特征的平均值：

其中，e_i表示實(shí)體或關(guān)系的向量，context(e)表示某個(gè)實(shí)體的所有一跳實(shí)體個(gè)數(shù)。

7.如權(quán)利要求1所述的方法，其特征在于，通過(guò)卷積神經(jīng)網(wǎng)絡(luò)模型以及注意力機(jī)制來(lái)構(gòu)建模型所述用于內(nèi)容推薦的網(wǎng)絡(luò)模型；通過(guò)注意力機(jī)制獲取候選文本與用戶點(diǎn)擊過(guò)的文本關(guān)系向量，然后將文本關(guān)系向量連接，通過(guò)全連接網(wǎng)絡(luò)計(jì)算概率，其取值范圍為0～1，該概率表達(dá)的是候選文本與用戶點(diǎn)擊過(guò)的文本有關(guān)系的概率，概率越接近1表示有關(guān)系的可能性越大。

8.如權(quán)利要求1或7所述的方法，其特征在于，對(duì)所述用于內(nèi)容推薦的網(wǎng)絡(luò)模型進(jìn)行A/BTest，即選擇優(yōu)化過(guò)后的模型和原先模型進(jìn)行A/B Test，若性能有提升則替換原先模型。