[發(fā)明專利]一種基于語義網(wǎng)的社交網(wǎng)絡(luò)黑名單自動(dòng)過濾模型

在審

• 申請(qǐng)?zhí)枺?/td>: 201310318042.5
• 申請(qǐng)日: 2013-07-25
• 公開（公告）號(hào): CN103345530A
• 公開（公告）日: 2013-10-09
• 發(fā)明（設(shè)計(jì)）人: 孫國(guó)梓;哈樂;楊一濤;姜雪晴;黃斯琪;劉力穎
• 申請(qǐng)（專利權(quán)）人: 南京郵電大學(xué)
• 主分類號(hào): G06F17/30
• 分類號(hào): G06F17/30
• 代理公司: 南京知識(shí)律師事務(wù)所 32207
• 代理人: 汪旭東

技術(shù)領(lǐng)域

本發(fā)明涉及信息安全與計(jì)算機(jī)應(yīng)用技術(shù)領(lǐng)域，特別涉及一種基于語義網(wǎng)的社交網(wǎng)絡(luò)黑名單自動(dòng)過濾模型。

技術(shù)背景

社交網(wǎng)絡(luò)（SNS）通過促進(jìn)人們之間的線上交流和信息共享，已經(jīng)成為一種主要的線上應(yīng)用，獲得了非常龐大的用戶群數(shù)量。與此同時(shí)，為了提供良好的用戶體驗(yàn)給如此大量的用戶，社交網(wǎng)絡(luò)自身的功能也變得越來越趨于復(fù)雜，交互信息從最開始單一的文本信息，已經(jīng)轉(zhuǎn)變?yōu)楦嗟碾娮觾?nèi)容，如視頻等。這對(duì)社交網(wǎng)絡(luò)的安全與隱私保護(hù)提出了新的挑戰(zhàn)。

據(jù)調(diào)查，一些不法分子利用社交網(wǎng)絡(luò)的開放性和用戶使用過程中暴露的信息，如照片、與朋友的交互信息等，通過有針對(duì)性地傳播欺詐信息，對(duì)社交網(wǎng)絡(luò)用戶的安全造成了嚴(yán)重威脅，社交網(wǎng)絡(luò)已經(jīng)成為不法分子欺詐侵財(cái)?shù)囊环N主要途徑。在用戶使用社交網(wǎng)絡(luò)過程中，或多或少會(huì)接收到一些不法分子的惡意信息，對(duì)一些明顯的欺詐信息，用戶有能力自行判斷出來，但對(duì)一些經(jīng)過偽裝隱蔽的、表現(xiàn)不明顯的信息，則其直接危害著人們的人身、財(cái)產(chǎn)安全。雖然一些社交網(wǎng)絡(luò)，如人人網(wǎng)等為用戶提供了一些權(quán)限控制的功能，但是這些控制功能都比較簡(jiǎn)單，不夠靈活。

近年來，隨著語義網(wǎng)的發(fā)展，越來越多的本體被用于建立特定領(lǐng)域內(nèi)的知識(shí)表示模型，但由于知識(shí)網(wǎng)的龐大，還存在很多空白區(qū)域未曾涉及到過，尤其對(duì)于當(dāng)前新興應(yīng)用的安全領(lǐng)域，語義網(wǎng)技術(shù)還很少被應(yīng)用。

經(jīng)過分析，利用語義網(wǎng)自身動(dòng)態(tài)的、個(gè)性化的、主動(dòng)服務(wù)等特性，非常適合解決當(dāng)前我們提出的問題。而本發(fā)明能夠很好地解決上面的問題。

發(fā)明內(nèi)容

本發(fā)明目的在于解決了上述現(xiàn)有技術(shù)存在的問題，提供了一種基于語義網(wǎng)的社交網(wǎng)絡(luò)黑名單自動(dòng)過濾模型。該模型是基于潛在惡意信息提取和綜合管理的方案及其相關(guān)的配套機(jī)制實(shí)現(xiàn)的。

本發(fā)明解決其技術(shù)問題所采用的技術(shù)方案是：本發(fā)明在對(duì)現(xiàn)有社交網(wǎng)絡(luò)本體模型改進(jìn)的基礎(chǔ)上，設(shè)計(jì)了一種對(duì)社交網(wǎng)絡(luò)中用戶的交互信息進(jìn)行分析判斷，提取可能的犯罪組織關(guān)系的自動(dòng)過濾模型。該模型分為信息分析提取模塊、信息惡意指數(shù)計(jì)分模塊、計(jì)分結(jié)果黑名單關(guān)聯(lián)模塊，其具體包括如下：

一、信息分析提取模塊

本發(fā)明提出了一種信息分析提取模塊，在該模塊中可以看到在信息流部分，將信息劃分為了兩部分，其中一部分為正常的，無害的信息，另一部分是惡意信息(Viciousness)，按照對(duì)惡意信息特征的分析，現(xiàn)將惡意信息抽象分為4類，分別為：

●無意義信息(meaningless)：這類信息主要是形如隨機(jī)排列的字母特殊符號(hào)，過濾那些有可能是機(jī)器隨機(jī)發(fā)布的騷擾內(nèi)容，如果惡意發(fā)布者使用發(fā)布機(jī)器大量地散步信息，不僅對(duì)社交網(wǎng)絡(luò)自身帶來了流量壓力，對(duì)用戶也帶來了無形的困擾。

●欺詐信息(fraud)：欺詐信息主要是通過公安部門統(tǒng)計(jì)的典型案例中提取出的一些涉嫌欺詐的特征語句，如詢問證件號(hào)碼，家庭住址等。

●暴力信息(violence)：暴力信息是指包含辱罵詞匯，危害社會(huì)安全的語句以及涉嫌精神騷擾的過激言語等。過濾這類信息可以避免造成雙方?jīng)_突，為社交網(wǎng)絡(luò)營(yíng)造一個(gè)良好的“生態(tài)環(huán)境”。

●用戶自定義信息(user?defined)：用戶自定義信息可以讓用戶個(gè)性化設(shè)置一些自己不愿意接受的內(nèi)容，如可屏蔽廣告等并非惡意推送的內(nèi)容，使得上述提到的中間件的功能更加完善。

綜上所述，本發(fā)明提出了惡意信息本體模型，該模型是對(duì)社交網(wǎng)絡(luò)模型的擴(kuò)展，為了更清楚的描述該模型，這里引入了敏感語義庫(kù)的概念，敏感語義庫(kù)就是上面所敘述的4大類信息組成的集合，當(dāng)信息被檢測(cè)到符合該語義庫(kù)中的規(guī)則時(shí)，則被歸類為惡意信息中的某一類，也即惡意信息。但是此時(shí)即使被歸為惡意信息，也并不代表用戶就不會(huì)接受到此條信息，這一步的評(píng)判只是對(duì)該信息的粗略劃分，經(jīng)過后期的分析數(shù)據(jù)流雙方歷來信息記錄，才能進(jìn)一步判斷是否完全屏蔽此條信息。

二、信息惡意指數(shù)計(jì)分模塊

本發(fā)明給出的識(shí)別惡意信息的方法，不僅考慮到了信息自身的惡意度，還綜合了發(fā)送惡意信息的用戶的惡意記錄。為了更清楚的描述這個(gè)過程，本發(fā)明提出了以下幾個(gè)概念：

惡意因子：用fa表示，表示用戶發(fā)送的單條信息的惡意程度。惡意因子的取值如表1所示：

表1