[發(fā)明專利]用于社交網(wǎng)絡(luò)網(wǎng)站中的不良圖像檢測的方法和設(shè)備

有效

• 申請(qǐng)?zhí)枺?/td>: 201110323761.7
• 申請(qǐng)日: 2011-10-19
• 公開（公告）號(hào): CN103064858A
• 公開（公告）日: 2013-04-24
• 發(fā)明（設(shè)計(jì)）人: 李穎超
• 申請(qǐng)（專利權(quán)）人: 北京千橡網(wǎng)景科技發(fā)展有限公司
• 主分類號(hào): G06F17/30
• 分類號(hào): G06F17/30
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 吳立明

技術(shù)領(lǐng)域

本發(fā)明的實(shí)施方式總體上涉及網(wǎng)絡(luò)信息技術(shù)領(lǐng)域，更具體地，涉及用于社交網(wǎng)絡(luò)網(wǎng)站中的不良圖像檢測的方法和設(shè)備。

背景技術(shù)

隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展，已經(jīng)出現(xiàn)了很多與圖像有關(guān)的網(wǎng)絡(luò)服務(wù)。利用這些服務(wù)，用戶可以將圖像發(fā)布并存儲(chǔ)在網(wǎng)絡(luò)中，并且可以在線對(duì)圖像進(jìn)行瀏覽、編輯、批注、評(píng)論等各種操作。特別地，近年來隨著社交網(wǎng)絡(luò)(SNS)的發(fā)展，用戶可以在SNS網(wǎng)站中建立和管理一個(gè)或多個(gè)專門用于圖像的目錄。這種圖像目錄在本領(lǐng)域中通常稱為“相冊(cè)”。目前，已有數(shù)以億計(jì)的圖像被發(fā)布和存儲(chǔ)在這樣的相冊(cè)中。

與在線圖像服務(wù)緊密相關(guān)的一個(gè)問題是對(duì)不良圖像的檢測。這里所稱的“不良圖像”是指包含違反相關(guān)國家或地區(qū)性的法律、法規(guī)或其他可能產(chǎn)生不良影響的內(nèi)容的圖像。例如，一些組織或個(gè)人可能會(huì)通過在線圖像服務(wù)存儲(chǔ)和傳播包含例如色情、暴力、恐怖或其他不良內(nèi)容的圖像。面對(duì)海量的在線圖像，對(duì)不良圖像進(jìn)行人工檢查是不切實(shí)際的。因此，已經(jīng)出現(xiàn)了旨在自動(dòng)檢測和過濾不良圖像的若干技術(shù)。

在已知的現(xiàn)有技術(shù)中，自動(dòng)檢測方案總體上可以分為兩類。第一類依賴于圖像中的顏色和紋理。例如，可以事先通過訓(xùn)練等手段建立膚色模型或紋理模型。對(duì)于任何待檢測的圖像，可以利用計(jì)算機(jī)視覺和圖像處理技術(shù)來確定圖像中的膚色區(qū)域，而后基于先前確定的膚色模型來推斷人體裸露程度，從而檢測出該圖像是否為色情圖像。第二類方案依賴于圖像中人物的姿態(tài)。可以建立不良姿態(tài)的先驗(yàn)?zāi)Ｐ停罄盟鼇泶_定給定待檢測圖像中是否包含相同或相似的姿勢，從而確定該圖像是否含有色情、暴力等內(nèi)容。這兩類方案各自都存在很多變形和演進(jìn)，也存在將兩類方案相結(jié)合的嘗試。此外，與圖像有關(guān)的文本信息(例如，名稱、描述、評(píng)論等)也可作為輔助手段來促進(jìn)不良圖像的檢測。

然而，現(xiàn)有方案存在明顯的局限性。首先，計(jì)算機(jī)視覺和圖像處理技術(shù)目前還不能保證準(zhǔn)確、可靠地檢測出圖像中包含的內(nèi)容。例如，在依賴于膚色模型的方案中，光照、曝光、拍攝角度等各種因素可能對(duì)檢測結(jié)果產(chǎn)生不確定的影響。同樣，由于人的姿態(tài)千變?nèi)f化，基于先驗(yàn)姿態(tài)模型的匹配方法在精度方面仍無法滿足實(shí)踐要求。其次，在現(xiàn)有技術(shù)中，單純以圖像為基礎(chǔ)的檢測忽略了圖像發(fā)布者的信息和特質(zhì)，從而可能導(dǎo)致比較頻繁的漏檢和誤檢。上述問題使得現(xiàn)有的不良圖像自動(dòng)檢測具有較大的不穩(wěn)定性。

因此，本領(lǐng)域中需要一種更為準(zhǔn)確、穩(wěn)定和有效地檢測不良圖像的方案。

發(fā)明內(nèi)容

鑒于以上問題，本發(fā)明提出一種新穎的用于社交網(wǎng)絡(luò)網(wǎng)站中的不良圖像檢測的方法和設(shè)備。

在一方面，本發(fā)明提供一種在社交網(wǎng)絡(luò)SNS網(wǎng)站的不良圖像檢測中使用的方法。該方法包括：對(duì)所述SNS網(wǎng)站中的第一圖像執(zhí)行分析，以確定所述第一圖像為不良圖像的第一概率；響應(yīng)于所述第一概率處于預(yù)定范圍內(nèi)，對(duì)所述第一圖像所屬相冊(cè)中的至少一個(gè)第二圖像執(zhí)行分析，以確定所述至少一個(gè)第二圖像為不良圖像的至少一個(gè)第二概率；以及根據(jù)所述至少一個(gè)第二概率調(diào)節(jié)所述第一概率，其中調(diào)節(jié)后的所述第一概率將被用于判定所述第一圖像是否為不良圖像。

在又一方面，本發(fā)明提供一種用于在社交網(wǎng)絡(luò)SNS網(wǎng)站中檢測不良圖像的設(shè)備。該設(shè)備包括：第一概率確定裝置，配置用于對(duì)所述SNS網(wǎng)站中的第一圖像執(zhí)行分析，以確定所述第一圖像為不良圖像的第一概率；第二概率確定裝置，配置用于響應(yīng)于所述第一概率處于預(yù)定范圍內(nèi)，對(duì)所述第一圖像所屬相冊(cè)中的至少一個(gè)第二圖像執(zhí)行分析，以確定所述至少一個(gè)第二圖像為不良圖像的至少一個(gè)第二概率；以及第一概率調(diào)節(jié)裝置，配置用于根據(jù)所述至少一個(gè)第二概率調(diào)節(jié)所述第一概率，其中調(diào)節(jié)后的所述第一概率將被用于判定所述第一圖像是否為不良圖像。

本發(fā)明的實(shí)施方式充分利用了SNS網(wǎng)站的特點(diǎn)。首先，SNS網(wǎng)站中的圖像通常以相冊(cè)為單位進(jìn)行組織，并且對(duì)SNS網(wǎng)站的統(tǒng)計(jì)分析表明：用戶往往在同一相冊(cè)內(nèi)發(fā)布和存儲(chǔ)類型相同或相似的圖像。此外，用戶行為分析還表明：SNS網(wǎng)站的好友之間往往具有類似的行為模式和習(xí)慣。由此，在SNS網(wǎng)站的不良圖像檢測中還可以將用戶之間的SNS關(guān)聯(lián)關(guān)系納入考慮。通過將SNS網(wǎng)站的上述特點(diǎn)結(jié)合到不良圖像檢測中，可以有效地提高檢測的準(zhǔn)確性和穩(wěn)定性。

附圖說明

通過參考附圖閱讀下文的詳細(xì)描述，本發(fā)明實(shí)施方式的上述以及其他目的、特征和優(yōu)點(diǎn)將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本發(fā)明的若干實(shí)施方式，其中：

圖1示出了根據(jù)本發(fā)明一個(gè)示例性實(shí)施方式的在SNS網(wǎng)站的不良圖像檢測中使用的方法100的流程圖；