[發明專利]一種直播監控方法、裝置、電子設備及存儲介質

在審

• 申請號: 202010589239.2
• 申請日: 2020-06-24
• 公開（公告）號: CN111770353A
• 公開（公告）日: 2020-10-13
• 發明（設計）人: 周杰;王鳴輝;孫振邦;王長虎
• 申請（專利權）人: 北京字節跳動網絡技術有限公司
• 主分類號: H04N21/2187
• 分類號: H04N21/2187;H04N21/24;H04N21/658;G06N3/04
• 代理公司: 北京中知法苑知識產權代理有限公司 11226
• 代理人: 李明;趙吉陽

1.一種直播監控方法，其特征在于，包括：

獲取待檢測直播間在連續多個時間段中的每個時間段下，在預設的多種安全性特征維度下的直播特征向量；

基于所述待檢測直播間在所述連續多個時間段中的每個時間段對應的直播特征向量，確定所述待檢測直播間對應的融合直播特征向量；

基于所述融合直播特征向量，確定所述待檢測直播間對應的安全性檢測結果；

基于所述安全性檢測結果，進行直播控制。

2.根據權利要求1所述的直播監控方法，其特征在于，所述獲取待檢測直播間在連續多個時間段中的每個時間段下，在預設的多種安全性特征維度下的直播特征向量，包括：

獲取所述待檢測直播間在所述連續多個時間段中的每個時間段內的直播內容，所述直播內容包括直播圖片和/或直播音頻，并提取所述直播內容在預設的多種直播內容安全性特征維度下對應的直播內容特征；

將所述待檢測直播間在每個時間段對應的直播內容特征，以及所述待檢測直播間在該時間段對應的歷史行為特征和用戶屬性特征進行拼接后，得到所述待檢測直播間在該時間段下的直播特征向量。

3.根據權利要求1所述的直播監控方法，其特征在于，所述基于所述待檢測直播間在所述連續多個時間段中的每個時間段對應的直播特征向量，確定所述待檢測直播間對應的融合直播特征向量，包括：

針對所述連續多個時間段中的每個時間段，確定與該時間段對應的連續多個目標時間段，所述連續多個目標時間段中包括該時間段；

將與該時間段對應的連續多個目標時間段分別對應的直播特征向量進行融合，得到該時間段對應的第一融合直播特征向量；

基于所述待檢測直播間在每個時間段對應的第一融合直播特征向量，確定所述待檢測直播間對應的融合直播特征向量。

4.根據權利要求3所述的直播監控方法，其特征在于，所述基于所述待檢測直播間在每個時間段對應的第一融合直播特征向量，確定所述待檢測直播間對應的融合直播特征向量，包括：

從所述連續多個時間段中的非首個時間段開始，將當前時間段對應的第一融合直播特征向量和該當前時間段的上一個時間段對應的記憶直播特征向量進行融合，得到所述待檢測直播間在所述當前時間段對應的第二融合直播特征向量；

基于所述當前時間段對應的第二融合直播特征向量，確定所述當前時間段對應的記憶直播特征向量，將所述當前時間段對應的記憶直播特征向量和所述當前時間段的下一個時間段對應的第一融合直播特征向量進行融合，得到所述待檢測直播間在所述下一個時間段對應的第二融合直播特征向量；

判斷所述下一個時間段是否為所述連續多個時間段中的最后一個時間段，若是，將所述下一個時間段對應的第二融合直播特征向量作為所述待檢測直播間對應的融合直播特征向量，若否，將所述下一個時間段作為所述當前時間段，執行確定所述待檢測直播間在所述當前時間段對應的第二融合直播特征向量的步驟。

5.根據權利要求1所述的直播監控方法，其特征在于，基于所述安全性檢測結果，進行直播控制，包括：

若所述安全性檢測結果指示所述待檢測直播間的直播內容不符合預設安全檢測條件，將所述待檢測直播間對應的標識和所述待檢測直播間對應的直播內容輸出。

6.根據權利要求1至5任一所述的直播監控方法，其特征在于，所述安全性檢測結果由預先訓練的神經網絡確定；

所述神經網絡利用了包含多個樣本直播間中的每個樣本直播間在連續多個時間段下、在預設的多種安全性特征維度下的直播特征向量，以及預先標注的每個樣本直播間對應的安全性檢測結果。