[發明專利]基于HTTP的模型調用方法、系統、計算機設備和存儲介質

在審

• 申請號: 202010751931.0
• 申請日: 2020-07-30
• 公開（公告）號: CN111880864A
• 公開（公告）日: 2020-11-03
• 發明（設計）人: 鐘賢
• 申請（專利權）人: 平安國際智慧城市科技股份有限公司
• 主分類號: G06F9/448
• 分類號: G06F9/448;G06F9/50
• 代理公司: 北京英特普羅知識產權代理有限公司 11015
• 代理人: 王勇

本發明實施例提供了一種基于HTTP的模型調用方法，所述方法包括：接收一個或多個客戶終端提供的多個HTTP請求；為所述多個HTTP請求配置多個進程；通過各個進程執行以下操作：根據相應的HTTP請求生成相應的處理請求，并將所述處理請求傳輸到相應的目標模型中，以便所述目標模型基于所述相應的處理請求反饋相應的處理結果；及接收所述處理結果并將所述處理結果發送到客戶終端。本發明實施例通過為多個HTTP請求分配對應的進程，并通過調用對應的目標模型對HTTP請求進行處理操作，提高了對HTTP請求密集時的計算處理速度和并發時的處理效率。

技術領域

本發明實施例涉及人工智能領域，尤其涉及一種基于HTTP的模型調用方法、系統、計算機設備及計算機可讀存儲介質。

背景技術

模型調用，在于通過人工智能算法對數據進行處理(如，預測、評估等)，并為人工智能提供應用服務。但是，傳統模型調用還處在CPU計算密集型的并發問題、I/O密集型的高并發問題以及沒有統一的模型調用框架。因此，如何解決CPU計算密集型的并發問題、I/O密集型的高并發問題以及模型調用單一的問題，從而進一步的提高模型調用對數據處理的并發性能，成為了當前亟需解決的技術問題。

發明內容

有鑒于此，有必要提供一種基于HTTP的模型調用方法、系統、計算機設備及計算機可讀存儲介質，以解決傳統模型調用CPU計算密集型的并發性能低、I/O密集型的高并發效果差等技術問題。

為實現上述目的，本發明實施例提供了一種基于HTTP的模型調用方法，所述方法步驟包括：

接收一個或多個客戶終端提供的多個HTTP請求；

為所述多個HTTP請求配置多個進程；

通過各個進程執行以下操作：根據相應的HTTP請求生成相應的處理請求，并將所述處理請求傳輸到相應的目標模型中，以便所述目標模型基于所述相應的處理請求反饋相應的處理結果；及接收所述處理結果并將所述處理結果發送到客戶終端。

示例性的，所述接收一個或多個客戶終端提供的多個HTTP請求的步驟，包括：

通過處于協程處理模式的HTTP傳輸組件，異步并行接收所述多個HTTP請求；及

所述接收所述處理結果并將所述處理結果發送到客戶終端的步驟，包括：

將所述處理結果發送至所述HTTP傳輸組件中，以通過所述HTTP傳輸組件將所述處理結果發送到所述客戶終端。

示例性的，每個HTTP請求分別攜帶有預設數據類型的待處理數據，其中，每種預設數據類型預先配置有一個對應的標準轉換格式；

根據相應的HTTP請求生成相應的處理請求，并將所述處理請求傳輸到相應的目標模型中，包括：

根據所述相應的HTTP請求中的目標待處理數據，確定所述目標數據類型；

根據所述目標數據類型，確定所述目標待處理數據對應的目標標準轉換格式；

根據所述目標標準轉換格式對所述目標待處理數據進行格式轉換，以得到所述目標已處理數據；及

將所述目標已處理數據傳輸到所述目標模型中，并將所述目標已處理數據上傳到區塊鏈中。

示例性的，將所述目標已處理數據傳輸到所述目標模型中，包括：

根據目標標準轉換格式確定多個接口中的目標接口，所述多個接口為預先配置的且每個接口對應一個模型；及

通過所述目標接口將所述目標已處理數據輸入到所述目標模型中。

示例性的，所述為所述多個HTTP請求配置多個進程的步驟，包括；