[發(fā)明專利]一種用于城市大腦AI計(jì)算的算法模型調(diào)度系統(tǒng)及方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011204562.X
• 申請(qǐng)日: 2020-11-02
• 公開（公告）號(hào): CN112416575A
• 公開（公告）日: 2021-02-26
• 發(fā)明（設(shè)計(jì)）人: 梅一多;鄭新穎;何彬;羅建萌;王博;王崟樂
• 申請(qǐng)（專利權(quán)）人: 中關(guān)村科學(xué)城城市大腦股份有限公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;G06F11/30;G06F8/71;G06F8/65
• 代理公司: 北京勁創(chuàng)知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11589
• 代理人: 王闖

本發(fā)明涉及一種用于城市大腦AI計(jì)算的算法模型調(diào)度系統(tǒng)及方法，該系統(tǒng)包括：資源監(jiān)控模塊，用于對(duì)AI算法和AI模型所依賴的資源使用量進(jìn)行實(shí)時(shí)監(jiān)控；自動(dòng)裝箱模塊，用于對(duì)不同的AI算法和AI模型進(jìn)行容器化部署；資源分配模塊，用于將所述資源監(jiān)控模塊監(jiān)控到的資源使用量與預(yù)設(shè)閾值進(jìn)行比較，并根據(jù)比較結(jié)果，按照預(yù)先設(shè)定的資源分配策略自動(dòng)給相關(guān)的AI算法和AI模型重新分配資源。本發(fā)明通過實(shí)時(shí)監(jiān)控資源使用量來調(diào)整分配的資源，為AI算法和AI模型提供資源的最優(yōu)配置，在保證執(zhí)行效率的同時(shí)，避免資源的浪費(fèi)，通過AI算法和AI模型的容器化部署，可將第三方廠商提供的不同算法和模型進(jìn)行封裝，獨(dú)立部署、獨(dú)立運(yùn)行，避免資源的互相干擾。

技術(shù)領(lǐng)域

本發(fā)明屬于人工智能領(lǐng)域，具體涉及一種用于城市大腦AI計(jì)算的算法模型調(diào)度系統(tǒng)及方法

背景技術(shù)

智慧城市是指以數(shù)據(jù)為依托、以需求為驅(qū)動(dòng)的城市資源最優(yōu)化調(diào)配解決方案。將有限的資源應(yīng)用到無限的城市服務(wù)中。根據(jù)實(shí)時(shí)數(shù)據(jù)及各類信息，綜合調(diào)配、調(diào)控城市的公共資源，最終實(shí)現(xiàn)城市運(yùn)行智能化、運(yùn)行效率最優(yōu)化。而“城市大腦“作為城市級(jí)平臺(tái)，作為智慧城市基礎(chǔ)設(shè)施的核心部件，在智慧城市高速發(fā)展的需求推動(dòng)下應(yīng)運(yùn)而生，成為向新型智慧城市全面發(fā)展的必要條件。目前“城市大腦”通過匯集政府、企業(yè)、社會(huì)的城市多源數(shù)據(jù)資源，形成城市大腦“數(shù)據(jù)湖”，并利用AI算法和AI模型，能夠動(dòng)態(tài)地感知城市運(yùn)行體征，實(shí)時(shí)監(jiān)測城市的運(yùn)行狀態(tài)，也基本涵蓋了政務(wù)服務(wù)、交通運(yùn)行、生態(tài)環(huán)境、社會(huì)治理、醫(yī)療、教育等各個(gè)領(lǐng)域。

目前在“城市大腦”中，各領(lǐng)域的AI模型和AI算法所消耗的資源都是提前預(yù)分配的，不能實(shí)時(shí)監(jiān)控，動(dòng)態(tài)調(diào)整，無法實(shí)現(xiàn)資源的最優(yōu)化配置。例如發(fā)生突發(fā)事件時(shí)，導(dǎo)致所需資源在短時(shí)間內(nèi)急劇增加，超出了預(yù)分配的額度時(shí)，系統(tǒng)不能及時(shí)響應(yīng)，導(dǎo)致阻塞、延遲。

發(fā)明內(nèi)容

針對(duì)上述技術(shù)問題，本發(fā)明提供一種用于城市大腦AI計(jì)算的算法模型調(diào)度系統(tǒng)及方法。通過對(duì)系統(tǒng)資源消耗情況的實(shí)時(shí)監(jiān)控，實(shí)現(xiàn)資源統(tǒng)一管理，高效利用AI模型和AI算法的能力，完善“城市大腦”的AI建設(shè)，推動(dòng)智慧城市的發(fā)展。

本發(fā)明解決上述技術(shù)問題的技術(shù)方案如下：

一種用于城市大腦AI計(jì)算的算法模型調(diào)度系統(tǒng)，包括：

資源監(jiān)控模塊，用于對(duì)AI算法和AI模型所依賴的資源使用量進(jìn)行實(shí)時(shí)監(jiān)控；

自動(dòng)裝箱模塊，用于對(duì)不同的AI算法和AI模型進(jìn)行容器化部署；

資源分配模塊，用于將所述資源監(jiān)控模塊監(jiān)控到的資源使用量與預(yù)設(shè)閾值進(jìn)行比較，并根據(jù)比較結(jié)果，按照預(yù)先設(shè)定的資源分配策略自動(dòng)給相關(guān)的AI算法和AI模型重新分配資源。

本發(fā)明的有益效果是：通過實(shí)時(shí)監(jiān)控資源使用量來調(diào)整分配的資源，為AI算法和AI模型提供資源的最優(yōu)配置，在保證執(zhí)行效率的同時(shí)，避免資源的浪費(fèi)，通過AI算法和AI模型的容器化部署，可將第三方廠商提供的不同算法和模型進(jìn)行封裝，獨(dú)立部署、獨(dú)立運(yùn)行，避免資源的互相干擾。

在上述技術(shù)方案的基礎(chǔ)上，本發(fā)明還可以做如下改進(jìn)。

進(jìn)一步，所述系統(tǒng)還包括：

自我修復(fù)模塊，用于在容器化部署的AI算法和AI模型發(fā)生異常宕機(jī)時(shí)，按照預(yù)先設(shè)置的恢復(fù)策略，恢復(fù)AI算法和AI模型。

采用上述進(jìn)一步方案的有益效果是，實(shí)現(xiàn)核心的AI算法和AI模型高可用性，通過實(shí)時(shí)監(jiān)控，及時(shí)發(fā)現(xiàn)異常情況并自動(dòng)修復(fù)。

進(jìn)一步，所述系統(tǒng)還包括：

服務(wù)發(fā)現(xiàn)模塊，用于將AI算法和AI模型注冊(cè)到統(tǒng)一的注冊(cè)中心；

負(fù)載均衡模塊，用于通過負(fù)載均衡的機(jī)制，分配各個(gè)負(fù)載的資源使用量。