[發(fā)明專利]一種虛擬機(jī)內(nèi)部棧溢出識(shí)別方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202211344951.1
• 申請(qǐng)日: 2022-10-31
• 公開（公告）號(hào): CN115509691A
• 公開（公告）日: 2022-12-23
• 發(fā)明（設(shè)計(jì)）人: 吳瑞;解瑞成;石磊;賈立平;安章;馬亮
• 申請(qǐng)（專利權(quán)）人: 山東乾云啟創(chuàng)信息科技股份有限公司;山東可信云信息技術(shù)研究院
• 主分類號(hào): G06F9/455
• 分類號(hào): G06F9/455;G06F9/38;G06F9/30
• 代理公司: 濟(jì)南圣達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 37221
• 代理人: 李圣梅

1.一種虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，該虛擬機(jī)內(nèi)部棧溢出識(shí)別方法在虛擬機(jī)管理器中執(zhí)行，包括如下步驟：

監(jiān)控虛擬機(jī)執(zhí)行的指令流，判斷每條指令的執(zhí)行狀態(tài)；

若指令為函數(shù)調(diào)用的開始指令，為該函數(shù)所屬進(jìn)程設(shè)置一個(gè)函數(shù)返回地址跟蹤棧；其中，所述函數(shù)返回地址跟蹤棧用于存儲(chǔ)原始函數(shù)返回地址；

若指令為函數(shù)調(diào)用的完成指令，將原始函數(shù)返回地址與實(shí)際函數(shù)返回地址比較，判斷是否發(fā)生棧溢出攻擊。

2.如權(quán)利要求1所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，所述監(jiān)控虛擬機(jī)執(zhí)行的指令流，判斷每條指令的執(zhí)行狀態(tài)的具體步驟為：

獲取虛擬機(jī)執(zhí)行的指令流，根據(jù)指令模式，判斷指令為函數(shù)調(diào)用的開始指令或函數(shù)調(diào)用的完成指令。

3.如權(quán)利要求1所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，所述若指令為函數(shù)調(diào)用的開始指令，為每一個(gè)進(jìn)程設(shè)置一個(gè)函數(shù)返回地址跟蹤棧的具體步驟包括：

若指令為函數(shù)調(diào)用的開始指令，查詢進(jìn)程表中該函數(shù)的進(jìn)程，判斷是否設(shè)置函數(shù)返回地址跟蹤棧；

若未設(shè)置函數(shù)返回地址跟蹤棧，則新建一個(gè)空的函數(shù)返回地址跟蹤棧，將該函數(shù)的函數(shù)返回地址存儲(chǔ)至函數(shù)返回地址跟蹤棧；

若已設(shè)置函數(shù)返回地址跟蹤棧，獲取該函數(shù)的原始函數(shù)返回地址并存儲(chǔ)至函數(shù)返回地址跟蹤棧。

4.如權(quán)利要求1所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，若指令為函數(shù)調(diào)用的完成指令，查詢進(jìn)程表中該函數(shù)的進(jìn)程，獲取函數(shù)返回地址跟蹤棧中的原始函數(shù)返回地址。

5.如權(quán)利要求1所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，若該函數(shù)的原始函數(shù)返回地址與實(shí)際函數(shù)返回地址一致，則進(jìn)行下一條指令的檢測；

若該函數(shù)的原始函數(shù)返回地址與實(shí)際函數(shù)返回地址不一致，則該函數(shù)的實(shí)際函數(shù)返回地址被棧溢出攻擊篡改，向虛擬機(jī)管理器發(fā)送該進(jìn)程信息。

6.如權(quán)利要求5所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，該進(jìn)程信息包括虛擬機(jī)編號(hào)或虛擬機(jī)名稱、該進(jìn)程的標(biāo)識(shí)、實(shí)際函數(shù)返回地址和原始函數(shù)返回地址。

7.如權(quán)利要求1所述的虛擬機(jī)內(nèi)部棧溢出識(shí)別方法，其特征是，原始函數(shù)返回地址為函數(shù)調(diào)用開始時(shí)，目標(biāo)寄存器存儲(chǔ)的值；實(shí)際函數(shù)返回地址為函數(shù)調(diào)用結(jié)束時(shí)，源寄存器存儲(chǔ)的值。

8.一種虛擬機(jī)內(nèi)部棧溢出識(shí)別系統(tǒng)，其特征是，該虛擬機(jī)內(nèi)部棧溢出識(shí)別系統(tǒng)設(shè)置于虛擬機(jī)管理器，包括：

指令流監(jiān)控模塊，被配置為：監(jiān)控虛擬機(jī)執(zhí)行的指令流，判斷每條指令的執(zhí)行狀態(tài)；

函數(shù)返回地址跟蹤棧設(shè)置模塊，被配置為：若指令為函數(shù)調(diào)用的開始指令，為函數(shù)所屬進(jìn)程設(shè)置一個(gè)函數(shù)返回地址跟蹤棧；其中，所述函數(shù)返回地址跟蹤棧用于存儲(chǔ)原始函數(shù)返回地址；

棧溢出攻擊檢測模塊，被配置為：若指令為函數(shù)調(diào)用的完成指令，將原始函數(shù)返回地址與實(shí)際函數(shù)返回地址比較，判斷是否發(fā)生棧溢出攻擊。

9.一種電子設(shè)備，其特征在于，包括存儲(chǔ)器和處理器以及存儲(chǔ)在存儲(chǔ)器上并在處理器上運(yùn)行的計(jì)算機(jī)指令，所述計(jì)算機(jī)指令被處理器運(yùn)行時(shí)，完成權(quán)利要求1-7任一項(xiàng)所述的步驟。

10.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，用于存儲(chǔ)計(jì)算機(jī)指令，所述計(jì)算機(jī)指令被處理器執(zhí)行時(shí)，完成權(quán)利要求1-7任一項(xiàng)所述的步驟。