[發明專利]一種基于生成式對話技術的醫療問答系統

在審

• 申請號: 202110307807.X
• 申請日: 2021-03-23
• 公開（公告）號: CN113012822A
• 公開（公告）日: 2021-06-22
• 發明（設計）人: 孫長銀;王浩;董璐;葛泉波
• 申請（專利權）人: 同濟大學
• 主分類號: G16H80/00
• 分類號: G16H80/00;G06F16/332;G06F16/35;G06N3/04;G06N3/08
• 代理公司: 上海德昭知識產權代理有限公司 31204
• 代理人: 郁旦蓉

1.一種基于生成式對話技術的醫療問答系統，用于針對患者輸入的問題文本生成相應的回復文本，其特征在于，包括：

科室分類模塊，利用預先訓練好的科室分類模型對所述問題文本進行分類得到科室編碼向量；

科室編號生成模塊，將所述科室編碼向量根據字典轉化得到與科室相對應的第一編號向量，將所述問題文本根據所述字典轉化得到第二編號向量，將所述第一編號向量與所述第二編號向量進行拼接得到拼接編號向量；以及

回復文本生成模塊，將所述拼接編號向量輸入預先訓練好的生成式對話模型中，生成所述回復文本，

其中，所述科室分類模型以及所述生成式對話模型的訓練過程包括如下步驟：

步驟S1，獲取至少包括問題內容與醫生答復的醫療問答數據集，對該醫療問答數據集進行整理，從而得到所述問題內容與所述醫生答復相對應存儲的組合數據；

步驟S2，將所述組合數據中的問題內容作為預先搭建好的科室學習模型的輸入，并將該問題內容所屬的科室作為科室標簽，從而訓練得到用于將患者問題分類到具體科室的科室分類模型；

步驟S3，將所述問題內容輸入所述科室分類模型得到預測科室名稱，并將該預測科室名稱與對應的問題內容拼接得到拼接文本；

步驟S4，將所述拼接文本輸入預先搭建好的回復文本學習模型，并將所述醫生答復作為答復標簽，從而訓練得到所述生成式對話模型。

2.根據權利要求1所述的基于生成式對話技術的醫療問答系統，其特征在于：

其中，所述步驟S1包括如下子步驟：

步驟S1-1，獲取至少包括所述問題內容與所述醫生答復醫療問答數據集，并刪除內容缺失或存在歧義的數據，從而得到精選數據集；

步驟S1-2，對所述精選數據集中每條數據的所述問題內容按照對應的科室進行標記，得到所述問題內容與所述醫生答復相對應存儲的組合數據。

3.根據權利要求1所述的基于生成式對話技術的醫療問答系統，其特征在于：

其中，所述步驟S2包括如下子步驟：

步驟S2-1，利用所述字典將所述問題內容中每個字轉化為相應的數字形式的編號作為文字編號；

步驟S2-2，所述科室學習模型中的編碼器將所述文字編號組成的向量轉化為帶有上下文語意信息的問題內容向量化表示作為問題向量表示；

步驟S2-3，所述科室學習模型中的全連接層根據所述問題向量表示進行分類，得到分類結果向量，用于表示所述問題內容對應所有科室的概率，將其中概率最大的科室作為分類預測結果；

步驟S2-4，基于所述分類預測結果以及所述科室標簽的交叉熵損失loss通過基于梯度下降法的反向傳播進行訓練更新，從而訓練得到用于將患者問題分類到具體科室的科室分類模型，

式中，n為所述科室的總類別數，p_i(x)為所述科室標簽，q_i(x)為所述分類向量中的第i位的數值，即所述科室學習模型預測的屬于當前科室的概率。

4.根據權利要求1所述的基于生成式對話技術的醫療問答系統，其特征在于：

其中，所述科室編碼向量由One-Hot編碼方法得到。

5.根據權利要求1所述的基于生成式對話技術的醫療問答系統，其特征在于：

其中，所述科室分類模型為Bert模型，

所述生成式對話模型為基于Transformer架構的Bert-GPT模型。