[發明專利]基于塊坐標下降法的大數據并行優化系統及方法

在審

• 申請號: 202010933264.8
• 申請日: 2020-09-08
• 公開（公告）號: CN112115596A
• 公開（公告）日: 2020-12-22
• 發明（設計）人: 丁杰;王翔;吳馬軍
• 申請（專利權）人: 浙江嘉興數字城市實驗室有限公司
• 主分類號: G06F30/20
• 分類號: G06F30/20;G06F16/27
• 代理公司: 嘉興啟帆專利代理事務所(普通合伙) 33253
• 代理人: 廖銀洪

本發明公開了基于塊坐標下降法的大數據并行優化系統及方法?；趬K坐標下降法的大數據并行優化方法，包括以下步驟：步驟S1：建立加權Lasso模型；步驟S2：利用塊坐標下降法對所述加權模型進行求解；步驟S3：通過所述求解得到所述加權模型的回歸系數；步驟S4：通過隨機生成的稀疏向量與所述回歸系數，作為基準值Xs，以對比驗證求解的結果的正確性。本發明公開的基于塊坐標下降法的大數據并行優化系統及方法，分布式存儲的數據采用塊坐標下降對數據進行并行處理，在保證求解準確性的前提下，提高運算的速度。

技術領域

本發明屬于智慧城市大數據分析技術領域，具體涉及一種基于塊坐標下降法的大數據并行優化方法和一種基于塊坐標下降法的大數據并行優化系統。

背景技術

現代科技的快速發展帶動了高維數據的廣泛應用，在許多實際問題中，高維稀疏矩陣的研究處理起到了至關重要的作用。在大數據時代下，選擇適合的變量建立模型是重中之重，因此多元線性回歸算法顯得至關重要。

Lasso(The Least Absolute Shrinkage and Selection operator)算法被證明是一種很有效的算法。這是一種壓縮估計，通過構造一個懲罰函數獲得一個精煉的模型，使得它壓縮一些系數，同時設定一些系數為零。因此，保留了子集收縮的優點，是一種處理具有復共線性數據的有偏估計。在經典的統計估計中，我們處理的多半是大樣本低維度的數據，現在則多是大樣本高維度的數據。對于高維海量數據的Lasso模型求解是一個難點問題。本申請提供了加權Lasso模型的塊坐標下降并行優化算法。通過將樣本矩陣進行分塊處理，在MPI框架下實現了該并行算法，并分析、驗證了該算法的收斂性。實驗結果表明，塊坐標下降具有良好的并行運算性能，能夠大幅度提升計算速度，同時具備良好的收斂特性。

發明內容

本發明針對現有技術的狀況，克服以上缺陷，提供一種基于塊坐標下降法的大數據并行優化方法和一種基于塊坐標下降法的大數據并行優化系統。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其主要目的在于，對分布式存儲的數據采用塊坐標下降對數據進行并行處理，在保證求解準確性的前提下，提高運算的速度。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其另一目的在于，實現了對分布式存儲數據的Lasso模型并行化求解。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其另一目的在于，在保證最終結果的收斂性的前提下提升了設備資源利用率和運算效率。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其另一目的在于，運用了加權Lasso模型的塊坐標下降并行優化算法。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其另一目的在于，通過將樣本矩陣進行分塊處理，在MPI框架下實現了該并行算法，并分析、驗證了該算法的收斂性。

本發明專利申請公開的基于塊坐標下降法的大數據并行優化系統及方法，其另一目的在于，塊坐標下降法具有良好的并行運算性能，能夠大幅度提升計算速度，同時具備良好的收斂特性。

本發明采用以下技術方案，所述基于塊坐標下降法的大數據并行優化方法，包括以下步驟：

步驟S1：建立加權Lasso模型；

步驟S2：利用塊坐標下降法對所述加權模型進行求解；

步驟S3：通過所述求解得到所述加權模型的回歸系數；

步驟S4：通過隨機生成的稀疏向量與所述回歸系數，作為基準值Xs，以對比驗證求解的結果的正確性。

根據上述技術方案，作為上述技術方案的進一步優選技術方案，所述加權Lasso模型通過下式確定：