[發明專利]一種基于Hadoop的并行化PLSA方法無效
| 申請號: | 201210071443.0 | 申請日: | 2012-03-19 |
| 公開(公告)號: | CN102779025A | 公開(公告)日: | 2012-11-14 |
| 發明(設計)人: | 高陽;金龑;楊育彬;商琳 | 申請(專利權)人: | 南京大學;南京大學江陰信息技術研究院 |
| 主分類號: | G06F9/38 | 分類號: | G06F9/38;G06F17/30 |
| 代理公司: | 南京蘇高專利商標事務所(普通合伙) 32204 | 代理人: | 夏雪 |
| 地址: | 210046 *** | 國省代碼: | 江蘇;32 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 基于 hadoop 并行 plsa 方法 | ||
1.一種基于Hadoop的并行化PLSA方法,其特征在于,包括如下步驟:
(1)將數據存儲到分布式數據存儲環境中;
(2)對需要更新計算的概率模型文件進行切分,作為每一個mapper的輸入;
(3)通過mapreduce對整體的EM過程中的每一次迭代更新過程進行計算:
通過mapper端的map函數和reducer端的reduce函數以及鍵值對的發送,
計算EM過程中的每一次迭代更新過程;
(4)每次更新后的迭代結果作為下次迭代的輸入;
(5)迭代直到所有的結果達到收斂。
2.根據權利要求1所述一種基于Hadoop的并行化PLSA方法,其特征在于:所述步驟(3)中,用map函數計算EM過程中的E過程,用reduce函數計算EM過程中的M過程。
3.根據權利要求1所述一種基于Hadoop的并行化PLSA方法,其特征在于:所述步驟(3)中,在map端完成整體的EM過程,在reduce端進行泛化。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于南京大學;南京大學江陰信息技術研究院,未經南京大學;南京大學江陰信息技術研究院許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201210071443.0/1.html,轉載請聲明來源鉆瓜專利網。
- 上一篇:一種中空式電池
- 下一篇:避雷器智能在線監測系統





