作者Wush978 (拒看低質媒體)
看板R_Language
標題[分享] 在雲端運算環境使用R和MPI
時間Thu Sep 26 22:04:03 2013
[關鍵字]: R, MPI, pbdMPI, Cloud Computing
[出處]:
http://0rz.tw/HSFb3
[重點摘要]:
好讀版:
http://rpubs.com/wush978/R-mpi-cloud
快速設定的參考影片:
http://www.youtube.com/watch?v=m1vtPESsFqM
處理沒有非常非常大的資料,其實不用用到Hadoop。
我們可以在雲端運算環境快速部署MPI環境後,以優於Hadoop的效能做分析。
這篇文章詳細的示範如何在AWS上設定一個MPI的運算環境,
並且用R和pbdMPI來演示一個數分鐘內計算一億多筆資料的Logistic Regression。
大家有問題歡迎來信或水球詢問或討論。
--
歡迎到ptt R_Language版分享R 的相關知識
歡迎加入 Taiwan R User Group :
http://www.facebook.com/Tw.R.User
聚會報名
http://www.meetup.com/Taiwan-R/
聚會影片
https://www.youtube.com/user/TWuseRGroup
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 1.34.138.85
推 memphis:好威阿! 09/27 13:49
推 acecc:推~能有Windows 平台的設定介紹嗎XD 09/27 19:20
推 skylikewater:感謝分享! 09/28 11:22
推 clickhere:Well done. 09/28 20:06
→ clickhere:你可以用allreduce(w),這樣就不用 bcast 在 reduce 了. 09/28 20:24
→ clickhere:可不用if(comm.rank()==0) else ... 09/28 20:25
→ clickhere:allreduce的 cost 和 reduce 是一樣的. 09/28 20:26
→ clickhere:還省下bcast和if esle 的時間. 09/28 20:26
→ clickhere:假設沒看錯algorithm的話 09/28 20:27
→ clickhere:n<-ifelse(comm.rank()==0,nrow(iris),0) 09/28 21:03
→ clickhere:n<-allreduce(n) 09/28 21:04
→ Wush978:謝謝建議,我再研究研究 09/28 21:25
推 kanx:感謝分享. 09/30 12:22