R_Language 板


LINE

[问题类型]: 效能谘询(我想让R 跑更快) [软体熟悉度]: 使用者(已经有用R 做过不少作品) [问题叙述]: 各位好,目前我正在写一支配Stepwise Regression的程式;且已经可以成功执行。 但是在执行效能上还有很大的进步空间 目前所配的Variables 共有80左右,所以配逐步回归的方式来选取留下的Variable 因为每个变数都需要建立一个独立模型 所以总共会跑80次左右的iterstions 总共执行时间约莫落在2.5HR左右,所以开始考虑效能提升问题 有遇到一些问题需要各位协助排除障碍,先在此谢谢各位 以下的范例,我先设定跑2次的iteration用来测试效能 [程式范例]: 这是我已经写好可以Run的程式码 ##########可以Run的########### system.time(lapply(1:2,function(i)( { print(i) TrainModel<-cbind(setnames(TrainDT[7:nrow(TrainDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]) PracticeModel<-cbind(setnames(PracticeDT[7:nrow(PracticeDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),PracticeDT[1:(nrow(PracticeDT)-6),1:length(PracticeDT),with=F]) resp<-grep('_y',names(TrainModel),value=T) pre<-grep('01F',names(TrainModel),value =T) pre<-pre[2:length(pre)] addq<-function(x) paste0("`",x, "`") Model<-as.formula(paste(addq(resp),paste(lapply(pre, addq),collapse = '+'),sep = '~')) FitModel<-lm(Model,data=TrainModel) #Fitmodel<-lm(`01F0017S_y`~.,data=TrainModel) #Fitmodel<-lm(as.matrix(TrainDT[7:nrow(TrainDT),i,with=F])~as.matrix(TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]),data=TrainDT) stepwise<-step(FitModel,sacle=0,direction = 'both') write.csv(stepwise$coefficients,file = paste0(names(DT[1,i,with=FALSE]),'_Coefficients','.csv')) write.csv(cbind(TrainModel[[1]],stepwise$fitted.values,stepwise$residuals),file = paste0(names(DT[1,i,with=FALSE]),'_Residual','.csv')) write.csv(cbind(PracticeModel[[1]],predict(stepwise,PracticeModel),PracticeModel[[1]]-predict(stepwise,PracticeModel)),file = paste0(names(DT[1,i,with=FALSE]),'_Predict','.csv')) #PredictData<-predict(stepwise,PracticeDT) }))) 每一个iteration在最後会丢出三个我需要参数的csv,总共耗时约2.5HR ###########配合snow 套件的程式########### clusterfun<-function(i){ print(i) TrainModel<-cbind(setnames(TrainDT[7:nrow(TrainDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]) PracticeModel<-cbind(setnames(PracticeDT[7:nrow(PracticeDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),PracticeDT[1:(nrow(PracticeDT)-6),1:length(PracticeDT),with=F]) resp<-grep('_y',names(TrainModel),value=T) pre<-grep('01F',names(TrainModel),value =T) pre<-pre[2:length(pre)] addq<-function(x) paste0("`",x, "`") Model<-as.formula(paste(addq(resp),paste(lapply(pre, addq),collapse = '+'),sep = '~')) FitModel<-lm(Model,data=TrainModel) #Fitmodel<-lm(`01F0017S_y`~.,data=TrainModel) #Fitmodel<-lm(as.matrix(TrainDT[7:nrow(TrainDT),i,with=F])~as.matrix(TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]),data=TrainDT) stepwise<-step(FitModel,sacle=0,direction = 'both') write.csv(stepwise$coefficients,file = paste0(names(DT[1,i,with=FALSE]),'_Coefficients','.csv')) write.csv(cbind(TrainModel[[1]],stepwise$fitted.values,stepwise$residuals),file = paste0(names(DT[1,i,with=FALSE]),'_Residual','.csv')) write.csv(cbind(PracticeModel[[1]],predict(stepwise,PracticeModel),PracticeModel[[1]]-predict(stepwise,PracticeModel)),file = paste0(names(DT[1,i,with=FALSE]),'_Predict','.csv')) #PredictData<-predict(stepwise,PracticeDT) } cluster <- makeCluster(type="SOCK",c("localhost", "localhost", "localhost", "localhost")) system.time(parLapply(cluster,1:2,clusterfun)) stopCluster(cluster) 但是在执行上得到这个错误 > cluster <- makeCluster(type="SOCK",c("localhost", "localhost", "localhost", "localhost")) > system.time(parLapply(cluster,1:2,clusterfun)) Error in checkForRemoteErrors(val) : 2 nodes produced errors; first error: 没有这个函数 "setnames" Timing stopped at: 0 0 0.01 > stopCluster(cluster) 请问各位该如何排除这样的障碍,谢谢各位的指教 [环境叙述]: > version _ platform x86_64-w64-mingw32 arch x86_64 os mingw32 system x86_64, mingw32 status major 3 minor 2.1 year 2015 month 06 day 18 svn rev 68531 language R version.string R version 3.2.1 (2015-06-18) nickname World-Famous Astronaut [关键字]: 选择性,也许未来有用 Snow, data.table,Stepwise Regression --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 125.227.5.157
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/R_Language/M.1462421341.A.18F.html
1F:→ h310713: 如需提供任何资讯,请不吝回覆 05/05 12:11
2F:→ celestialgod: clusterEvalQ(cl,ibrary(data.table)) 05/05 12:25
3F:→ celestialgod: cl改成cluster 05/05 12:26
4F:→ celestialgod: 再执行parLapply之前 05/05 12:26
5F:→ celestialgod: 我不确定平行用write.csv可不可以 05/05 12:27
6F:→ h310713: 谢谢协助,write.csv经确认可以使用 05/05 14:13







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Soft_Job站内搜寻

TOP