DataScience 板


LINE

※ 引述《NDEJG (NDE)》之铭言: : 1.使用时机 : 最近在用PointNet去预测植物的特性,老板不断要我做cross validation,因为我们的资 : 料数量很少,总共只有450笔,她认为cross validation可以避免因为test set选得不好 : 导致模型有偏误的结果,但我读的文章都是在有多个model时,才会用cross validation : 来决定哪个模型最适合这个dataset。不知道有没有版友可以解惑是否是老板弄错还是我 : 误会了什麽。 以下是个人看法,请自行斟酌 情况一: cross-validation(CV)可以用来做模型选择,或者是所谓的hyperparameter tuning, 模型选择之後,再用test set评估效果。 情况二: CV也可以在资料少的情况下,用来评估效果,在这样的情况下, CV类似用於情况一的test set。 要这样做,并需要注意,你不可以用CV做hyperpatameter tuning ,然後再用CV评估效果,否则会有overfitting的问题。 如果你没有hyperparameter tuning的需求,可以用CV来评估效果,这是比较简单的问题。 如果你要hyperparameter tuning,又要评做效果,你必需要用 "nested cross-validation" : 2.bias, variance : 在读cross validation variants的比较时,我观察到作者们都会用bias跟variance来评 : 估这个cross validation variant的效果。Ron Kohavi 1995年的文章里就是以bias及var : iance评估到底哪一个variant可以最好地评估一个model。以leave one out cross valid : ation为例,他就说是unbiased但有非常大的variance所以这个variant不甚理想。但是这 : 些文章都是以classification为基础来推导,我想请教若是对regression model用cross : validation时,要如何评估bias跟variance呢? : 总结 : 我不清楚只有一个model时做cross validation的意义何在,以及若要做的话,我该如何 : 选择哪一种cross validation呢?考虑到我们的样本数少,老板认为因为样本数少,不适 : 合10 fold cross validation,论文大部分以classification来讨论,想请教版友该以什 : 麽方法来评估regression的模型。 : 感谢各位的帮忙Q___Q 样本数少的时候可以考虑用5-fold CV,我印象中CV建议至少要用5 folds, 不过这应该也只是经验值,没有什麽真正的学理去支持这个5数字怎麽来的。 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.116.26.161 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1645031167.A.6F5.html
1F:推 NDEJG: 我没读到nested cross validation,感谢大大分享。我读的 02/17 06:47
2F:→ NDEJG: 文献也是几乎都推荐5fold以上。 02/17 06:47
3F:→ NDEJG: 另外请问一下,若不需要调hyperparameter,我是随便抓一组v 02/17 06:50
4F:→ NDEJG: alidation set即可吗? 02/17 06:50
5F:→ VIATOR: 不需要调hyperparameter的话,可以做一般CV就好了 02/17 08:45
6F:→ NDEJG: 好的,感谢大大分享Q__Q 02/18 02:49







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Boy-Girl站内搜寻

TOP