作者Morphee (千磨万击还坚劲)
看板deeplearning
标题Re: [讨论] Deep Learning 建模与部属产品的流程
时间Thu Feb 15 23:40:31 2018
就目前状况来说,自己感觉没那麽容易,
混乱的程度也不是一两篇文章可以说清楚的,
我是假设你不是使用太容易的model,并且想布署到手机上,
常见的api都不一定支援得很好了。
另外也要分 iOS 跟 Android,状况不太一样。
CoreML 目前算是op支援比较多的,但是相信我,
在一年内要布署特殊一点的 model 上去,会蛮辛苦的。
特别是有客制化的layer,状况更惨烈。
再来是 model 在各framework的转换,并没有太可靠的工具。
比方说,你如果看到一篇论文有 PyTorch 实现,你想弄到手机上,恩,
iOS的话,你 model 要先转成 Caffe or TF ?
to Caffe,工具有bug。
to TF,就我所知,没有很可靠的工具,我是自干的。
接下来,转 mlmodel,不一定会成功,
若成功通常是 model 结构较简单,或运气不错 Apple 那边没 bug。
效果在手机上重现之後,才能谈优化,优化又是一团混乱。
Android 这边更难走,支援更少,要赌的路更多种。
※ 引述《rocking5566 (摇滚56)》之铭言:
: 这问题分为两块
: 1. prototype 时用的工具、环境
: 由於 prototype 时,需要能快速实作与修改网路架构、
: 方便训练、微调 hyper parameter、
: fine tune weight
: 这部分常见的有两派
: a. docker + tensorflow + high level api
: ex: (keras or TFLearn or slim)
: ipython notebook 修改上层流程
: 搭配 tensorboard 来看 learning curve
: b. docker + caffe
: ps: 用 docker 原因是装环境麻烦,build docker image 乾净俐落,
: 确保团队使用一样的环境
: 而且当环境被玩坏的时候,三秒复原给你看XD
: 2. 部署至产品上的工具
: 这边通常要求 forward 快速,相依 library 少
: 如果是 手机、嵌入式等 arm 环境,
: 则 library 大小、model 也是能小则小。
: 这一块较受欢迎的,有 tensorflow lite、caffe2、
: core ml、ncnn、mobile deep learning
: 若是云端环境,则 mxnet 似乎是不错的选择
: 请问各位三百万大大,有推荐使用的工具吗?
: 蛮好奇不同情境下,适用的工具
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.34.230.27
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/deeplearning/M.1518709235.A.B68.html
1F:推 rocking5566: 有考虑建模完成後,再用caffe重train一次 02/16 18:03
2F:→ rocking5566: 再转到其他框架吗? 02/16 18:03
3F:→ rocking5566: 不过特殊layer,还真的无解就是... 02/16 18:03
4F:推 DeepLearning: 只好帮QQ 02/23 22:29
5F:推 st1009: 这里人气好低下... 02/25 11:00
6F:推 osme2000xp: 推 02/27 08:39
7F:→ gus2: caffe2/mxnet/pytorch不是支援onnx吗? 02/27 10:17
9F:→ gus2: 感觉部署到ios是相对容易?没真的写过,只是臆测 02/27 10:20
10F:→ fychao: 为什麽不直接用 Api call 手机上的资源来算? 手机这麽局 02/27 11:10
11F:→ fychao: 限 02/27 11:10
12F:→ fychao: 手机外的资源 02/27 11:11