作者Morphee (千磨萬擊還堅勁)
看板deeplearning
標題Re: [討論] Deep Learning 建模與部屬產品的流程
時間Thu Feb 15 23:40:31 2018
就目前狀況來說，自己感覺沒那麼容易，
混亂的程度也不是一兩篇文章可以說清楚的，
我是假設你不是使用太容易的model，並且想佈署到手機上，
常見的api都不一定支援得很好了。
另外也要分 iOS 跟 Android，狀況不太一樣。
CoreML 目前算是op支援比較多的，但是相信我，
在一年內要佈署特殊一點的 model 上去，會蠻辛苦的。
特別是有客製化的layer，狀況更慘烈。
再來是 model 在各framework的轉換，並沒有太可靠的工具。
比方說，你如果看到一篇論文有 PyTorch 實現，你想弄到手機上，恩，
iOS的話，你 model 要先轉成 Caffe or TF ?
to Caffe，工具有bug。
to TF，就我所知，沒有很可靠的工具，我是自幹的。
接下來，轉 mlmodel，不一定會成功，
若成功通常是 model 結構較簡單，或運氣不錯 Apple 那邊沒 bug。
效果在手機上重現之後，才能談優化，優化又是一團混亂。
Android 這邊更難走，支援更少，要賭的路更多種。
※ 引述《rocking5566 (搖滾56)》之銘言：
: 這問題分為兩塊
: 1. prototype 時用的工具、環境
: 由於 prototype 時，需要能快速實作與修改網路架構、
: 方便訓練、微調 hyper parameter、
: fine tune weight
: 這部分常見的有兩派
: a. docker + tensorflow + high level api
: ex: (keras or TFLearn or slim)
: ipython notebook 修改上層流程
: 搭配 tensorboard 來看 learning curve
: b. docker + caffe
: ps: 用 docker 原因是裝環境麻煩，build docker image 乾淨俐落，
: 確保團隊使用一樣的環境
: 而且當環境被玩壞的時候，三秒復原給你看XD
: 2. 部署至產品上的工具
: 這邊通常要求 forward 快速，相依 library 少
: 如果是 手機、嵌入式等 arm 環境，
: 則 library 大小、model 也是能小則小。
: 這一塊較受歡迎的，有 tensorflow lite、caffe2、
: core ml、ncnn、mobile deep learning
: 若是雲端環境，則 mxnet 似乎是不錯的選擇
: 請問各位三百萬大大，有推薦使用的工具嗎？
: 蠻好奇不同情境下，適用的工具
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.34.230.27
※ 文章網址: https://www.ptt.cc/bbs/deeplearning/M.1518709235.A.B68.html
推 rocking5566: 有考慮建模完成後，再用caffe重train一次 02/16 18:03
→ rocking5566: 再轉到其他框架嗎? 02/16 18:03
→ rocking5566: 不過特殊layer，還真的無解就是... 02/16 18:03
推 DeepLearning: 只好幫QQ 02/23 22:29
推 st1009: 這裡人氣好低下... 02/25 11:00
推 osme2000xp: 推 02/27 08:39
→ gus2: caffe2/mxnet/pytorch不是支援onnx嗎？ 02/27 10:17
→ gus2: 感覺部署到ios是相對容易？沒真的寫過，只是臆測 02/27 10:20
→ fychao: 為什麼不直接用 Api call 手機上的資源來算？ 手機這麼局 02/27 11:10
→ fychao: 限 02/27 11:10
→ fychao: 手機外的資源 02/27 11:11