[問題] 手刻機器學習模型

[retest75 (再一次)]

請問板上各位前輩
最近想試著手刻一些機器學習的模型
像是KNN、Logistic之類的經典模型
但找了一些書後發現大多都是介紹完模型概念後就直接使用scikit-learn的套件模型使用
於是上來問問板上前輩
有沒有關於這些手刻模型的書籍或是參考資源是比較推薦的？

另外想問一下，手刻模型需要刻到怎麼樣的程度？
是需要做到可以像scikit-learn一樣還有一些額外的參數可以做調整
還是說只要可以實現這些演算法的內容與結果即可

會這樣問是因為這學期修的某堂課老師常常提到說會要求自己的研究生不能使用套件
都要他們自己手刻，也提過說去到業界工作也不會讓你使用這些套件
也是因為這樣才讓我想說自己試著手刻看看，順便加強自己的coding能力
不曉得這樣做對自己有沒有幫助
還請板上前輩解惑  謝謝大家

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.120.7.210 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1674223338.A.913.html
→ alex780312: 我倒覺得業界也要用那些套件做模型訓練，只是部署階
→ alex780312: 段有種種考量要自己刻或者改code的能力
推 st1009: 業界不用套件？？？ 這老師是跟哪個公司合作的...
推 a78998042a: 練習時就刻核心就好，可以當成做教學的心態，會做得
→ a78998042a: 比較仔細。跟刻論文算法一樣，如果結果跟論文差太多
→ a78998042a: ，就會把各種參數都開出來了…
→ wuyiulin: 不是啦，這邊說的套件是 scikit-learn 直接 .train 那
→ wuyiulin: 種
請問w大，什麼是直接.train那種呢？
→ wuyiulin: Model 自己刻很正常吧？我也只有接簡單案子敢直接交 sc
→ wuyiulin: ikit-learn 東西出去
※ 編輯: retest75 (111.83.38.23 臺灣), 01/21/2023 09:20:42
→ iHaveAPen: 手刻模型就是不停的看library的documentations，依自己
→ iHaveAPen: 的需求使用
→ iHaveAPen: 手刻的程度可大可小，小至矩陣計算實作ML，大至新模型
→ iHaveAPen: 架構實作
推 st1009: 我試過用c刻DNN，和用python numpy刻DNN，torch刻任意基礎
推 st1009: 模型，個人覺得這個能力應該要有
→ yoyololicon: 打開PRML 照裡面的算式用numpy寫 easy
推 Wush978: 手刻模型要學數值最佳化套件, 像是LBFGS 或是 SGD等等
→ Wush978: 還有要練習自己建model matrix ，需要線性代數知識
→ Wush978: 以及會用相關的函式庫
推 ddavid: 業界才是能用套件就盡量用，必須特化才會修改
→ ddavid: 基本上要有修改能力，但絕不是什麼都自己造輪子
推 cowbadma5566: 手刻能更好了解原理 但時間可以投注在更有效率的地
→ cowbadma5566: 方
推 wieldthewave: 借串問一下，在numpy下刻套件跟在pytorch下刻有什麼
→ wieldthewave: 不一樣嗎
→ wieldthewave: 最近在用numpy刻一些模型，有想要用pytorch也試試看
→ wieldthewave: 但突然想到如果我用numpy就可以完成的事為什麼還要
→ wieldthewave: 用pytorch再做一次
→ wieldthewave: 想問一下在業界用numpy跟用pytorch有什麼差別嗎？
→ yoyololicon: PyTorch 有autograd 還有能跑在GPU上
推 st1009: torch有比較多實踐，np刻個NN就很累，torch刻transformer
推 st1009: 而且torch 2.0 真的很快
→ chang1248w: 用numpy寫的附帶打包串接上線都得自己弄過一遍，還有
→ chang1248w: 單核
推 justakidd: 業界其實是有現成的就先用，有需要才針對需求去特化
→ justakidd: 手刻還是不錯的練習啦，個人認為刻過一次能重現結果，
→ justakidd: 理解每個步驟的實作即可，時間應花在更值得的地方
推 jacky18008: 好奇一問，你老師是不是姓蔡……？