看板 R_Language 關於我們 聯絡資訊
文章分類提示: - 問題: 當你想要問問題時,請使用這個類別 [問題類型]: 程式諮詢(我想用R 做某件事情,但是我不知道要怎麼用R 寫出來) [軟體熟悉度]: 使用者(已經有用R 做過不少作品) [問題敘述]: 我想問,有關lasso的套件有哪些,我目前知道的是lars和glmnet 想用lasso幫我找重要變數,另外用lasso去挑出來的變數,下去做machine learning 結果一定會比較好嗎? 因為我目前用glmnet去挑,結果並沒有比較好,差距在5%以內 謝謝 [關鍵字]: lasso lars glmet -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 202.169.173.185 ※ 文章網址: https://www.ptt.cc/bbs/R_Language/M.1477796198.A.F68.html ※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:07:54
abc2090614: lasso挑出來不一定比較好 因為no free lunch 10/30 11:18
abc2090614: ML的結果都是by case 沒有一個方法適用全部的... 10/30 11:22
abc2090614: 我所知道的lasso也只有glmnet就是 10/30 11:23
我用SVM lasso選變數後 結果比較差 差一點點 所以要用其他方法降維 因為目前我用lasso做出來的效果不夠 是這樣嗎? ※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:31:29
kingleo28: 何不試試別的penalty,像scan,mcp 10/30 21:36
kingleo28: scad 10/30 21:36
Wush978: 很想點名某大大來回應這個問題XD 聽說lasso挑重要變數 10/31 12:58
Wush978: 已經被證明挑不好 10/31 13:04
Wush978: 但是我也只是聽說,還是以其他做相關領域的大大的意見為 10/31 13:04
Wush978: 主 10/31 13:04
kingleo28: LASSO會有BIAS的問題(FAN and Li, (2001))有類似討論! 10/31 14:09
kingleo28: 但在計算上相對容易許多,如真要考慮L1族 10/31 14:10
kingleo28: r建議試看看Adaptive lasso(Zou, (2006)) 10/31 14:11
kingleo28: 有段時間沒研讀這方面文章了,我只能就我以前讀過講... 10/31 14:13
kingleo28: 現在用PENALTY來做變數選取進展如何 我也沒辦法知道全 10/31 14:14
kingleo28: Runze Li. Jianqing Fan, Tibshirani這幾位大師的網站 10/31 14:17
kingleo28: 可以看看 會讓您知道目前這方面的技術進展如何 10/31 14:18
感謝 其實做data mining本來就要多嘗試各種方法 各位提供的意見 , 我會去試試看 看哪些方法能用在我目前的問題上 我用lasso的好處是因為 , 他是直接抓重要變數 , 這樣比較容易知道哪個重要 其他降維方法 降了之後會不清楚哪個變數比較重要 像PCA 是去找特徵值 線性轉換等等 這要直接解釋哪個變數重要 比較困難 當然其他降維方法也會做,最多一起report ※ 編輯: f496328mm (111.70.29.240), 10/31/2016 17:16:58
kingleo28: 那我建議您參考下SIS 這個package,應該會有幫助! 10/31 19:58