[問題] 隨機森林

[SFMAndroid (安卓發送)]

[問題類型]:

程式諮詢(我想用R 做某件事情，但是我不知道要怎麼用R 寫出來)


[軟體熟悉度]:
請把以下不需要的部份刪除
入門(寫過其他程式，只是對語法不熟悉)

[問題敘述]:

如題

最近在用randomForest這個package做分類預測 y是binary variable

跑出結果後用getTree抓其中一顆決策樹出來

輸出大概就是

left daughter  right daughter  split var  split point  status  prediction

這樣

然後有幾點想請教版友：

1. getTree的split pint判斷 stack overflow有人說

   若split point是2.5 則<=2.5往左走 >2.5往右走

   但是若split var是factor的話呢？

   像是三個levels "學生" "老師" "教官"

   若直接這樣getTree的話 split point那會變成亂數 ex. 3

   所以我後來試著給他數字  學生為1 老師為2 教官為3

   split point變成2.5 1.5之類

   但在解釋上說不過去 也無法套用stack overflow裡的人的邏輯

   若split var是年齡區間還可以解釋

   例如20歲以下為1 20~30歲是2 30歲以上是3

   split point為2.5時 我還能理解為<=2.5是30歲以下 >2.5是30歲以上

   當然 這是現階段的理解

   ex.

   set.seed(100)

   data <- data.frame(y=sample(c("好", "不好"), 100, replace=TRUE),

          x1=sample(c("學生", "老師", "教官"), 100, replace=TRUE),

          x2=sample(c("20歲以下", "20~30歲", "30歲以上"), 100, replace=TRUE)
           )

   library(randomForest)

   rf <- randomForest(y~., data=data, ntree=10, proximity=TRUE)

   tree <- getTree(rf, labelVar=TRUE)

   然後tree的結果就如上面所述

   請問我究竟該如何理解這個結果呢？


   (2015/07/25 09:39)

   補充：根據?getTree得到split point的解釋是

   x1有3個類別 split point若為3 則是指(1,1,0)

   因為1*2^0+1*2^1+0*2^3=3

   然後學生和老師都歸類到左邊

   所以判斷依據是"是否為教官" 否就丟到左邊這樣嗎？





2. 最後是畫圖的問題

   我在網路上找到一位網友自己寫了一個函式叫to.dendrogram

   程式附在下面

   但是畫出來的決策樹只有split point的名稱 ex.學生 教師

   可是我希望把split point也畫上去 ex. <=2.5, <=1.5等

   目前知道的繪圖有幾個package:rpart, tree之類

   但那都要用rpart或ctree來跑"一顆"決策樹

   然後再用package內的繪圖函式畫圖

   但是跟隨機森林的那10顆(ntree=10)決策數是不一樣的吧！

   不要求很精美的圖 主要是想修改網友的to.dendrogram的code

   弄成有split point的結果

   但是attr(rval, "edgetext")那邊一直搞不定@@

   或是這裡有大神能提供更好的解法

   感激不盡！！




總結一下問題

1. randomForest中getTree的split var為factor時 split point該如何判斷？

2. to.dendrogram的圖中 如何修改code才能把split point放上去？

這些問題困擾小弟好久了~"~

再次感謝


[程式範例]:

http://pastie.org/10311492


[系統環境]：

R version 3.2.1 (2015-06-18)
Platform: x86_64-w64-mingw32/x64 (64-bit)
Running under: Windows 8 x64 (build 9200)

locale:
[1] LC_COLLATE=Chinese (Traditional)_Taiwan.950
[2] LC_CTYPE=Chinese (Traditional)_Taiwan.950
[3] LC_MONETARY=Chinese (Traditional)_Taiwan.950
[4] LC_NUMERIC=C
[5] LC_TIME=Chinese (Traditional)_Taiwan.950

attached base packages:
[1] stats     graphics  grDevices utils     datasets  methods   base

other attached packages:
[1] tree_1.0-36         data.table_1.9.4    randomForest_4.6-10

loaded via a namespace (and not attached):
[1] magrittr_1.5   plyr_1.8.3     tools_3.2.1    reshape2_1.4.1 Rcpp_0.11.6
[6] stringi_0.5-5  stringr_1.0.0  chron_2.3-47




[關鍵字]:

randomForest 隨機森林 getTree

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.229.215.230
※ 文章網址: https://www.ptt.cc/bbs/R_Language/M.1437830114.A.120.html
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:15:34
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:24:00
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:26:49
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:37:25
推 ntme: 沒用過，但看pdf文件中說y是factor才作分類
→ celestialgod: 你可以給一個seed還有你R的版本嗎
→ celestialgod: 我這裡沒有試出來split point像你說的情形
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:40:34
→ SFMAndroid: seed設成100 R版本跟系統環境已補上 謝謝~
→ celestialgod: 你後面補的解釋應該沒有錯 1.的答案應該如你理解
→ SFMAndroid: 請問c大 那若predictor是連續變數的話 <=是往左
→ celestialgod: 不過seed一百我還是沒有看到6(攤手
→ SFMAndroid: >是往右沒錯吧？
→ celestialgod: 對
→ SFMAndroid: 抱歉 設完seed後我忘記改結果了@@
※ 編輯: SFMAndroid (36.229.215.230), 07/25/2015 21:46:32
→ SFMAndroid: 謝謝c大:)
→ celestialgod: http://tinyurl.com/pwtzucf
→ celestialgod: 上面連結是別人寫的plot.getTree
→ celestialgod: 有不少FUNCTION 下載之後 都source應該就可以用
→ celestialgod: 我就不測試了
→ SFMAndroid: 好的感謝c大 再請教一個問題 若x2多一個類別"清潔工"
→ SFMAndroid: split point得到9 (1,0,0,1)這樣 就是學生跟清潔工歸
→ SFMAndroid: 左邊 其餘歸右邊這樣？ 但我以為決策樹是二分(是否)的
→ celestialgod: 對
→ celestialgod: 每一個類別都有是否 所以有2^類別數那麼多個組合
→ SFMAndroid: 區分方式 像這樣是"是否是教官或老師" 不是就往左？
→ celestialgod: 類別比較麻煩 所以他要每一個種類做一個CHECK
→ SFMAndroid: 完全理解了 謝謝！！
→ celestialgod: 忘了講 剛剛那個我發現是一個套件
→ celestialgod: 應該可以用devtools:::install_github來安裝
→ SFMAndroid: 嘗試中 感謝:)
→ celestialgod: install_github("araastat/reprtree")
→ SFMAndroid: 下載成功了 又多學一招XD 謝c大