作者nina8598 (Nina)
看板R_Language
標題[問題] 移除WordNet以外的字
時間Wed Dec 13 22:43:20 2017
[問題類型]:
我想用R 做某件事情,但是我不知道要怎麼用R 寫出來
[軟體熟悉度]:
新手
[問題敘述]:
小妹最近在做資料清理
但資料來源是社群網站的留言,所以有很多不同的語言和沒有意義的詞
我已經把非英文的字刪掉了,如下方程式碼 (files是指多個txt檔)
for (i in 1:length(files)) {
files[[i]] <- gsub('[^ -~]', '', files[[i]]) # remove non-English
}
wordcorpus <- Corpus(VectorSource(files)) #形成我的語料庫
但還是有詞是由英文字母組成的其他國家文字留著(例如德文Spielzeug、波蘭文Zabawki
…),或是留言者打錯字等無法意會的詞留著
因此我想用R的package “wordnet”
讓我的資料內容對應WordNet字典裡的詞,
只要不是屬於這字典裡面的詞就移除掉,
但我實在是不知道該怎麼做,想請問有高手可以解決嗎?
另外想請問如果要用這個方法要先把詞形還原嗎?如果需要又該如何做呢?
剩下的一般移除停止詞、數字、標點符號我都ok,
就剩這些問題需要解決,麻煩大家幫幫忙了謝謝~
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.204.10.15
※ 文章網址: https://www.ptt.cc/bbs/R_Language/M.1513176203.A.4BD.html
→ kial: 找個常用3000字或5000字做成索引,用grepl篩選出來? 12/14 20:05
→ kial: 或是切完後算出現次數,對出現次數少的單字建索引篩掉? 12/14 20:08
推 cywhale: 如果用hunspell package 把拼錯有疑問的字全部找出來? 12/14 20:27