Re: [問題] 爬蟲RequestURL的取得

[unhumanWu (阿文)]

※ 引述《unhumanWu (阿文)》之銘言：
: 大家好，初學爬蟲
: 最近在蒐集以下網址店點相關資訊
: https://www.aptg.com.tw/store/
: 我是透過區域查詢(縣市及鄉鎮市區)的方式來搜尋店點
: 發現他每個鄉鎮市區都會回傳不同的Request URL
: 各行政區的Request URL長相大概像下面這樣：
: https://imgur.com/a/9qK7J
: 想請教有沒有方法可以知道網站全部行政區的Request URL
: 感恩！

類似的狀況也發生在下面的網址
就是不同行政區回傳不同的Resquest URL


雖然可以手動查，但想知道也沒有其他方法

感恩～

https://www.tstartel.com/CWS/storeLocation.php

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.136.66.131
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1507513905.A.9F4.html
→ s860134: F12 直接看他　js source code
→ s860134: 他把原始碼都放在上面了，你 try 幾個應該就有了
→ uranusjr: %E4%B8%AD%E6%AD%A3%E5%8D%80 => 中正區 的 URL encoded
→ uranusjr: format, 以下都是一樣, 可以直接用 urllib.parse 轉換
→ uranusjr: %E5%8F%B0%E5%8C%97%E5%B8%82 => 台北市
結果我後來土法煉鋼把各個城市的encode抓出來

https://imgur.com/wEYBDhe

但如果項目太多就傷腦筋了

來研究一下urllib，感恩
※ 編輯: unhumanWu (220.136.66.131), 10/09/2017 19:01:36
→ neil987: https://i.imgur.com/9aWFl7i.png 給你參考
→ s860134: python3 只要 urlib, python2 散布在 urlpares 和 urlib
推，原來是這個意思
※ 編輯: unhumanWu (220.136.38.63), 10/10/2017 09:06:50
※ 編輯: unhumanWu (220.136.38.63), 10/10/2017 09:17:18