作者ms0344303 (我不玩了)
看板Python
標題[問題] Api到DB的即時資料串流
時間Wed Apr 13 11:32:59 2022
如標題
敝人有一個case需要定期從某個api取得資料 稍微處理 並塞入到指定db中
同時往後有其他api資料來源的話因為格式可能不同
需要做針對異質資料來源其他處理模組 整合成統一格式再塞入
簡單來說就是整合異質資料並同質化的data loader
除了用比較土炮的爬蟲腳本服務化之外
還有比較好用的方式嗎
企業方向的解決方案也可?
感謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.11.173 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1649820781.A.E9D.html
推 celestialgod: AWS lambda, Azure Functions, Azure Logic App 04/13 12:17
→ k1988771028: 本來就有linux的話可以用airflow 更陽春的話crontab 04/13 13:14
→ Hsins: 同樣的需求,規模大小會有差異 04/18 22:42