[問題] 在不同csv檔管理重複資料的方法

[leog123456 (N/A)]

Hi 大家好 想問一個觀念題

我有一個其他程式每天會固定輸出一個固定格式的csv到固定的資料夾

我目前已經實現用dataframe把當日新的csv內重複的資料刪除並保留最新的 並將每天處
理過的csv
另存到其他資料夾並自動上傳到雲端

ex：
人名,穿著,時間
小明,黃色衣服,17:50 6/18
小明,紅色衣服,18:50 6/18

根據同樣的人名小明 只保留最新時間的資料的小明紅色衣服資料 刪除舊的小明黃色衣服
的資料

但我現在遇到的問題是如果有跨csv的重複人名資料 ex小明可能會出現在前天6/16的跟今
天6/18的csv 我要刪除舊的重複資料就會有難度 請問有沒有比較好的方法來去做管理？


for loop把所有csv read到同一個df感覺沒有有點不切實際？因為我有非常多csv檔

謝謝

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.135.236.153 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1655512267.A.127.html
※ 編輯: leog123456 (111.243.105.216 臺灣), 06/18/2022 08:37:29
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 08:39:38
推 celestialgod: https://tinyurl.com/2p82xp72
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 08:40:15
→ celestialgod: 最好的方式是用資料庫存資料
謝謝 目前已經是用類似的方式處理單筆csv內的重複資料 但是我的問題是跨不同csv的重
複資料
推 lycantrope: df.groupby("人名").sort_values(by="時間").last(1)
→ lycantrope: 記錯groupby沒有sort_values
推 lycantrope: sort跟groupby對調就可以了
謝謝 已經會處理單個csv的 想要討論如果我有非常多csv有什麼好辦法嗎？全部import
到一個df的話我還有辦法照原本csv output 出來嗎？ex. 10個進去 10個出來 這樣
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 10:23:12
推 lycantrope: 是不同csv file整理一起同步更新嗎?
→ lycantrope: concat前把個別df加上filename，concat處理後，可以
→ lycantrope: 再個別輸出csv也是一種方法
好的 來試試看 謝謝！
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 12:14:31
推 celestialgod: 建議直接把csv全部存進去sqlite 處理
→ celestialgod: 就好 這樣比較簡單
謝謝！會研究看看
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 16:25:40
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 16:26:54
→ longlongint: 建索引啊 key 出現在哪些檔案
→ longlongint: 然後你會發現「存多個csv」這個性質你要思考一下
→ longlongint: 建議資料庫啦 但你又下了一個有矛盾的強大限制
謝謝 的確有一點麻煩 每天都會有一個csv產出 然後我有程式每天自動去修改當日(datet
ime==today)產出的csv
然後上傳到server再做圖 但難處就在今天新建的csv內有跟先前上傳過的csv內有重複的
資料(小明) 所以造成那麼矛盾的問題 不好意思
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/19/2022 23:31:43
※ 編輯: leog123456 (111.243.141.44 臺灣), 06/19/2022 23:34:58
推 bills1987: DB建Pk by 日期&其他欄位