[請益] 資料庫connection太多導致回應變慢

[stevekevin10 (steve)]

工作上遇到了一個找不太到原因的狀況

語言: Java mybait


新增了一個功能後

endpoint A:
下面有一個method大概會打DB query 200次

這時
endpoint B 的repsonse也跟著大幅增加 (endpoint B會打DB約1000次）

這有什麼可能的原因造成的呢？

* endpoint B 沒有去call 新的method 沒有增加query次數

* 有懷疑是connection pool 爆掉
但不知道該如何debug
且當我部署完 沒去call A的時候
單純call B速度也一樣變慢（沒有call A應該沒有建立connection….吧？）



更新*
的確是n+1問題沒錯
但我困惑的不是該如何解決...
而是為什麼n+1的地方在method A但B會影響

我會覺得是connection pool的問題是因為
執行B的時候並沒有跑到A那段的code
他這裡面不會有一些slow query的情況
目前唯一能想到的就只有

1.
可能打A的時候connection pool 被佔滿了
打B要重建導致速度變慢

Q1.1 不確定mybaits打不同表的connection是不是要重建？還是一樣重pool裡面撈就好

Q1.2 剛部署到新機器上後，沒call過A單純call B也變慢


2. DB被太多query連線導致速度變慢

Q2.1理論上DB應該沒有那麼弱...而且他是在測試環境 只有我當下的單條request

Q2.2 同1.1


怪哉 T.T

請各位大大提供點看法

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.85.180.114 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1658431317.A.D01.html
推 drajan: 看 DB concurrency query的數量 DB很常成為瓶頸
推 keel90135: 你這個一定要try跟看才知道，沒有資深的同事可以問嗎?
推 sniper2824: 業務邏輯一定要查這麼多次？
→ bill0205: 八成DB Query太過於頻繁 不然200次太誇張
→ day831231: 1 個 Endpoint call那麼多次，我猜可能是 N+1 queries
→ choYM: Pool設定沒寫出來 db開多少個connection給妳也沒說 大家也
→ choYM: 只能隔空抓藥啊… 另外這兩個entrypoint 要打那麼多次sql也
→ choYM: 蠻怪的…
推 s06yji3: 是一個request會query DB 200次嗎？用endpoint 打DB幾次
→ s06yji3: 很不精確...
推 jack0204: 我猜這是n+1的問題，不然怎麼可能打這麼多次
推 ricestand: 大概就n+1了
推 godddddd: 200個指令長怎樣 看能不能減少
推 bill0205: 我也覺得是N+1 如果是mysql 就看slow log
→ ntpuisbest: https://i.imgur.com/U8cJUgu.jpg
→ ntpuisbest: 看一下有沒有在loop裡面查sql
→ iamshiao: 可以想想有沒辦法把 200次濃縮成一次
→ iamshiao: 新功能有改 DB 結構嗎？ 用預存程序跑嗎？ 可以清掉執
→ iamshiao: 行計畫再跑看看
→ yfr: 原來是debug，我還以為是通靈，以下開放第一屆天下通靈大會
推 WaterLengend: 打這麼多次要不要先濃縮看看
推 ChungLi5566: 請DBA幫忙看 有工具可以監控SQL指令效率
噓 MoonCode: 看內文不懂你如何推論並猜測conn過多
→ worf: =.=
→ Uzak: N+1
→ MonyemLi: 雖然不好但也還好，n+1的對象基本上是pk查詢。這該不是
→ MonyemLi: 主要原因
噓 s06yji3: 資訊太少，補噓一下。上班已經在通靈了。
推 guanting886: DB沒這麼弱啦.. 若單純是 select 有正常打上索引、
→ guanting886: 有用到主鍵，query 時間都<1ms
推 guanting886: 建議先用EXPLAIN語法去檢查一下
推 gmoz: 懷疑connection數量 不會直接下指令看連線數嗎
推 mathrew: T-SQL寫太爛吧
→ mathrew: 先確認執行計畫的狀況
→ KY1998: 不知道業務規模，如果這個表資料只有1萬筆內，直接查全部
→ KY1998: 再用key去查詢
※ 編輯: stevekevin10 (223.140.170.71 臺灣), 07/22/2022 23:39:34
→ dark10108: 會不會query一直建新的connection
→ dark10108: 或connection pool的idle time設定太短
→ alan3100: 從DB查不就好了 幹嘛在那蝦矇猜問題
推 fifi82726: DB就是這麼脆弱 請優化200個query的部分
→ ChungLi5566: 有DB的監控工具可以用 不用這樣瞎猜
→ ChungLi5566: 可以看到每個階段耗費幾毫秒
→ lchcoding: 讀了你的更新，我只對Q1.2感興趣
→ lchcoding: 在B裡面加些log,準備做時間分析
→ lchcoding: 然後跑（未加新功能）前，所謂正常狀況，跟（加新功能
→ lchcoding: ）後，你所謂的變慢，請先回答慢在哪裏，解bug的方向才
→ lchcoding: 會出來.用射擊法解Bug,情緒常常會像心電圖那樣.還有一
→ lchcoding: 種方法是用圍捕的
感謝 太疑惑忘記基本的方法找問題了T_T
噓 pttano: 不是db太慢是你的code太爛，不是多條魚是多餘你
→ pttuser2266: 有沒有加欄位，or 改 table schema, 1 個 sql query
→ pttuser2266:  慢 1ms, 1000次就慢一秒了
→ acgotaku: 你有做讀寫分離嗎
→ acgotaku: 而且你這情況 八成是每次任務都創建一個連線
推 hegemon: 會搞到N+1通常的code寫得爛..
樓上有幾位別火氣那麼大～
我的問題一直不是在該怎麼解決速度
或是為什麼這樣打速度會變慢
主要問題是疑惑為啥改A會影響到B速度
※ 編輯: stevekevin10 (219.85.180.114 臺灣), 07/25/2022 12:28:02
→ acgotaku: 你db用同一台呀 你去打B的時候 監測db server的cpu,mem
推 drajan: 因為你A跟B有共用的 component 也就是DB 你沒有其他工作上
→ drajan: 的資深工程師可以問嗎？任何一個有點程度的應該都可以看得
→ drajan: 出來問題在哪裡
推 internetms52: connection pool 不夠大是有log可以看的，如果是a
→ internetms52: 的進行過程中b變慢，那應該存在一個很長且耗資源的
→ internetms52: 查詢在前一個未結束前，不斷累積
推 internetms52: table lock 也有可能是讓短查詢變長的原因