[問卦] Tensor是尖尖還是扁扁？

[Supasizeit (Shitpost King)]

Tensor一般認為是扁扁的

放進transformer 疊起來很方便

還可以隔開做張量並行

但是訓練得好的話

少數幾個 token 拿到很高的權重

其他接近零

這樣就會尖尖的

所以Tensor尖尖好還是扁扁好

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.204.195.174 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1773812804.A.51D.html
推 ispy03532003: 尖尖
→ bobocatcat: 尖尖肛
推 Allen0315:     Tensor尖尖光
→ vowpool: Tensor 尖尖...光
推 abc0922001: 天色G5
推 marktak: 漸漸……
推 misthide: 尖尖哇嘎奈
推 rant134: google手機對吧 我知道的!
推 ulli: 尖尖剛 剛好
→ allen0981: 頭頂尖尖
推 yihao: 小八為什麼都尖尖
推 ImaiLisa: +5幾頂郎
推 ccjj8: https://i.imgur.com/LodJzJR.jpeg
→ doig: https://i.imgur.com/abPZvbD.jpeg
推 Osmium: 笑死
推 Melmetal: 有料
推 skuderic: 尖尖
推 abeliangroup: 這也行
→ ffxx: Team Taiwan!!
推 tim96tim: 尖尖
推 ptttpt: XDDDDDDDDDD滿好笑的 靠北
推 hurompton: 遮舞一陣婷呆丸
推 kersihi: +5幾頂狼
推 beeboombee: 甲五擠頂狼
→ mycity: 今天諧音梗吸收太多了...