[請益] 請問學習人工智慧的教科書

[TheLee (大佛布魯斯)]

先說一下自己的背景:

1. 碩士的領域是image/video compression
   長期(>10年)以來做的都是embedded Linux相關的工作

2. 對人工智慧及deep learning相關的知識有很大的興趣
  工作之餘也自學了一些(看了市面上的幾本原文書)
  目前對於基本的觀念及操作應該知道一些:
  downloading data, training data model, testing data model.

3. Computer vision 應該有一些基本的功
   看了一些OpenCV的書, 操作過一些案例

一來因為不是computer science/engineering的本科
二來因為過去工作上完全沒有機會用到以驗證所學

自認為還有很多地方不足,
考慮到學校的課程安排應該會比較嚴謹些
因此想試著把學校的學習路程走一次...

不知道有沒有人的碩/博士論文是跟AI/ deep learning相關的,
A. 能否建議一下, 哪些書(作者)是基本必讀的?
B. 有考慮到台大去旁聽課程, 能建議哪些課?


想利用下半年的時間全力(full-time)補足這個領域
人生的最後階段不想再演了
想做有興趣的事

先感謝各位帥哥美女的建議
祝大家都發大財



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.240.176.246 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1561255554.A.B32.html
→ labbat: 好奇問motion compensation或慢速攝影應用 還有發展嗎
motion compensation是video encoding/decoding的一部分
video codec是否發展到盡頭? 任何技術都有盡頭的一天.
最後都只是微調, 針對不同的應用去微調.
motion compensation牽涉的技術可應用到其他領域
例如, motion object detection.
就學校的教育來看, 它仍然是一個學習的重點.
(離題了, 回到主題)

推 jj0321: Andrew NG、花書
→ MOONY135: ....我覺得現在門檻很高.....然後吃學歷也很高 就算是四
→ MOONY135: 大碩本科 也不一定十拿九穩吧 何況半年
推 tipsofwarren: Linux 給技職系統學生就可以做很好，快點换到障碍
我可不敢像你這麼說 XD
Linux的ecosystem太廣, 太深...

→ tipsofwarren: 高的ML是對的。PRML 是很好的書。
"Pattern Recognition and Machine Learning" 好像是Bible.
Thanks.

※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 11:26:26
→ ap954212: Cs231n
"CS231n: Convolutional Neural Networks for Visual Recognition".
10週的課程.
Thanks
※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 11:41:59
推 musie: Goodfellow 的 Deep learning呀
→ musie: https://developers.google.com/machine-learning
看來規劃的不錯
Thanks

推 TWkobe: Linux太簡單？？黑人問號
推 mirror0227: 水管搜尋李宏毅
Thanks
好像是很熱門的選課, 太多人上課
先抓以上三項建議, 聽老外的線上課還可以順便複習英文 ：）

推 aas5566: 說技職就能懂linux是在開玩笑嗎哈哈
※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 13:07:58
推 tipsofwarren: 李宏毅不太建議，VAE,GMM,EM不夠深入或沒教到。
推 tipsofwarren: Probalistic Model 需要更強大數學背景，值得研究。
說到這裡, 有個問題困擾我很久了...
常聽到有人說"AI這個領域很吃數學"
我自學deep learning到現在, 大概就觀察到下列三項是需要的:
Linear Algebra, Probability and Statistics, Calculus(基礎的)
是因為我目前接觸到的還太基本?
就本身EE的背景來看, 電波組或通訊組的數學經歷應該是足夠的
如果對所提到的這三項還可以應付的話, 有其他的數學科目要求嗎?

→ tipsofwarren: 但是常會被打敗而沮喪
推 cool9203: 推李鴻毅，我猜上面是說用linux不難，但想寫出來就是很
→ cool9203: 大的問題了QQ
※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 15:35:43
推 thefattiger: 不覺得有多吃數學，我也是理科轉到ML/DL領域
噓 NTUCS5566: tipsofwarren: Linux 給技職系統學生就可以做很好  ??
→ thefattiger: 要看他背景啦，我類EE背景出來的轉ML是0障礙
→ thefattiger: 但學linux或os相關就有比較高的門檻要跨
的確, 為了學Linux,
我還特地去看Computer Architecture和Operating System的教科書

推 bulc381: 吃不吃數學也跟領域有關 偏應用類的paper相對容易 反之像
→ bulc381: ICML一些重推導的paper就會用到在工科系課綱可能不會太注
→ bulc381: 重的數學工具 例如Lp-space、"almost everywhere"的概念
→ bulc381: ，Bayesian的工具例如sampling, variational inference在
→ bulc381: 工學院的機率統計也不見得會碰到
嗯, 大概了解
除非因為要投paper而需要用到特別的理論或演算法之外
只要學如何應用的話, 那三項基礎的數學應該是夠用的吧?

推 shownlin: 不用去旁聽，網路上都有去也只是放影片給你看...
這我有經歷過, 以後也許學生不用去教室上課了...

推 mirror0227: 李宏毅的確省略很多數學，但原因是那是一學期的衝深度
→ mirror0227: 學習的速成課程啊XD 那可以另外補，對我來說不構成不
→ mirror0227: 推薦的原因
必有過人之處才值得你推薦
我會先看他的Youtube, 同語言的學習可能會省些時間
Thaks

※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 17:46:18
推 Kazimir: EDX現在有一門MIT新開的ML 剛開始而已 我正在上所以不知
→ Kazimir: 道好不好
感謝提醒, 忘了還有MIT :)
最近在看他們的Algorithm課程, 教的真不錯

http://machinelearning.mit.edu/classes2.html

會試著研究如何跟上所列的課程
此外, 他的"Preparation"剛好也解決了我對於數學要求的疑惑

謝謝各位參與討論!
※ 編輯: TheLee (111.240.176.246 臺灣), 06/23/2019 18:11:17
推 qoozxc789: 李宏毅 覺得想再深入一點就林軒田
推 sttagomantis: 這個list提供不少國外課程資源供你參考
→ sttagomantis: https://reurl.cc/qAn4N
推 sxy67230: sampling在工科消息評估還是蠻常用到的，小弟碩班是走HM
→ sxy67230: M的研究，所以sampling 都還是要學，反倒是變分推理其
→ sxy67230: 實變分推理也是從EM拓展出來的。
→ sxy67230: ML我自己從業那麼久，我反而覺得他還是被框在shnnon的
→ sxy67230: 消息理論框架裡面。
推 tipsofwarren: 樓上真強人
推 abc53: 李宏毅課上完 作業寫一寫 然後找有興趣的paper實作
推 coco123: 感謝分享
→ sxy67230: 李教授的課我自己是會看啦，畢竟這學期的課還是蠻優的，
→ sxy67230: 後面介紹很多新模型。畢竟工作以後，真的使用到的模型
→ sxy67230: 類型越來越窄，meta那章我自己之前真的了解的就siamese
→ sxy67230: 而已，看完教授的課才比較有機會認識幾個比較新的模型。
推 sxy67230: 想做nlu的可以去看最新教授transformer、bert那章，不過
→ sxy67230: 教授應該也是礙於時間沒有把bert講得很完整，像bert隨
→ sxy67230: 機mask，其實是想做denoise autoencoder，這個跟LM模型
→ sxy67230: 有承先啟後的關係，要完整從elmo的脈絡一直接下來，最
→ sxy67230: 後就是今年剛出來的transformer XL模型。
推 kumitang: 我個人覺得吃不吃數學真的很看你做哪一方面的耶，有些真
→ kumitang: 的數學推導很多，有些真的沒什麼數學
推 DJWS: google awesome deep learning
推 CaptPlanet: 李宏毅和林軒田，搭配 kaggle 實際練習。
推 CaptPlanet: 基礎有了就多看新的 paper 知道一些新的架構是怎樣設
→ CaptPlanet: 計的，然後自己試著刻看看。