刷題有感之2, 訓練用眼睛debug的能力, 意思是面試時可沒有IDE和compiler, 更不可能讓你加個printf, printk來看中間的過程. 當寫出程式碼之後要檢查有沒有問題, 或被點出有問題的時候, 就只能用眼睛看和腦袋跑程式. 所以這個能力應該很重要吧?

刷題有感之1, 程式語言其實就像人類語言, 只是溝通的對像是電腦而已, 如同人類語言, 有語法有句型有片語成語等. 人類至少會精通一種語言, 所以工程師至少也要精通一種程式語言. 遇到問題可以流暢地先寫下第一版是最重要的. 如果寫一寫就卡住, 要查語法查API. 豈不是就像人類要寫一封信, 寫一寫卡住還要查字典一樣?

我個人覺得黃國昌並不在意打不打得贏憲法訴訟，他只是把憲法法庭當他的個人秀場而已。

雖然在預料之中，不過這幅度也太驚人了。2016年發生的事會不會再度發生呢？

昨天和老爸的對話.
我: 爸, 你今天看起來精神很好啊.
爸: 我每天精神都很好.
我: 是吼, 那我叫什麼名字?
爸(秒回): 不知道
我: 那你叫什麼名字?
爸(秒回): 不知道

有位大哥建議我可以再練強度更高的游泳. 例如50公尺包干1分鐘, 浮板打水或者長距離等. 當下雖然我表明心有餘而力不足. 或許長距離例如1000公尺不落地是可以列為優先達成的項目. 然後包干50公尺1分鐘, 終極目標二者合併1000公尺20分鐘游完.

紀錄一下, 2024年開年, AI大神們的演講或訪問最重要的有三場.
1. Jeff Dean在Rice Universtiy的演講.Jeff Dean (Google): Exciting Trends in Machine Learn...2. Yan Lecun接受Lex的專訪(3小時)Yann Lecun: Meta AI, Open Source, Limits of LLMs, AG...3. Geoffrey Hiton在Oxford University的演講Prof. Geoffrey Hinton - "Will digital intelligence r...

如果要說Nvidia一開始就在AI列車上嗎? 那倒也未必, 推測從Hinton做研究, 一開始應該是沒有得到Nvidia的幫助, 因為當時他們還是要有經費去買GPU. 甚至Hinton進入Google之後, Google內部也沒有可以用的GPU, 或者是說幾乎沒有GPU. 大部分的Google人並不理解明明公司有這麼龐大的運算資源卻被說成不能用. 但是在Jeff Dean的背書之下, Google就開始了GPU的布建. 最終以這本書的資料來看, Google的服務背後有著4萬顆的GPU在運行支持. 也許這就是CPU和GPU死亡交叉的開始.

Hinton等人在拿到ImageNet的比賽冠軍之後, 他成立了一家公司, 就叫DNN並且在只有論文, 沒有任何產品的情況之下公開標售, 標售過程這本書裡描述得非常生動, 緊張刺激, 諜對諜不斷上演. 最後這家公司被Google以4400萬元得標. 而當時的微軟差一點點沒有標到. 後來就開啟了Google在人工智慧領域的大幅領先, 一直到微軟借著OpenAI彎道超車為止. 而從Hinton參加ImageNet開始, Nvidia的GPU就開始如同上戰場不能沒有的槍一樣, 必須如影隨形. 我相信這就是這一波AI海嘯的開端, 到目前為止都還看不到終點, 或者說它根本就沒有終點, 就像地嗚要踏平全世界一圈一樣.

我個人覺得當初沒有下定決心走神經網路學派的人沒有趕上這個浪潮也是很正常的. 其實後來看到有很多台灣枱面上的人物跳出來說自己以前在學校也是研究AI的. 大概就可以猜出以前可能是走Minsky學派或是受不了AI寒冬而轉行的. 現在看到AI浪潮起來了, 才趕快把以前的招牌擦亮再拿出來. 但是其實真正賺到的還是只有Hinton和他的學生或搭檔們.