打狗Tony
1 weeks ago
郭明錤的蘋果消息正確率很高,值得關注

https://www.ctee.com.tw/...

郭明錤指出,蘋果的私有雲AI模型(Private Cloud Compute;PCC)基礎建設建置,將隨高階M5晶片量產後加速,因其更適用於AI推理。BESI的Hybrid bonding設備將受益於Apple高階M5晶片SoIC封裝。
打狗Tony
1 weeks ago
這很有意思,目前的MacBook pro 最高階的 CPU 選項 Max,最高可以把記憶體加到 192GB,而且MacBook 的設計還是可以讓 GPU 共享系統記憶體,不像 NVidia GPU 卡只能吃自己卡上的記憶體,一般消費級的 GPU 卡最多 24GB,即將要開賣的 5090 最多36GB,只有資料中心級的才可以到72GB 144GB 94GB 188GB這種數量級,要運算 LLM 演算法才跑得動,不過價格也從幾萬元直接跳到百萬元20倍的差距
打狗Tony
1 weeks ago
但是拿筆電放在機房跑 AI 模型訓練跟推論,總覺得怪怪的,Apple 之前已經有試水溫推出 Mac Studio 機型了,是針對高階桌機的客戶設計的,但是也有偷渡伺服器的功能在裡面,只是Studio 系列很久沒更新了,現在還是用 M2 系列 CPU,未來不管是新推出伺服器等級還是單純升級 Studio都是不錯的選擇,Studio 頂級規格不到30萬,遠不如一張H100 的卡,算很便宜了
立即下載