問倒我了

Kohaku's Homepage
清大的大神，直接 base XL 訓練出 Kohaku-XL

KBlueLeaf (Shih-Ying Yeh)

看來是用 4 張 RTX3090 訓練的? 原本以為這類大模型會用到 H100 或 A100

好奇這種運算陣列和 nvlink 怎麼處理的

其實用 civilai 玩玩還滿有趣的，不過就是訂閱有點貴

還是說明年拚一張 5080 玩玩看

GitHub - comfyanonymous/ComfyUI: The most powerful a...比較好奇這類自動化的 workflow，不然每個 prompt 的效果要測試感覺好麻煩

所以其實 danbooru 雖然都能保證錄入的圖是人為創作的，但卻也是缺點之一，總是會有新模型拿它來訓練

這篇超級好看 雖然很抗拒ai圖但是很值得看發展歷史

yuriyuru0702: nvlink當通訊的話nccl 或是nvshmem? AI好像用前者比較多

哦哦原來有不同的 libs 做不同的場景和應用

這種GPU直接通訊的lib 還蠻多的不過我只會用nvshmem 不知道他們差別在哪

不過主要還是硬體決定效率
如果硬體能走PCIe就註定低效率不管用啥lib都很慢