JokerCatz
3 weeks ago
Install Ollama and Open Web-UI using Docker on Ubunt...這份絕對是最快的 linux AI 體驗,已驗證
latest #6
JokerCatz
3 weeks ago
lxc 的話,host 要裝 driver 然後把 /dev 和 /proc 的 nvidia 系列都 mount 到 lxc 內,然後

nvidia-container-cli: mount error: failed to add dev...
lxc 內要裝 nvidia-container-toolkit 然後把 /etc/nvidia-container-runtime/config.toml 中的 no-cgroups = true 設定進去,就能學這篇的 docker 內跑 nvidia 的 GPU
JokerCatz
3 weeks ago
然後我正在向 llama3.2:3b 問怎樣操控 ollama ... X"DD .. 我的是舊款的 4070 (12GB) 速度好棒棒
JokerCatz
3 weeks ago
Setup這份基本上也急速安裝,然後可以配 Open Web UI: Run local chat app with Image Generatio... 這篇後面的 ENV 方式,連回 OpenWeb UI 內 ...
立即下載
JokerCatz
3 weeks ago
GitHub - mcmonkeyprojects/SwarmUI: SwarmUI (formerly...這個超讚,無腦安裝,不過模型還是要自己下到定位就是了 ...
JokerCatz
3 weeks ago
https://images.plurk.com/6xzRVlszIXoCe7sxxWg3dH.png 這界面真的酷炫
JokerCatz
3 weeks ago
https://images.plurk.com/5nsaybCK4cVjFWfMltBAWd.png https://images.plurk.com/6uCNZggQguAHIaIfLNicLV.png https://images.plurk.com/1nvo38KkzzKvMfFg56vWhk.png 感覺能取悅女鵝,讓她每天有看不完的獨角獸
back to top