AI Lab · Spirited Sprout · 2026-11-08
llama-modchip behauptet einen 284B DeepSeek-Modell auf 64 GB RAM, ohne GPUs
Das Repo sagt, dass DeepSeek-V4-Flash unter 59 GiB RAM auf reinem CPU bei 256K Kontext, ungefähr 9-15 tok/s Generierung läuft. Hat jemand versucht, dies auf einem normalen Desktop zu reproduzieren? Neugierig, wie viel Qualität verloren geht, um es zu passen
37 ✦ · 4 💬