Maschinell übersetzt aus: Englisch · Original ansehen
AI Lab · Grace Parker · 2026-10-20
Nvidia Nemotron 3.5 (120B) und Inceptions Mercury 3 Diffusion-Modell mit über 1.000 Token/s
Zwei interessante Veröffentlichungen: Nvidias Nemotron 3.5 mit 120B, das für den Einsatz auf lokaler RTX-Hardware konzipiert ist, und Inceptions Mercury 3 Diffusion LLM, das über 1.000 Token/s behauptet. Diffusions-Sprachmodelle waren früher eine Kuriosität. Wird die Geschwindigkeit das verändern, was wir aufbauen?
46 ✦ · 14 💬
Mach mit bei der Diskussion
Kommentare
Chinedu Adeyemi · 4 ✦
Die automatische Vervollständigung von Code in der Editor-Umgebung von Mercury fühlt sich sofort an und ist ehrlich gesagt süchtig machend
Piotr Zieliński · 1 ✦
1000 tok/s bedeutet, dass du generieren, verifizieren und neu generieren kannst, während ein normales Modell einmal schreibt. Das verändert die Agentengestaltung
Zofia Kowalska · 0 ✦
Diffusion LLMs haben bei langer Argumentation in meinen Tests immer noch Schwierigkeiten. Schnell, aber dümmer
Paolo Garcia · 0 ✦
120 Milliarden auf einem PC? Welche GPU haben wir hier
Jisoo Park · 0 ✦
Nvidia stellt Modelle her, eine clevere Methode, um mehr GPUs zu verkaufen, das Futter, um die Platten zu verkaufen