Diffusion LLM kann als Übertragung einiger Kernideen des "Diffusionsmodells" auf das Sprachmodell verstanden werden, indem Text in einer allmählichen ...
Physische KI bezieht sich typischerweise darauf, KI nicht nur Text, Bilder und Sprache zu verstehen, sondern auch in die physische Welt einzutreten, u...
Sparse Attention kann einfach so verstanden werden: Anstatt dass jeder Token alle Token betrachtet, sollte selektiv nur ein Teil davon betrachtet werd...
Synthetische Daten beziehen sich nicht auf "zufällige Chargen gefälschter Daten", sondern auf Trainingsdaten, die durch Simulationen, generative Model...
Testzeit-Skalierung kann so verstanden werden, dass dem Modell ein größeres Inferenzbudget, mehr Versuche oder mehr Denkraum gegeben wird, wenn es tat...
RLVR steht typischerweise für Reinforcement Learning with Verifiable Rewards. Der Hauptgrund ist nicht, dass RLHF gescheitert ist, sondern dass mit de...