🎯 Faster decoding with DSpark draft tokens and confidence-scheduled verification (default max draft length: 5). SWA bounded replay cuts decoder prefill work by replaying only a bounded suffix
🔒 Batch-invariant inference keeps results identical across batch compositions, deterministic sampling returns identical outputs for identical inputs and seeds (both NVIDIA only). Structured outputs constrain generation to regex, JSON schema or EBNF grammar
Oh, wie seltsam:
> But looking at the average number of likes his [Musks] posts have been receiving does raise eyebrows. Throughout October, his posts garnered an average of between 17,000 and 81,000 likes per day — until the past two days, the averages slid to a dismal 11,000 and 8,000, respectively.
Mit dem Titel: Lasst die Freien nicht fallen! haben mehr als 500 feste und freie Mitarbeiter im Deutschlandfunk einen offenen Brief unterzeichnet. Darin geht es darum, dass der #Deutschlandfunk mit einem neuen Programm die bisherigen täglichen Fachmagazine abschafft. Bisher ist noch weitgehend unklar, wie künftige Mitarbeit aussehen soll, so die Kritik.
https://mmm.verdi.de/medienpolitik/programmreform-im-dlf-freie-wehren-sich-110215