Vllm unfortunately doesn’t support switching the model without a restart.

Offenbar ein nicht viel beachtetes Blatt dieser Postillon. Sonst wüssten das schon mehr Leute. Ich fänds ja angebracht, sowas entweder in der Schule oder wenigstens in der Fahrschule zu unterrichten.

It’s not, by far. But vllm or SGLang don’t support switching the model… such a shame.

Es gibt einen wirklich richtig miesen Trick wie man diese Geldgeneratoren austricksen kann. Eigtl fast schon zu schade das online zu teilen, am Ende macht’s jeder und die lassen sich was einfallen um diese Lücke im System zu schließen. Und wenn jemand fragt, dann habt ihr das nicht von mir…

Aber wenn man langsamer fährt als die maximal erlaubte Höchstgeschwindigkeit, dann sehen einen diese Geldraubtiere nicht und man kommt unbeschadet an ihnen vorbei.

deleted by creator