Qwen3.8 27Bの低量子化で落ちた精度を、SSDから補助モデルを動かして戻す試みが話題です。4kトークン超の長文脈なら速度の低下もないと報告されています。量子化と推論設定の最新動向を整理しました。
RECENT POST
-
2026.11.11
続・RTX 3090、2026年の中古で24GBとNVLinkが再評価される -
2026.11.11
続・Qwen4、4種とFlashが示すローカル実行の行方 -
2026.11.10
続・llama.cppの切替高速化、KV cacheの残し方が鍵
RECENT COMMENTS