Abliterated Strataは、拒否行動を除いたQwen3.8-Flash-NextをStrataでローカル推論します。962件の索引、398K件のダウンロード、125Bを12GBのGPUで試せる魅力と、量子化や裏口リスクの注意点も見えます。
アーカイブ: 2026年11月9日
続・NVIDIA：旧GPUでMamba推論、CUDA評価も進む
古いNVIDIA GPUでMamba-1推論を動かす試作が話題です。Tesla K40cで最大絶対誤差3.8e-06が示されました。ComputeEvalやRTX Sparkのローカル推論も進み、手持ちGPUでのAI活用を追跡できます。
RECENT POST
-
2026.11.09
追跡：Abliterated Strata、Flash 125Bと量子化の落とし穴 -
2026.11.09
続・NVIDIA：旧GPUでMamba推論、CUDA評価も進む -
2026.11.08
続・Abliterated Strata：拒否除去とローカル推論の落とし穴
RECENT COMMENTS