Hacker Newsで、古いTesla P100を2枚使いQwen3.8-27Bを約60tpsで動かした報告が話題に。V100向けにはソフト復号のNVFP4版も登場し、17.6GBの重みを2枚に分割して動きます。旧GPUで新モデルを動かすローカル推論の実例を整理しました。
RECENT POST
-
2026.10.24
話題の「Strata」は実は3つ?長文推論の高速化と量子化をめぐる動き -
2026.10.24
続・Gemini Agent追跡、単一エージェントが仕事の入口に -
2026.10.24
続・Gemini Spark追跡、24時間エージェントの使い道と慎重な権限設計
RECENT COMMENTS