Macノート1台で、270億パラメータ級のAIモデルが毎秒65トークンで動きました。こんな実測報告が、ローカルLLMコミュニティで話題になっています。舞台は最新フラッグシップではなく、数年前のMacです。前回の記事では、Qwen3.8 27BをSSDから読み出す推論と、精度回復の工夫を追いました。そ […]
Macノート1台で、270億パラメータ級のAIモデルが毎秒65トークンで動きました。こんな実測報告が、ローカルLLMコミュニティで話題になっています。舞台は最新フラッグシップではなく、数年前のMacです。前回の記事では、Qwen3.8 27BをSSDから読み出す推論と、精度回復の工夫を追いました。そ […]
RECENT COMMENTS