CognitionがSWE-2 Flashを発表し、コーディングエージェントの推論速度を3倍に、価格を5分の1にしました。一方Appleは10-Kで、エージェントの未承認行動や情報操作を重大なリスクとして記述しました。性能と安全設計が同時に進む状況がうかがえます。
タグ: Apple
MacBookで40Bモデルが毎秒125トークン、ローカル推論の実測データが充実
MacBook一台で、400億パラメータ級のAIモデルが毎秒125トークンで動く——。そんな報告がHacker Newsに投稿されました[1]。Richard Socher氏の投稿として共有された「Flint 40B」は、タイトルに「Frontier Local LLM(フロンティア級のローカルLL […]
続・Qwen3ローカル推論、KFlashが見せた最新の速度記録
Macノート1台で、270億パラメータ級のAIモデルが毎秒65トークンで動きました。こんな実測報告が、ローカルLLMコミュニティで話題になっています。舞台は最新フラッグシップではなく、数年前のMacです。前回の記事では、Qwen3.8 27BをSSDから読み出す推論と、精度回復の工夫を追いました。そ […]






RECENT COMMENTS