「ブラウザでAIを動かす」が、また一段と現実味を帯びてきました。Redditでは、Liquid AIのLFM3-VL-2BがWebGPU上で動画字幕をリアルタイムに生成するデモが話題です[1]。WebGPUは、ブラウザからGPUの計算力を引き出す仕組みです。同じLFM3系列として、小型音声モデルLFM3-Audio-2Bもedge(端末側)向けに紹介されました[8]。以前取り上げた4Bモデルの挑戦から、小型推論の試行がブラウザや端末側に広がっています。ユーザーの関心は、ローカル側のセットアップに向かっているようです。
その裏で、性能の測り方も細かくなっています。WebGPU計算ベンチのgpubenchは、6つのワークロードを4096スレッドで動かし、1回ずつ送信するgen/s(生成速度)と、8回を束ねたgen/s batchedの2値を報告します[3]。速いGPUでは1回ずつの測定がブラウザとドライバの送信待ちに支配され、Appleシリコンのノートが大型の独立GPUを上回ることもあるそうです。平均値はSafariの測定停止に引っ張られ、大きな外れ値が出るため、中央値で比較しています。モバイルGPUでは、この送信待ちの削減が特に効くと書かれています。ブラウザで動画超解像を評価するVSR-Benchも、WebGL/WebGPUとWebRTC(ブラウザ間で動画を送る仕組み)を組み合わせ、RTX 3060級以上のGPUを前提にしています[7]。CPUだけだと実時間に届かないと明記されています。
モデル側も、小さいほど軽いだけでは語れません。LFM3-Audio-2Bは18言語の音声認識、合成、翻訳、ツール呼び出しを謳っています[8]。音声で質問し、テキストと音声の両方で応答を得る音声チャットや、テキスト回答の前に推論する機能も挙げられています。4Bの3Dコーディングモデルでは、Q8版(重みを圧縮した型)が推奨され、生成の揺れを抑える温度0.6などの設定が示されました[5]。画像参照からの生成も報告されましたが、この学習には視覚エンコーダ(画像をAIが扱う形に変える部品)が含まれていません。ファイル名が変わらないため、同じバージョンでも更新版を再取得する注意もありました。macOS 27には、オフラインでTerminalから呼べるLLMがあるというHacker Newsの投稿もありました[6]。端末内AIは、ブラウザとOSの両方で試されています。
効率化の話題も出ています。MarkdownをSQLite(軽量データベース)で扱うと40倍トークン効率が良いというShow HNがあります[2]。トークンは、AIが文章を扱うときの最小単位です。一方で、この投稿はHNで8ポイント、コメント0と、まだ注目は小さいです。ローカルLLMと連携する求人応募MCPのFreeApplyも、GitHubと動画デモが示されました[4]。MCPは、AIが外部アプリやデータと安全につながるための仕組みです。既存のLLMと組み合わせる前提ですが、実用より試作段階の空気が残ります。
ここで、ハードウェアの話が流れを複雑にします。SK Hynixは2030年まで需要が供給を上回ると予想し、RAM価格の高止まりが心配されています。一方、Redditでは「来年には安いGPUが出る」という見方も出ました。根拠には、単一のGB300ラックがOpenRouterのDSV4.1 Flashの全トラフィックを処理できる話、データセンター建設計画の半分が中止や停止になっている話、Neocloud(AI計算資源を売る新興クラウド)が債務を調達できず5年契約の需要が固まっていない話、小型モデルで大半の要求をさばける話などが挙がっています。OpenAIやAnthropicが今後の計算契約を賄えない可能性も書かれています。Clover-35B-A3B-Previewは35B MoEで、トークンあたり約3Bだけ動かし、128Kのコンテキスト(一度に扱える文章の長さ)を持つと書かれています。MoEは、全部の回路を一度に使わず、必要な部分だけ動かす仕組みです。
つまり今週の「その他」AIは、ブラウザ推論、小型モデル、トークンの節約、ローカルMCP、メモリ供給が同じテーブルに並んだ週です。LFM3-VL-2BとLFM3-Audio-2Bは2B級、4Bモデル、Cloverは総35Bで活性約3Bと、規模もばらけています。WebGPUの数字は、GPU単体の速さではなく、ブラウザとドライバを含む経路の速さでもあります。モデル更新では、ファイル名が変わらず再ダウンロードが必要という注意もありました[5]。効率化が進むほど、どの層でコストが動くかを見誤りやすいです。次は、実測の再現性と供給のどちらが先に動くかが鍵になりそうです。
引用ソース
- Reddit Reddit r/LocalLLaMA: Real-time video captioning with LFM3-VL-2B running locally in-browser on WebGPU — https://www.reddit.com/r/LocalLLaMA/comments/1xh0otf/realtime_video_captioning_with_lfm3vl2b_running/
Real-time video captioning with LFM3-VL-2B running locally in-browser on WebGPU
- Hacker News Hacker News: Show HN: Markdown is 40× more token-efficient with SQLite — https://www.withnative.ai/research-and-posts/markdown-context-benchmark
Show HN: Markdown is 40× more token-efficient with SQLite
- Web記事 記事全文: GitHub – abgnydn/gpubench: WebGPU compute benchmarks that run in the … — https://github.com/abgnydn/gpubench
How fast is your GPU in the browser?
Real WebGPU compute benchmarks running on your hardware. No install, no account — just click Run.
Live: gpubench.dev
6 compute workloads (evolutionary-computation-flavored micro-kerne - HNコメント HNコメント: ow HN: FreeApply Free Job Application MCP, runs locally with your exis — https://news.ycombinator.com/item?id=50270574
Github Repo: https://github.com/FreeApply/freeapply
- Reddit Reddit r/LocalLLaMA: 4B 3D coding model update: much better one-shot results and visual quality — https://www.reddit.com/r/LocalLLaMA/comments/1xhfwui/4b_3d_coding_model_update_much_better_oneshot/
4B 3D coding model update: much better one-shot results and visual quality
- Hacker News Hacker News: macOS 27 has a built-in, offline LLM you can call from Terminal — https://news.ycombinator.com/item?id=50185265
macOS 27 has a built-in, offline LLM you can call from Terminal
- Web記事 記事全文: GitHub – matinfazel/VSR-Bench: VSR-Bench is an open-source platform for … — https://github.com/matinfazel/VSR-Bench
Authors: Matin Fazel, Abdelhak Bentaleb
Paper: VSR-Bench: An Open-Source Platform for Browser-Native Real-Time VSR Evaluation in WebRTC
Publication: ACM Multimedia Systems Conference 2026 (MMSys ’26)
This repository prov - Reddit Reddit r/LocalLLaMA: New audio model: LFM3-Audio-2B — https://www.reddit.com/r/LocalLLaMA/comments/1xh50at/new_audio_model_lfm3audio2b/
New audio model: LFM3-Audio-2B
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS