リビングに置いたゲーム機が、そのままローカルAIサーバーになります。脱獄したPlayStation 5でllama.cppを動かす「PS5LM」プロジェクトが、Hacker Newsで375ポイント・89コメントと大きな反響を集めています[1]。以前の記事では開発の安定化を伝えました。今回はその後の進展のなかで、GPUを使った推論の実測値がそろってきた点を中心に追います。
PS5LMは、llama.cppを脱獄PS5上で動かすオープンソースのプロジェクトです[2]。脱獄とは、メーカーの制限を解除して自作ソフトを動かせるようにすることです。対象はファームウェア7.00〜13.60の本体です。ペイロード(脱獄環境に送り込んで実行する小さなプログラム)を読み込むと、PS5のブラウザにモデルライブラリが開きます[2]。モデルのダウンロードから実行、チャットまで本体だけで完結し、入力はDualSenseで行います。モデルは本体の/data/PS5LM/modelsに保存され、FTPでGGUF(llama.cpp用のモデルファイル形式)をコピーしても一覧に表示されます[2]。同じネットワークのスマホやPCのブラウザからも操作できます[2]。
注目したいのは、移植のやり方です。これまでのPS5向けLLMの試みは、特定のモデル1つに対してGPU向けの計算プログラム(カーネル)を手書きする方式でした[2]。PS5LMはllama.cppそのものを移植します。そのため、llama.cppが対応するすべてのアーキテクチャ(Qwen、Llama、Mistral、Gemma)と、1ビットから8ビットまでの量子化(重みを圧縮してメモリを節約する仕組み)が、そのまま持ち込まれます[2]。
まず、GPUを使った実測値から見てみましょう。PS5 Slimで、Vulkan(GPUを直接扱うための標準的な仕組み)経由でllama.cppを動かした結果がdaily.devにまとめられています[3]。Qwen3.5 0.8Bを4ビット程度に圧縮する量子化(Q4_K_M)で動かすと、約207トークン/秒でした[3]。9Bモデルでは55トークン/秒です[3]。さらに27Bモデルでは、2ビット台の量子化(UD-Q2_K_XL)と64kコンテキストで約20トークン/秒という報告があります[3]。この27Bの実行では、本体の共有メモリ11.4GBが活用されました[3]。
一方、CPUだけで動かすペイロード版の数字はもっと地味です。ホーム画面を圧迫しないよう、モデルの常駐は約1.6GBまでに制限されています[2]。この方式ではQwen3.5 0.8Bで13〜21トークン/秒、2Bで約9トークン/秒でした[2]。測定条件は異なりますが、同じ0.8Bでも速度に約10倍の開きが出る計算です。
プロジェクトの最初の目標は、最新のオープンQwen「Qwen 3.8」(27B)です。従来とは異なる新しいアテンション設計(Gated DeltaNet)を取り混ぜた構造で、PS5で動かした例はまだありません[2]。Qwen 3.8の最小の公開モデルは27Bですが、2〜3ビットの量子化なら本体のメモリに収まる計算です[2]。また、PS5LMはローカルネットワークにOpenAI互換・Anthropic互換のAPIを公開します。Claude Codeなどのコーディングツールから、PS5をそのまま推論エンジンとして使えるわけです[3]。テレビの画面をチャットUIにしつつ、外部の機器からはAPIで利用できる構成です[3]。
しかし、盛り上がりの裏には冷めた視点もあります。daily.devのコミュニティでは、こうした脱獄プロジェクトがSonyの削除に耐えられるかという懸念が長く続きました[3]。加えて「PS5は本当に割に合うプラットフォームなのか」という論争も起きています。ミニPCや、マイニング用ボードのBC-250と比べるべきだという意見です[3]。Hacker Newsでは「Anthropicの自己複製モデルがPS5を乗っ取り始める日も近い」といった冗談も飛び交いました[3]。反応は技術的な関心一色ではなかったようです。
「近いうちに、とにかくランダムな機器がモデルをホストするようになるだろう」というコメントが、この流れをよく表しています。llama.cpp本体を移植する方式は、既存の資産をそのまま持ち込めるため、応用先はPS5に限らないはずです。今後の焦点は、まだ誰も動かせていないQwen 3.8 27Bのコンソール動作と、大型モデルに対応するネイティブアプリの実装のようです[2]。ゲーム機がAIサーバーになる実験は、まだ始まったばかりです。
引用ソース
- Hacker News Hacker News: Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console — https://github.com/cobanov/PS5LM
Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console
- Web記事 記事全文: GitHub – wkchan/ps5lm: llama.cpp on a jailbroken PS5: run any GGUF … — https://github.com/wkchan/ps5lm
llama.cpp on a jailbroken PlayStation 5. Run any GGUF language model on the console itself, first on its Zen 2 CPU, then on its GPU.
ps5lm.cobanov.dev: the full demo video and how it works
The first target is Qwen 3.8 (2 - Web記事 記事全文: Llama.cpp on a jailbroken PS5: run any GGUF model… — https://daily.dev/posts/llama-cpp-on-a-jailbroken-ps5-run-any-gguf-model-natively-on-the-console-ehegpu47t
PS5LM is an open-source project that runs llama.cpp on a jailbroken PlayStation 5, using the console’s GPU via Vulkan to serve GGUF language models over the local network. It exposes OpenAI and Anthropic-compatible APIs
- HNコメント HNコメント: ama.cpp on a jailbroken PS5: run any GGUF model natively on the consol — https://news.ycombinator.com/item?id=50122431
Not long until Anthropic's dreams of self-replicating models starts taking over PS5s!
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS