🔁 PS5 llama.cpp最新、GPU推論とAPIで続く追跡

PS5がAI推論サーバーに化けました。話題のPS5LMは、脱獄したPS5でllama.cppを動かす試みです。脱獄は、メーカーの制限を外す改造のことです。llama.cppは、大規模言語モデルを身近な機器で動かす定番ソフトです。モデルはGGUFというファイル形式で、ローカルで推論します [1]。Hacker Newsのスレッドは374ポイント、86コメントを集めました。開発者Mert Cobanov氏のGitHubと解説記事が根拠です [1] [2] [7]。議論では、ゲーム機をAI推論に使う価値そのものが問われています [1] [4]。

最初の試作はCPUだけでした。Zen 2のCPUで始め、後にGPUへ移す設計でした [2]。小さいモデルから始めて、ペイロードの制約を確かめました。ペイロードは、PS5に送り込む小さなプログラムです [2]。最初のv0.1は、ペイロードでPS5のブラウザを開く形でした。モデルをダウンロードして、そのままチャットできます [2]。ライブラリでは、Download、Run、Open chatを順に押すだけです。入力はコントローラーのDualSenseで行えます [2]。速度はQwen3.5 0.8Bで13〜21トークン毎秒、2Bで約9トークン毎秒でした [2]。ただし壁もありました。ホーム画面を巻き込まずにメモリへ置けるモデルは、約1.6GBまでです [2]。

今回の追跡で新しいのは、CPUだけの試作からGPUサーバーへ進んだ点です。土台はllama.cppのVulkanバックエンドです。Vulkanバックエンドは、GPUを動かす標準的な仕組みです。そこへMihawk-99氏が移植したRADVを組み合わせました。RADVはAMDのGPU向けドライバです [2]。対象はQwen3.8 27Bです。hybrid Gated DeltaNet attentionという新しいアテンション構造を持つオープンQwenです。アテンションは、文中の注目すべき部分を拾う仕組みです [2]。PS5の12GiBメモリを直接使い、量子化した27Bモデルを9〜21トークン毎秒で動かします。量子化は、重みを圧縮してメモリを節約する仕組みです。例えばUD-IQ2_XXSという形式です [2]。アプリは当面、ソースからのビルドが必要です [2]。開発者は、PS5で27Bを動かした例はまだない、と最初の狙いに挙げています [2]。従来はモデルごとにGPUカーネルを手書きする作業が多くありました。GPUカーネルは、GPUで動く計算プログラムです。PS5LMはllama.cppを移植する道を選びました [2]。

解説記事は、PS5 Slimでの実測を詳しく伝えています。Qwen3.5 0.8Bでは約207トークン毎秒、9Bでは55トークン毎秒です [4]。27Bは、64kコンテキスト(一度に扱える文章の長さ)でも約20トークン毎秒でした [4]。このとき共有GPUメモリは11.4GBでした [4]。この11.4GBに反応が集まりました。GPUのない環境でも何かできないか、という声です [3]。ブログ記事も、55トークン毎秒を2026年のPS5LMとして紹介しています [6]。家庭用ゲーム機のGPUが、ローカル推論の選択肢になり得るという評価です [4]。

APIまで出ているのも、今回の追跡の面白いところです。ローカルネットワーク越しに、OpenAI互換とAnthropic互換のAPIを公開します。OpenAI互換は、OpenAIと同じ形式で呼び出せるという意味です。Claude Codeなどのツールから使えるとされます [4]。既存のクライアントは、そのまま呼び出せます [2]。さらにOllaya互換APIでは、「決定モデル」も扱えるようです [4]。テレビ画面のチャット、リクエスト監視、ハードウェア計測も紹介されています [4]。ライブラリは同じネットワークのスマホやPCから開けます。チャットも同じネットワークで動きます [2]。テレビに映るチャット画面は、PS5を家庭内のモデルサーバーに変えます [4]。

セットアップの泥臭さも残ります。必要なのは、所有するPS5とファームウェア7.00〜13.60、そして脱獄です [2]。対応バージョンの幅が決め手になります [2]。専用のローダー(ペイロードを読み込ませる道具)で、実行ファイルps5lm.elfを読み込みます。Payload Managerなどが使えます [2]。Payload Managerは更新も届けるため、複数の配布元を有効にして使います [2]。手動では、最新リリースのps5lm.elfをローダーへ送る方法もあります [2]。モデルは決まったフォルダに置きます。FTPでGGUFをコピーすると、一覧に表示されます [2]。解説記事では、etaHENやkstuff-liteといった下準備ツールも必要とされています [4]。

Hacker Newsのコメントは、ゲーム機クラスタの夢にも飛び火しました。PS3クラスタの過去や、Beowulfクラスタの冗談が引用されています。Beowulfクラスタは、市販マシンを束ねる古典的なクラスタです。ランダムなデバイスがモデルをホストする未来を想像する声もあります。Anthropicの自己複製モデルがPS5を乗っ取る、というジョークも混じります。11.4GBの共有メモリなら、GPUのない環境で面白いことができそうだという指摘もあります [3]。ゲーム機を並べる発想は、PS3の時代から繰り返されてきたようです。一方、冷たい目もあります。Sonyによる削除リスクや、ミニPCやBC-250マイニング基板と比べて割に合うのか、という議論です [4]。コミュニティの反応は58件のコメントに集まり、技術的好奇心と削除リスクへの不安が混ざっています [4]。GitHubの検索結果にはwoainimingやleecloudvictorといった名前も並び、派生や転載が生まれています [5]。プロンプト系メディアや開発者向けまとめ記事でも紹介され、話題は拡散しています [5]。

まとめると、PS5LMはゲーム機のGPUをAI推論に再利用する実験です。Hacker Newsのカルチャーと、実測値の共有が同居しているのが魅力です [1] [4]。ロードマップやコンソール向けドキュメントも置かれ、開発は段階的に進んでいます [2]。次の追跡では、安定性、モデル対応の広がり、クラスタ化の現実性が試されます。ミニPCとの比較やSonyの対応も、話題を続ける鍵です [4]。ゲーム機をAI推論の端末にする試みは、まだ初期段階です [2]。

引用ソース

  1. Hacker News Hacker News: Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console — https://github.com/cobanov/PS5LM

    Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

  2. Web記事 記事全文: GitHub – woainiming/ps5lm: llama.cpp on a jailbroken PS5: run any GGUF … — https://github.com/woainiming/ps5lm

    llama.cpp on a jailbroken PlayStation 5. Run any GGUF language model on the console itself, first on its Zen 2 CPU, then on its GPU.
    ps5lm.cobanov.dev: the full demo video and how it works
    The first target is Qwen 3.8 (2

  3. HNコメント HNコメント: ama.cpp on a jailbroken PS5: run any GGUF model natively on the consol — https://news.ycombinator.com/item?id=50122431

    11.4G of shared memory. Could do something interesting if you don't have a GPU.

  4. Web記事 記事全文: Llama.cpp on a jailbroken PS5: run any GGUF model… — https://daily.dev/posts/llama-cpp-on-a-jailbroken-ps5-run-any-gguf-model-natively-on-the-console-ehegpu47t

    PS5LM is an open-source project that runs llama.cpp on a jailbroken PlayStation 5, using the console’s GPU via Vulkan to serve GGUF language models over the local network. It exposes OpenAI and Anthropic-compatible APIs

  5. Web記事 Web検索: GitHub – leecloudvictor/ps5-PS5LM: llama.cpp on a jailbroken PS5: run … — https://github.com/leecloudvictor/ps5-PS5LM

    GitHub – leecloudvictor/ps5-PS5LM: llama.cpp on a jailbroken PS5: run …

  6. Web記事 Web検索: PS5LM: llama.cpp on a Jailbroken PS5 (55 tok/s, 2026) | explainx.ai Blog — https://www.explainx.ai/blog/ps5lm-llama-cpp-jailbroken-ps5-local-llm-server-qwen-claude-code-2026

    PS5LM: llama.cpp on a Jailbroken PS5 (55 tok/s, 2026) | explainx.ai Blog

  7. Web記事 Web検索: Developer Mert Cobanov Runs llama.cpp on a Jailbroken PS5 | AlphaSignal — https://alphasignal.ai/news/developer-mert-cobanov-runs-llama-cpp-on-a-jailbroken-ps5

    Developer Mert Cobanov Runs llama.cpp on a Jailbroken PS5 | AlphaSignal

  8. Web記事 Web検索: PS5LM: Run Llama.cpp GGUF Models on Jailbroken PS5 — https://www.promptzone.com/deepa_morales/ps5lm-run-llamacpp-gguf-models-on-jailbroken-ps5-266m

    PS5LM: Run Llama.cpp GGUF Models on Jailbroken PS5

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

関連記事

CALENDAR

2026年11月
日 月 火 水 木 金 土
1234567
891011121314
15161718192021
22232425262728
2930  

ARCHIVES

CATEGORIES