🔁 続・PS5LM最新、GPU推論でAPI端末化

🔁 前回の続き: PS5LM追跡、API接続でAI端末化するPS5

PS5が、ゲーム機からAIの推論端末へ変わる実験が進んでいます。Hacker Newsでは、ジェイルブレイクしたPS5でllama.cppを動かすPS5LMが、373ポイント、86件のコメントを集めました [1]。llama.cppは、PC上でAIモデルを動かす定番ソフトです。GGUFという形式のモデルファイルを、ネイティブに実行します。ジェイルブレイクは、本体の制限を解除する改造です。話題の中心は、ペイロードからGPUネイティブアプリ(GPUで直接動くアプリ)へ進んだ最新段階です [2]。ペイロードとは、本体に読み込む小さなプログラムです。

PS5LMは、まずZen 2 CPUで動かし、次にGPUへ広げる計画です [2]。v0.1では、ps5lm.elfというペイロードが、コンソールのブラウザでモデルライブラリを開きます。ダウンロード、実行、チャットまでここで行えます [2]。最初の対象はQwen 3.8 27Bです。ハイブリッドなGated DeltaNet attention(文章のどこに注目するかを決める注意機構の新方式)を持つ、新しいオープンQwenです [2]。日本語の解説記事も現れ、PS5をローカルAIの箱として見る動きが広がっています [5]。

ペイロード段階の数値は控えめです。ホーム画面の動作を圧迫しないため、モデルは約1.6GBまでしかメモリに保持できません [2]。この制限の中で、Qwen3.5 0.8Bは13〜21トークン毎秒、2Bは約9トークン毎秒でした [2]。チャットはDualSenseで入力できます。同じネットワークの端末からは、ポート8082でライブラリにアクセスできます [2]。ポート8081のチャットは、OpenAIと同じ形式のAPIを話します [2]。

GPUネイティブアプリでは、数値が一段跳ねます。llama.cppをVulkan経由で動かし、コンソールの12GiBの直接メモリを使います [2]。Vulkanは、GPUを直接扱うための標準的な仕組みです。土台は、Mihawk-99によるRADV移植です。RADVは、AMD製GPUをVulkanで動かすドライバーです。PS5 Slimでの報告では、量子化(重みを圧縮してメモリを節約する仕組み)したモデルで測っています。0.8Bが約207トークン毎秒、9Bが55トークン毎秒です [4]。27Bは、64kコンテキスト(一度に扱える文章の長さ)で約20トークン毎秒です [4]。使われた共有GPUメモリは11.4GBで、コメントでは「GPUがなくても面白い」と注目されています [3][4]。別の圧縮型では、27Bが9〜21トークン毎秒という報告もあります [2]。モデルは/data/PS5LM/modelsに置き、FTP(ファイル転送の仕組み)でGGUFをコピーしても表示されます [2]。

速度の差は、単なる「新しいから速い」ではありません。ペイロードはメモリ制限が厳しく、GPUアプリは12GiBの直接メモリとVulkanを使えます。同じllama.cppでも、実行環境が別物なのです [2][4]。以前はモデルごとに、GPUカーネル(GPUで動く小さなプログラム)を手書きする例がありました。PS5LMは、GGUFを広く動かす方向です [2]。量子化モデルを組み合わせて選べば、PS5でも実用域に近づきます。バージョンの差も影響します。ただし、素材内ではモデル名がQwen 3.8とQwen 3.5で混在しており、表記の揺れに注意が必要です [2][4]。

話題は速度だけでは終わりません。コミュニティの論点は二つです [4]。一つは、Sonyの削除請求でGitHubに残れるかどうか。もう一つは、PS5がミニPCやBC-250採掘ボードより割に合うかです。動作には、7.00から13.60のファームウェア、ジェイルブレイク、ペイロードローダーが必要です [2][4]。etaHENやkstuff-liteといった定番ツールも挙げられています [4]。Payload Managerでソースを追加し、PS5LMをインストールして読み込む手順も示されています [2]。セットアップの重さは、AI端末化の夢を冷やします。

Hacker Newsのコメントは、未来の冗談にも広がります。「Anthropicの自己複製モデルがPS5を乗っ取るのも間もなくだ」という投稿や、「近い将来、最もランダムなデバイスがモデルをホストするだろう」という反応があります。「テクノコアの軍団」という表現も現れました。これは技術報告というより、PS5が「AIの箱」として語られ始めた証拠です。

OpenAI互換APIやAnthropic互換APIでClaude Codeと接続できる点は魅力です [4]。ただし、PS5と他のGPUの直接比較数値は、素材には見つかりませんでした [4]。テレビ向けチャット、ライブ監視、ハードウェアテレメトリ(本体状態のデータ取得)、Ollaya互換の意思決定モデルも報告されています [4]。ローカル推論の選択肢として、PS5は速いが重い存在です。数値はすべて特定の環境での報告です。PS5LMの最新像は、ゲーム機を推論サーバーへ改造する実験です。数値は有望ですが、環境の再現性と維持コストが課題です。PS5がローカルAIの選択肢としてどこまで残るかは、今後の更新と議論次第です。Hacker Newsの反応は、技術と冗談を混ぜながら、PS5の再定義を後押ししています [1]。

引用ソース

  1. Hacker News Hacker News: Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console — https://github.com/cobanov/PS5LM

    Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

  2. Web記事 記事全文: GitHub – woainiming/ps5lm: llama.cpp on a jailbroken PS5: run any GGUF … — https://github.com/woainiming/ps5lm

    llama.cpp on a jailbroken PlayStation 5. Run any GGUF language model on the console itself, first on its Zen 2 CPU, then on its GPU.
    ps5lm.cobanov.dev: the full demo video and how it works
    The first target is Qwen 3.8 (2

  3. HNコメント HNコメント: ama.cpp on a jailbroken PS5: run any GGUF model natively on the consol — https://news.ycombinator.com/item?id=50122431

    11.4G of shared memory. Could do something interesting if you don't have a GPU.

  4. Web記事 記事全文: Llama.cpp on a jailbroken PS5: run any GGUF model… — https://daily.dev/posts/llama-cpp-on-a-jailbroken-ps5-run-any-gguf-model-natively-on-the-console-ehegpu47t

    PS5LM is an open-source project that runs llama.cpp on a jailbroken PlayStation 5, using the console’s GPU via Vulkan to serve GGUF language models over the local network. It exposes OpenAI and Anthropic-compatible APIs

  5. Web記事 Web検索: PS5LM: ジェイルブレイクされたPS5でLlama.cppを実行し、コンソールで任意のGGUFモデルをネイティブに実行します #十14 … — https://note.com/dopingconsomme/n/n37e7e5ef78aa

    PS5LM: ジェイルブレイクされたPS5でLlama.cppを実行し、コンソールで任意のGGUFモデルをネイティブに実行します #十14 …

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

関連記事

CALENDAR

2026年11月
日 月 火 水 木 金 土
1234567
891011121314
15161718192021
22232425262728
2930  

ARCHIVES

CATEGORIES