脱獄したPS5でllama.cppが動く——小型モデルは124トークン/秒に

📌 エグゼクティブサマリー
ジェイルブレイクしたPS5でllama.cppを動かす「PS5LM」が話題です。Vulkan経由でGPUを使うネイティブ実行によりRAMは11.4GiBへ拡大し、小型モデルで最大124トークン/秒を達成。実測値と制約、27Bモデルへの目標を整理します。

ゲームをしていない時間のPS5が、手元のAIサーバーになる——。そんな試みがHacker Newsで375ポイント、89コメントが集まった話題になっています[1]。名前は「PS5LM」。脱獄(メーカーの制限を外してソフトを自由に動かせるようにする改造)済みのPS5で、ローカルLLMの定番ライブラリllama.cppを動かすプロジェクトです。

Xのトレンドには「パーソナルAIエージェント」という言葉が上がっています[3]。家庭のデバイスでAIを動かす話題と、この試みは呼応しているようです。ゲーム機を推論(AIが答えを組み立てる計算)に転用する発想が、多くの関心を引きました。

しかけはこうです。開発者cobanovがllama.cppをPS5向けに移植し、脱獄環境でネイティブ実行します。GGUF(モデルを1ファイルにまとめて配布できる形式)ならどのモデルでも動く設計で、モデルのダウンロードからチャットまでを本体だけで完結します[2]。OpenAI互換API(ChatGPT向けの呼び出し形式をそのまま使えるAPI)も備え、同一ネットワーク上のPCやスマートフォンから利用できます[2]。

最初の版はCPUだけで動かす「ペイロード」方式でした。ホーム画面やシステムサービスが動いたまま、CPUに処理を割り込ませる形です[5]。この方式ではモデルの常駐領域が約1.6GBに制限され、Qwen3.5 0.8Bで約13〜21トークン/秒、2Bで約9トークン/秒という実測値が公開されています[2]。トークン/秒は生成速度の単位で、大きいほど速い。PS5のブラウザーを前面に表示するとページング(メモリーの内容を一時退避させる動作)が起きて速度が大幅に落ちるなど、メモリー管理が性能を左右しました[2]。

ここからが話題の本丸です。Redditユーザーu/AdIllustrious7246がPS5LMをフォークし、GPUを使うネイティブアプリへ改造しました[5]。鍵となったのはPS5_Vulkanというプロジェクトです。VulkanはKhronos Groupが策定する低レベルグラフィックAPIです。PS5_Vulkanは、AMDがLinux向けに提供するオープンソース実装RADVをPS5へ移植し、GPUへ命令を送れるようにしました[5]。ネイティブ実行への移行で使えるRAMは最大11.4GiBに拡張されます。CPUペイロード時代は約6.25GiBに制限され、6.8GiB級のモデルをロードしようとするとシステムがフリーズしていました[5]。小型モデルの実測は最大124トークン/秒に達しています[5]。

実装はデモの域を超えてきました。トークンの生成速度、GPU/CPU使用率、消費電力、温度、KVキャッシュ(会話の履歴を保持するメモリー領域)の割り当てをリアルタイム表示するダッシュボードが作られています[5]。同一LAN内の別デバイスのブラウザからチャットセッションを張れるUIまで完成しました[5]。Hacker Newsでも「11.4Gの共有メモリーがある。GPUを持っていないなら面白いことができる」とのコメントが寄せられています[4]。

一方で、壁もはっきりしています。脱獄は特定のファームウェアバージョンに限られ、プロジェクトの対象は7.00〜13.60の環境です[2]。最新ファームウェアに更新済みの端末では動きません[5]。法的にも利用規約上もグレーゾーンで、あくまでホビイスト・研究者向けの試みです[5]。速度でも専用GPUには及びません。参考として、ミドルレンジのPC向けGPU(RTX 4060)でLlama 3.2 3Bを動かすと一般に200〜300トークン/秒とされ、PS5はそれより遅い数字です[5]。Tom’s Hardwareのコメント欄では、暗号通貨マイニングブーム時のGPU高騰を思い出す声が相次ぎました。ただし記事のBorjaは、大規模データセンターの需要でGPU・RAM不足が進む中、PS5のGPUは性能もRAMも限定的だと、その可能性を低く見ています[5]。

ロードマップは先をにらみます。27Bモデルを2ビット量子化(重みを圧縮してメモリーを節約する仕組み)で動かし、Vulkan経由のGPU推論で15トークン/秒以上を目標。理論上限は約45トークン/秒と試算されていますが、実測値ではありません[2]。PS5の脱獄活用は、Xboxクラウドゲーミングの動作やSwitchゲームの実行などへも広がっています[5]。Hacker Newsでは「近いうちに、あらゆるガジェットがモデルをホストする」という声や、「自己複製モデルがPS5を乗っ取る日も近い」という冗談が並びました。ゲーム目的で買ったハードを追加のGPUなしで推論に転用できれば、推論内容を外部APIへ送らない利用も設計次第で可能になります[2]。ゲーム機改造のカルチャーから生まれたこの試みが、家庭側にAIの経済性を引き寄せる一歩になるか。注目です。