続報：PS5LMがGPU推論に到達、27Bモデルを9〜21トークン/秒で動かす

テレビの下に置いたゲーム機が、そのままAIサーバーになる。そんな光景が実際に動き始めました。舞台はジャイルブレイク(本体の制限を解除する改造)済みのPS5です。ローカルで大規模言語モデルを動かす定番ソフトllama.cppを、PS5で動かすオープンソースプロジェクト。それが「PS5LM」です。開発者はMert Cobanovさん。AlphaSignalをはじめ海外メディアも相次いで取り上げています[6][7]。Hacker Newsでは375ポイント、87コメントの反響です[1]。前回の追跡記事から、さらに一段進んでいました。今回はその最新を追います。

まず仕組みを押さえます。対応ファームウェアは7.00〜13.60です。ペイロード(ゲーム機に後から読み込む小さなプログラム)をローダーで読み込みます。すると、PS5のブラウザにモデルライブラリが開きます。本体でモデルをダウンロードし、Runを押し、チャットを開く流れです。入力はDualSenseコントローラで行えます[2]。ただし初期のバージョン0.1には制約がありました。ペイロードがホーム画面を圧迫しないよう、メモリに置けるモデルは約1.6GBまで。動くのはQwen3.5 0.8B(13〜21トークン/秒)と2B(約9トークン/秒)だけです[2]。

転機は、ネイティブアプリ化です。PS5向けアプリとして、llama.cppのVulkanバックエンドを動かす構成が登場しました。Vulkanは、GPUを直接扱うための仕組みです。これをMihawk-99氏のRADV移植に載せます。RADVはAMD GPU向けのオープン実装です。本体の12GiBの直接メモリを活かし、Qwen 3.8 27Bを量子化(重みを圧縮してメモリを節約する仕組み)の一種UD-IQ2_XXSにかけます。応答速度は9〜21トークン/秒です[2]。ここが方式の転換点です。それ以前のPS5でのLLM試行は、モデルごとにGPUカーネル(GPUで動く計算プログラム)を手書きするものでした。PS5LMはllama.cppごと移植しました。そのため、GGUF形式(定番のモデルファイル形式)なら任意のモデルが動きます。最初の目標に選んだのは、Gated DeltaNetという新しい注意機構(文脈のどこに注目するかを決める部分)を組み込んだ最新のQwen 3.8 27Bです。「PS5で動かした人はまだいない」モデルでした[2]。

実測値はdaily.devのまとめから読み取れます。PS5 SlimでVulkan経由で動かすと、Qwen 3.5 0.8Bは約207トークン/秒。9Bは55トークン/秒です。27Bは64kコンテキスト(一度に扱える文脈の長さ)で約20トークン/秒です。使用メモリは本体の共有GPUメモリ11.4GBに及びます[4]。ペイロード段階の0.8Bは13〜21トークン/秒でした[2]。数字だけ見れば、GPUへの載せ替えで10倍近く開いた計算です。9Bの55トークン/秒は、解説ブログが見出しに据えるほどの目玉になっています[5]。

使い方の発想も進んでいます。PS5LMはOpenAI互換とAnthropic互換のAPIを公開します。APIは、外部ツールからモデルを呼び出すための窓口です。Claude Codeなどコーディングツールから、そのまま呼び出せる形です。テレビ向けチャット画面、リクエストのライブ監視、ハードウェアテレメトリ(動作状況の計測)も揃いました[4]。daily.devはこれを「テレビの下のモデルサーバー」と呼びます[4]。モデルファイルをFTP(ファイル転送の仕組み)で置けば、ライブラリに表示されます[2]。セットアップにはetaHENやkstuff-liteといったホームブリュー(自作ソフト)も必要です[4]。

しかし、評価は割れています。daily.devのコミュニティ(58コメント)では、技術的関心と並んで削除リスクが議論されました。ジャイルブレイク系プロジェクトが、GitHub上でSonyの削除に耐えられるかという話題です[4]。さらに「PS5は本当に割の良いプラットフォームか」という論争も起きています。ミニPCやBC-250マイニングボードとの比較で、その価値が問われているのです[4]。ネイティブアプリ版は「現時点ではソースからビルド」という条件付きでもあります[2]。Hacker Newsでは「11.4GBの共有メモリは、GPUを持っていない人には面白い」との指摘もあります[3]。便利さへの評価と、選択肢としての妥当性は、別問題のようです。

コメント欄は、からかいと本音が半々でした。「Anthropicの自己複製モデルの夢がPS5を乗っ取るのも時間の問題」という冗談。「近いうちに、最もランダムな機器がモデルをホストする」という感想。PS3のクラスタ計算の記事を引く人も現れました。「Beowulfクラスタ(安価なマシンを多数つないで計算させる方式)を想像できるか」という定番の問いかけです。遊びの裏には、推論を回せる機器がPCを離れていく流れへの、実感めいた手応えが見えます。

まとめると、進展は二つあります。VulkanとRADV移植を経たGPU推論の実現で、27Bモデルが9〜21トークン/秒で動くようになったこと[2]。そして手書きカーネルからの切り替えで、任意のGGUFモデルをPS5で動かせるようにしたことです。持続性はジャイルブレイク環境とSonyの対応に左右されるでしょう[4]。それでも、身の回りの機器でAIを動かす試みの設計図として、このプロジェクトは一つの到達点を示したと言えそうです。