テレビの下に置いたゲーム機が、そのままAIサーバーになる。そんな光景が、実際に動き始めました。ジャイルブレイク済みのPS5でllama.cpp(ローカルで大規模言語モデルを動かす定番ソフト)を動かすオープンソースプロジェクト「PS5LM」です。開発者はMert Cobanovさん。AlphaSignalをはじめ海外メディアも相次いで取り上げています[6][7]。Hacker Newsでは375ポイント、87コメントという大きな反響です[1]。前回の追跡記事では、ペイロード方式の1.6GB制約に触れました。その後、プロジェクトはもう一段進んでいます。今回はその最新を追います。
まず仕組みを押さえます。対応ファームウェアは7.00〜13.60です。Payload Managerなどのペイロードローダーからps5lm.elfを読み込むと、PS5のブラウザにモデルライブラリが開きます。本体でモデルをダウンロードし、Runを押し、チャットを開く流れです。入力はDualSenseコントローラで行えます[2]。初期のバージョン0.1はここまででした。ペイロードがホーム画面を圧迫しないよう、メモリに置けるモデルは約1.6GBまで。カタログはQwen3.5 0.8B(13〜21トークン/秒)と2B(約9トークン/秒)に限られていました[2]。トークン/秒は生成速度の単位です。なお、このREADMEの全文はミラーリポジトリからも読めます。
転機は、ネイティブアプリ化です。PS5向けアプリとして、llama.cppのVulkanバックエンドをMihawk-99氏のRADV移植の上で動かす構成が登場しました。VulkanはGPUを直接扱うAPIで、RADVはAMD GPU向けのオープン実装です。本体の12GiBの直接メモリを活かし、Qwen3.8-27BをUD-IQ2_XXSという量子化(モデルを圧縮して軽くする処理)にかけ、9〜21トークン/秒で応答します[2]。ここが方式の転換点です。それ以前のPS5でのLLM試行は、モデルごとにGPUカーネルを手書きするものでした。PS5LMはllama.cppごと移植したため、GGUF形式なら任意のモデルが動きます。最初の目標に選んだのは、ハイブリッドGated DeltaNet注意を持つ最新のQwen 3.8 27B。「PS5で動かした人はまだいない」モデルでした[2]。
実測値はdaily.devのまとめから読み取れます。PS5 SlimでVulkan経由で動かしたところ、Qwen 3.5 0.8B(Q4_K_M)は約207トークン/秒。9Bは55トークン/秒、27B(UD-Q2_K_XL)は64kコンテキストで約20トークン/秒です。使用メモリは本体の共有GPUメモリ11.4GBに及びます[4]。ペイロード段階の0.8Bは13〜21トークン/秒でした[2]。数字だけ見れば、GPUに載せ替えで10倍近く開いた計算です。9Bの55トークン/秒は、解説ブログが見出しに据えるほどの目玉になっています[5]。
使い方の発想も進んでいます。PS5LMはOpenAI互換とAnthropic互換のAPIを公開します。Claude Codeなどコーディングツールから、そのまま呼び出せる形です。テレビ向けチャット画面、リクエストのライブ監視、ハードウェアテレメトリ、Ollaya互換APIによる「decision models」対応まで揃いました[4]。daily.devはこれを「テレビの下のモデルサーバー」と呼びます[4]。チャットは8081番ポートでOpenAI APIを話し、FTPでGGUFを置けばライブラリに表示されます[2]。セットアップにはetaHENやkstuff-liteといったホームブリュー(自作ソフト)も必要です[4]。
しかし、評価は割れています。daily.devのコミュニティ(58コメント)では、技術的関心と並んで、ジャイルブレイク系プロジェクトがGitHub上でSonyの削除に耐えられるかという議論が長く続きました[4]。さらに「PS5は本当に割の良いプラットフォームか」という論争も起きています。ミニPCやBC-250マイニングボードとの比較で、その価値が問われているのです[4]。ネイティブアプリ版は「現時点ではソースからビルド」という条件付きでもあります[2]。Hacker Newsでも「11.4GBの共有メモリは、GPUを持っていない人には面白い」との指摘があります[3]。便利さへの評価と、選択肢としての妥当性は、別問題のようです。
コメント欄は、からかいと本音が半々でした。「Anthropicの自己複製モデルの夢がPS5を乗っ取るのも時間の問題」という冗談。「近いうちに、最もランダムな機器がモデルをホストする」という感想。PS3のクラスタ計算の記事を引く人も現れ、「Beowulfクラスタを想像できるか」という定番の問いかけまで飛び出しました。hackerカルチャーらしい遊びの裏に、推論を回せる機器がPCを離れていく流れへの、実感めいた手応えがあるように見えます。
まとめると、進展は二つあります。VulkanとRADV移植を経たGPU推論の実現で、27Bモデルが9〜21トークン/秒で動くまでになったこと[2]。そして手書きカーネルからの切り替えで、任意のGGUFモデルをPS5で動かせるようにしたことです。持続性はジャイルブレイク環境とSonyの対応に左右されるでしょう[4]。それでも、身の回りの機器でAIを動かす試みの設計図として、このプロジェクトは一つの到達点を示したと言えそうです。
RECENT COMMENTS