リビングのゲーム機が、そのままAIサーバーになる——そんな試みが一段階進みました。脱獄したPlayStation 5上でllama.cpp(ローカルで大規模言語モデルを動かす定番ソフト)を走らせる「PS5LM」が、Hacker Newsで375ポイント・87コメントを集めるなど大きな注目を浴びています[1]。前回の追跡記事では、ペイロード制約による1.6GB上限とCPU推論の遅さという壁を追いました。今回は、その壁のその後です。
開発者はMert Cobanovさんで、コードはGitHubで公開されています[5]。導入にはファームウェア7.00〜13.60の脱獄済みPS5が条件で、Payload Managerやポート9021のelfldrでペイロードを読み込みます。etaHENやkstuff-liteなどのホームブリューpayloadのインストールも必要です[2][4]。ps5lm.elfを起動すると、PS5のブラウザにモデルライブラリが開きます。コンソールだけでモデルのダウンロード・実行・チャットまで完結し、文字入力はDualSenseで行います[2]。同じLAN内ならスマホやPCのブラウザからもライブラリを開け、チャットはポート8081でOpenAI互換APIとして応答します[2]。FTPで/data/PS5LM/modelsにGGUFファイルを置けば、それも一覧に現れます[2]。
最大の進展は、推論の主役がCPUからGPUへ移ったことです。Vulkanバックエンド経由でPS5のGPUを使い、GGUF(llama.cpp向けのモデルファイル形式)モデルをLAN上の端末に提供するようになりました[4]。実測値を見ると、PS5 SlimでQwen 3.5 0.8B(Q4_K_M)が毎秒約207トークン、9Bが毎秒55トークン、27BをUD-Q2_K_XLに量子化したモデルは64kコンテキストで毎秒約20トークン。この際、本体の共有メモリ11.4GBを使用しています[4]。9Bでの55トークン毎秒は、解説ブログの見出しにもなった数字です[5]。比較として、CPU時代の0.8Bは毎秒13〜21トークン、2Bで約9トークンでした[2]。同じ0.8Bでも、速度はおよそ10倍変わる計算です。
技術面で効いているのは、「llama.cppごと移植した」方式です。これまでのPS5でのLLM試行は、特定モデル向けにGPUカーネルを手書きするものでした。PS5LMはllama.cpp自体を載せ替えたため、Qwen、Llama、Mistral、Gemmaの各アーキテクチャと、1bit〜8bitの量子化をまとめて使えます[2]。量子化とは、精度を落としてモデルのメモリ消費を抑える圧縮のことです。最初の目標は、ハイブリッドGated DeltaNet注意機構を持つ最新のQwen 3.8(27B)で、PS5での実行はまだ誰も達成していない目標です[2]。2〜3bit量子なら本体メモリに収まる計算で、llama.cppの量子化技術がそのまま活きる場面です[2]。
サーバーとしての顔も濃くなりました。APIはOpenAI互換に加えてAnthropic互換を備え、Claude Codeなどのコーディングツールのセッション先としてPS5を指定できます[4]。テレビ画面向けのチャットUI、リクエストのライブ監視、ハードウェアテレメトリに加え、「decision models」向けのOllaya互換APIまで用意されています[4]。ゲーム機が推論サーバーとして振る舞う姿が、具体的になってきたと言えそうです。
しかし、称賛一辺倒ではありません。daily.devのコミュニティでは「PS5は本当に割に合うのか」と、ミニPCやBC-250マイニングボードを使う案との比較論が交わされています[4]。脱獄系プロジェクトがGitHub上でSonyの削除対応を乗り越えられるかという懸念も、議論を長く引っ張るテーマになっています[4]。また、ペイロードのままでは約1.6GBまでしかモデルをメモリに確保できず、ホーム画面の動作を圧迫しない範囲に限られます。現行のv0.1カタログはQwen3.5 0.8Bと2Bの2種類に絞られており、大規模モデルにはネイティブアプリ化が課題として挙げられています[2]。
Hacker Newsのコメント欄には、この奇妙な組み合わせを楽しむ空気が流れていました。「共有メモリ11.4GBある。GPUを持っていない人なら面白いことができるはず」という指摘[3]をはじめ、過去のPlayStation 3によるクラスタ計算を引き合いに出す投稿、「Beowulfクラスタを想像できるか」という定番ジョークが並びます。「近いうちに、とんでもなくランダムな機器がモデルをホストする時代が来る」という感想や、「Anthropicの自己複製モデルがPS5を乗っ取る日も近い」という冗談も飛び交いました。
PS5LMの物語は、ゲーム機の妙技というより、llama.cppの移植性の高さを示す実例と言えそうです[2]。同プロジェクトは、hackerカルチャーとローカルAI推論が交差する地点の実験でもあります。GPU推論とAPIサーバー化で「遊び」から「使える実験環境」へ一歩進んだ一方、費用対効果の議論や権利者の動向という不確実さも抱えます[4]。それでも「テレビの下のゲーム機がAIサーバーになる」という発想自体が、ローカル推論の裾野を広げているようです。関連報道は各所に広がっており[5][7][5]、次の焦点はネイティブアプリ化とQwen 3.8 27Bの実行になると思われます。
RECENT COMMENTS