PS5 llama.cpp続報、実測速度と「コスパ」論争が浮上

リビングのゲーム機が、そのままAIサーバーになる――。脱獄(メーカーの制限を外して自作ソフトを動かす改造)済みのPlayStation 5でAIを動かすプロジェクト「PS5LM」が注目を集めています。心臓部は、AIモデルを実行するオープンソースの推論エンジンllama.cppです。Hacker Newsでは375ポイント・87件のコメントに達しました[1]。自作ソフトの配信場所「PS5 Homebrew Store」にもアプリとして登録済みです[7]。解説記事も各所に広がりました[5]。前回の追跡記事ではGPU推論とAPI対応を確認しました。今回は実測速度と、コミュニティをにぎわす論争の両面を掘り下げます。

仕組みはシンプルです。llama.cppのVulkanバックエンド(ゲーム描画用のAPIをAI計算に使う仕組み)経由で、PS5のRDNA 2 GPUにモデルを載せます。モデルはGGUFという規格のファイルで読み込みます。GGUFは、量子化した重みを1ファイルにまとめるモデル規格です。量子化とは、重みを圧縮してメモリを節約する仕組みのことです。モデルとコンテキスト(一度に扱える文章量)には、共有メモリのうち11.4GBが使えます[2]。llama.cppが対応するモデル構造や量子化はそのまま持ち込めます。モデルを読み込む機能が、空きメモリに収まる最長のコンテキストと最適なキャッシュ(計算結果の保存領域)を自動で選びます[2]。

実測値はdaily.devのまとめが具体的です。PS5 Slimでの生成速度は、Qwen 3.5 0.8Bが毎秒約207トークン、9Bモデルが毎秒55トークンです[4]。27Bモデルでは、64kコンテキストを確保しつつ毎秒約20トークンという数字も示されています[4]。READMEには、PS5 Slim上のQwen 3.5 9BがノートPCからのリクエストに答える動画も貼られています[2]。9Bで毎秒55トークンなら、会話の待ち時間は気にならない水準です。

動いているのは本体だけです。稼働中にPCは不要で、クラウドもアカウントもいりません。OpenAI互換とAnthropic互換のAPIを公開し、Claude Codeもそのまま接続できました[2]。ブラウザのチャットページも用意されています。テレビ画面では、どの機器が何を尋ね、答えが書かれていくかがリアルタイムで流れます。□ボタンでデモ送信、△ボタンでキーボード表示と、ソファから試せる作り込みです[2]。温度・電力・GPUとCPU負荷を2分または1時間のグラフで確認できるテレメトリ(本体状態の計測)画面も付きました[2]。

さらに目新しいのが「決定モデル」への対応です。決定モデルは、文章を生成するのでなく判断を下すことに特化したモデルです。d1、Clef、OpenJevといったJev系の決定モデルをGPUで動かし、PC向けの「Ollaya」と同じ形式のAPIに答えます。テキストや画像についての選択・スコア・二択の問いに、確率付きの判断をほんの一瞬で返します[2]。長文を書かせるのではなく、素早く判断を下させる用途に絞ったサーバー像です。

しかし、称賛一色ではありません。daily.devのコミュニティでは、PS5が本当に割の良い基盤なのかを巡り、ミニPCやBC-250マイニングボードとの比較議論が長く続きました[4]。セットアップのハードルも無視できません。対応するのは、ファームウェア7.00〜13.60という限定バージョンです。加えて、etaHENやkstuff-liteといった自作ソフト導入用の専用ツールが前提で、脱獄ならではの制約です[4]。Sonyの権利行使でGitHubから削除される可能性を案じる声もあります[4]。実際に、複数のミラーリポジトリがGitHub上に並んでいます[5]。

Hacker Newsのコメント欄も賑やかでした。「11.4GBの共有メモリは、GPUを持たない人には面白い」という評価があれば[3]、PlayStation 3によるクラスタ計算(複数のマシンを束ねて一つの計算機にする手法)を引き合いに出す人もいました。「Beowulfクラスタを想像できるか」という定番ジョークや、「Anthropicの自己複製モデルがPS5を乗っ取る日も近い」という冗談まで飛び交いました。冗談抜きに、遊ばせているゲーム機をAI計算の拠点に見立てる発想は、かつてのPS3クラスタの文脈を思わせます。

「近いうちに、とんでもなくランダムな機器がモデルをホストするようになるだろう」というコメントが、この流れをうまく言い表しています。実測値と弱点がそろって見えたことで、PS5LMはネタを超えた選択肢の一つとして追跡する価値を保っています。テレビの下の本体が家庭内のネットワークにAIを配る――そんな姿が少しずつ現実になりつつあるようです。