脱獄したPS5でllama.cppを動かし、GGUFモデルをGPUで推論する「PS5LM」が話題です。PS5 Slimでは0.8Bモデルが約207トークン/秒、9Bで55トークン/秒。11.4GBの共有メモリをOpenAI互換APIでLAN内から使えます。セットアップの難しさや割に合うかの議論も盛んです。

続きを読む →

ジャイルブレイクしたPS5でllama.cppを動かす「PS5LM」が、Hacker Newsで375ポイントの注目を集めています。PS5のGPUと11.4GBの共有メモリでGGUFモデルを推論し、OpenAI互換APIでClaude Codeからも使えます。0.8Bで207トークン/秒、9Bで55トークン/秒の実測がある一方、Sony対応やコスパをめぐる議論も。

続きを読む →

脱獄したPS5でllama.cppを動かす「PS5LM」がv0.9.1に更新。ログあふれによるサーバー停止やストレージ接続の不具合が直り、TV操作画面やモデル自動計画など機能も充実しました。家庭用ゲーム機がローカルAIの土台となる動きを追います。

続きを読む →

テレビの下に置いたゲーム機が、そのままAIサーバーになる。そんな光景が実際に動き始めました。舞台はジャイルブレイク(本体の制限を解除する改造)済みのPS5です。ローカルで大規模言語モデルを動かす定番ソフトllama.cppを、PS5で動かすオープンソースプロジェクト。それが「PS5LM」です。開発者 […]

続きを読む

脱獄したPS5でllama.cppを動かすPS5LMが、GPU推論とOpenAI互換APIまで進みました。27Bモデルで約20トークン毎秒、9Bで55トークン毎秒などの実測がHacker Newsで注目されています。

続きを読む →

ジェイルブレイクしたPS5でllama.cppを動かす「PS5LM」の続報が話題です。OpenAI風APIやテレビ画面向けのUIを備え、27Bモデルが9〜21 tok/sで動きました。改造前提ながら、家庭の端末にAIを置く可能性を示しています。

続きを読む →

ジェイルブレイクしたPS5でAIモデルを動かすPS5LMが、ペイロードからGPUネイティブアプリへ進化。Qwen3.8 27Bが9〜21トークン毎秒で動き、OpenAI互換APIも使えます。ただしファームウェア条件やセットアップの重さが課題です。

続きを読む →