脱獄したPS5でllama.cppを動かす「PS5LM」がv0.9.1に更新。ログあふれによるサーバー停止やストレージ接続の不具合が直り、TV操作画面やモデル自動計画など機能も充実しました。家庭用ゲーム機がローカルAIの土台となる動きを追います。

続きを読む →

MoEモデルの専門家を必要な分だけディスクやRAMから読み込む「ストリーミング推論」の試みが相次いでいます。llama.cppでは30B級モデルが16GB GPUで動き、読み込みと計算の重ね合わせで約2倍の速度向上も報告されました。ローカル推論のメモリとの付き合い方が変わる可能性を示す話題です。

続きを読む →

脱獄したPS5のGPUでllama.cppを動かし、家庭のLANにAIモデルを提供する「PS5LM」が話題です。Qwen 3.5 9Bで毎秒55トークンなど実測が示され、OpenAI互換APIでClaude Codeも動きます。比較論や削除リスクの議論も紹介します。

続きを読む →

5chの「流れについていけない」スレッドから、AIに置いていかれる実感を裏づける調査が複数見つかった。AMAやPwCは職場での取り残されを指摘する一方、Verasightでは半数近くが「感じていない」と回答。OpenAIが13〜17歳向けの安全機能を発表するなど、家庭や学校の側の対応も進み始めた。

続きを読む →

3世代前のRTX 3090が中古市場で値上がりし、1月から約5割の上昇。eBay落札68件の集計では中古品の中央値が1,275ドルに達しました。24GB VRAMが34Bクラスのローカル推論の分かれ目であることが背景で、購入リスクも増えています。

続きを読む →

ローカルでQwen3.8-Flash-Next(125B)を動かすStrataが0.2.2に更新。GPUごとにMain/Helper/Offの役割を割り当てる新機能やIntel Arc・Mac対応が加わりました。使用者はIQ4 xs量子化で「昨年の業務用モデル並み」と評しています。

続きを読む →

OpenAIが、AIにテスト中と気づかせず素の反応を引き出す新手法を公開しました。ティーン向け機能の発表やAI不安の世論調査も話題です。AIとの向き合い方を巡る議論が掲示板で注目を集めています。

続きを読む →

リビングのゲーム機が、そのままAIサーバーになる――。脱獄(メーカーの制限を外して自作ソフトを動かす改造)済みのPlayStation 5でAIを動かすプロジェクト「PS5LM」が注目を集めています。心臓部は、AIモデルを実行するオープンソースの推論エンジンllama.cppです。Hacker Ne […]

続きを読む

リビングのゲーム機が、そのままAIサーバーになる。そんな試みが一段階進みました。PlayStation 5を脱獄(メーカーの制限を解く改造)し、llama.cppを動かす試みが「PS5LM」です。llama.cppは、ローカルで大規模言語モデルを動かす定番ソフトです。Hacker Newsでは375 […]

続きを読む

テレビの下に置いたゲーム機が、そのままAIサーバーになる。そんな光景が実際に動き始めました。舞台はジャイルブレイク(本体の制限を解除する改造)済みのPS5です。ローカルで大規模言語モデルを動かす定番ソフトllama.cppを、PS5で動かすオープンソースプロジェクト。それが「PS5LM」です。開発者 […]

続きを読む