GoogleがFamily Link管理下の13歳未満にGeminiアプリを数週間以内に開放すると保護者に通知しました。初期状態で有効で、子ども自身が切り替えられ、初回起動時には保護者へメールが届きます。物語作成や宿題支援などの機能が示される一方、フィルター付きでもリスクは残るとの報告もあり、安全策の実効性が問われています。
タグ: ガジェット
続報・巨大MoEをスマホで流すllama.cpp拡張、道具と解説が揃い始める
RAMに入りきらない巨大MoEモデルをスマホやノートで動かすllama.cpp拡張が、実装と解説の両面で広がっています。BigMoeOnEdgeやllama.moe(zilong)などの道具が登場した一方、実測速度の数値はまだ公開されておらず、検証が今後の焦点です。
続・流れについていけない 疲労の実数とAI加速のギャップ
AIについていけないという感覚には、裏づけとなるデータが集まっています。デジタル機器で不調を感じる人は約8割、日本の生成AI利用経験は26.7%にとどまり、市場投資だけが約3倍に拡大する見込みです。疲労の実数と加速のギャップを整理します。
続・RTX 3090追跡:59モデルを実測したガイドが示す24GBの現在地
RTX 3090でのローカルAI運用がさらに具体化しました。1.7B〜35Bの59モデルの実測をまとめたガイドでは、32BモデルをGPUだけで動かし、速度は毎秒17〜90トークンに達しています。リバースエンジニアリング用途でのローカル需要も広がりました。
続報・llama.cppのMoE層、スマホやノートへ実装が広がる
llama.cppのMoEオフロードに、スマホやノートを狙うラッパーや動的オフロードのフレームワークが登場し、実装が増えています。Qwen3-Coder 30Bはトークンごとに3Bだけ動くものの、重みの置き場所が壁で、RAMへの逃がしは速度との引き換えです。
続・OpenClaw追跡:ゲートウェイの設計と、変種まで広がった検証
自宅のPCで動くAIエージェント「OpenClaw」に、設計資料と第三者セキュリティ論文という新動きが出てきました。中心は全チャットをさばくゲートウェイで、最新安定版は裏方タスクをSQLiteで一元管理します。論文は本体に加え「変種」も検証対象に据えました。
続報・巨大MoEをスマホやノートで動かすllama.cppラッパーが登場
llama.cppのMoEオフロードをめぐり、スマホやノートPCで巨大MoEを動かすラッパーがHacker Newsに投稿されました。Qwen3-235B-A22Bは総235Bのうち約22Bだけが動くため、16GBのGPUでも動かせます。ただしラッパー自体の実測値はまだありません。
脱獄したPS5でGGUFモデルが動く、PS5LMの実力と限界
脱獄したPS5でllama.cppを動かし、GGUFモデルを本体で実行する「PS5LM」が話題です。PS5 SlimのGPUでは0.8Bが約207トークン/秒、27Bも約20トークン/秒で動き、OpenAI互換APIも備えます。脱獄が前提で、Sonyの対応やコスパをめぐる議論もあります。
続報・llama.cppのMoE、エキスパート先読みで2倍のめど
llama.cppのMoEオフロードについて、仕組みと速度の代償を解説する記事が相次ぎ登場しました。エキスパート重みをシステムRAMに置く手法は235Bモデルを16GB GPUで動かせますが、速度との交換です。ディスクからの先読みでは約2倍のスループット向上が報告されています。
続報・llama.cppのMoE拡張、ディスクからエキスパートを流す新方式
VRAMに収まらないMoEモデルをローカルで動かすllama.cppの拡張が進んでいます。層ごとにエキスパートをRAMへ置く方式に加え、必要なエキスパートをディスクから先読みする方式では約2倍のスループット向上が報告され、複数の実装が登場しています。













RECENT COMMENTS