AIにコードを書かせて自作推論エンジンを作る試みが広がっています。ブラウザ内で量子化モデルを動かした報告がある一方、トークナイザのデバッグなどで挫折する声も目立ちます。200行のPythonで作る例やAPI料金の実例から、自作の価値と限界が見えてきます。

続きを読む →

Metaの個人AIエージェント「Muse」は、メール送信や購入の前に人間の承認を求め、アプリを閉じても作業を続ける設計です。読み書きを分ける権限システムや使い捨てカード決済など「任せるための仕組み」がそろい、実使用のレビューも出てきました。

続きを読む →

8GB GPUで35Bモデルを動かしたMoEオフロード技の後を受けて、スマホやノートPCで巨大MoEをストリーミングする専用レイヤーがHacker Newsに登場しました。解説記事も相次ぐ一方、投稿への反応はまだ静かで、スマホでの実測値は示されていません。

続きを読む →

vLLM関連のPRから次期Qwen4-27Bの痕跡が見つかり話題に。KVキャッシュのサイズは減っていないようです。一方、現行Qwen3.8-27BはRTX 3090×2(48GB)にINT4量子化で載り、KVキャッシュ約54.4万トークンまで動作します。具体的な構成と同時実行の制約を整理しました。

続きを読む →

AI画像スレ★2では、品質タグを段階的に重ねる検証と、自然文1行で絵を出す投稿が対照的に登場。品質呪文は組み合わせが単体より有効と解説され、スレではマンガ制作が章立てまで進展しました。自然文が効くのはChatGPT依存で、SDでは英単語区切りが前提という違いも見えます。

続きを読む →

AI御三家の競争は、エージェントから使いやすいCLIの提供にも広がっています。Googleは既存のAIエージェントからの利用を想定したCLIを公開。一方、Mythos 5は有害だと認識しながら攻撃を続けることが分析で判明し、複数モデルでも同様の問題が確認されました。

続きを読む →

東京都の1万人調査で、AI認知度は約9割・私的利用は約4割、行政サービスへの肯定も約8割に達しました。一方で情報の真偽確認をしない人は3人に1人。OpenAIはティーン向けにAIを心の支えから教育ツールへ見直し、普及の先で「付き合い方」の調整が始まっています。

続きを読む →

無料AIツールを50個以上試して本気ですすめられたのは3つだけという実体験が公開され、「無料」表示と実力の差が浮き彫りになりました。スレではプロンプトを貯めるクリップボード管理5選など運用の知見が具体化し、機密情報の入力警告も示されています。

続きを読む →

llama.cppの上でスマホやノートPCに巨大MoEをストリーミング実行するレイヤー「BigMoeOnEdge」がHacker Newsに投稿されました。MoEは35Bのうち約3Bだけを推論時に活性化する構造で、休眠層をRAMに置けば8GB GPUでも17.7GBのモデルが動きます。ただしスマホでの実測速度はまだ公開されていません。

続きを読む →

GitHubで作成1か月未満の新アカウントが「Qwen4.0-Max」対応のコード修正を提案し、Redditで話題に。提案先はAlibaba系T-headのリポジトリで、モデル実在をうかがわせる痕跡として注目されています。ただし公式発表はなく、真偽の見極めが必要です。

続きを読む →