Abliterated Strataは、Flash 125Bをローカル推論で動かす話から、ベンチマークと実測の読み分けへ移っています。70トークン/秒や2x RTX 3060などの構成、多言語評価が加わり、速さだけでは決まらない実用性が浮かびます。

続きを読む →

Meta の AI エージェント「Muse」は日本で無料で試せますが、5ch では指示出しの負担や VM の仕様、トークン消費の報告が出ています。本稿は料金やプライバシーの注意点も整理し、実務でのつまずきを追跡します。

続きを読む →

中古RTX 3090を2枚で48GBにする構成が、ローカルAIの定番として続いています。既定設定ではPCIeがGen3に落ち、P2PがCPU経由になり、2048トークン超で出力が乱れる報告もあります。48GBを1.5〜2倍に活かすPCIe設定とR9700比較を追います。

続きを読む →

Sam Altman氏は2026年、OpenAIの使命文書やAGI目標を繰り返し発信しました。国防総省との契約やIPO見送りなど、商業と安全のバランスが問われています。本文では公開発言からAI路線の現在地をたどり、業界の課題を浮かび上がらせます。

続きを読む →

StrataでQwen3.8 Flash Nextの量子化モデルをRTX 4080で動かし、モーション動画を生成した報告が話題です。decodeは約95、prefillは約3000トークン/秒で、完成に約2時間です。名称の広がりも読み解きます。

続きを読む →

OpenAIはChatGPT ProのWorkとCodexの枠を倍増し、Pro 200の減枠計画を撤回しました。チャット枠は別で、統合テストや12月の共有制限が今後の焦点です。誰が得をするか、どこに注意すべきかが見えてきます。

続きを読む →

ローカルAIのllama.cppで、モデル切替や再起動後に推論が遅くなる原因がKVキャッシュの再計算にあると話題です。スリープで2秒以内の切替、セッションの保存・復元が注目されています。キャッシュ再利用の仕組みと注意点、ベンチマークの使い方もわかります。

続きを読む →

AlibabaのAIモデルQwen4は、7B〜72BのオープンウェイトとMaxの二本立てが漏れたとされます。匿名モデルや推論設定の公開準備も進み、ローカルでは小さいモデルが候補です。量子化やVRAMの情報は未確認です。

続きを読む →

Redditでは、Qwen3.5-0.8Bを微調整して英語からbashコマンドを生成する試みが話題です。471件の評価では、微調整版が79.4%、未調整版が14.9%でした。ローカル実行に必要なVRAMや注意点もわかります。

続きを読む →

Abliterated Strataは、拒否行動を除いたQwen3.8-Flash-NextをStrataでローカル推論します。962件の索引、398K件のダウンロード、125Bを12GBのGPUで試せる魅力と、量子化や裏口リスクの注意点も見えます。

続きを読む →