vLLMはAI推論エンジンだけでなく、ベンチマークやマルチGPU運用の基準です。RTX 5090とAMD iGPUの混在実験では、対応範囲の限界と48%高速化の工夫が示されました。NVIDIAとAMDの具体値から速度比較の落とし穴まで読み解きます。
アーカイブ: 2026年11月
続・Meta Muse、無料でも承認と確認が仕事になる
[2026-11-18 更新] Meta Museは無料枠から使えるAIエージェントです。利用には権限と承認が伴い、ユーザー報告では推論やサブエージェントの消費が課題になりました。本記事ではその実用と摩擦を整理します。
AI推論とシンギュラリティ、文化と議論の現在地
2045年のシンギュラリティ予測が、生成AIの進展で前倒しになるのかと論じられています。AGIは2029年頃とされ、自己改善ループが核心です。本記事は、技術予測と実装の距離、証拠と反論を整理し、文化と議論の現在地を示します。
続・Abliterated Strata、パック化と速度の実測
[2026-11-18 更新] Abliterated Strataは、AIの拒否を重みから消す実験が広がり、Flash系モデルの実用化と安全評価の空白が焦点です。1,010件の索引や125B級の実証から、推論前の改変がどこまで検証されているかを見ます。
続・Qwen4、1.2T MoEとSWE-bench数値が示す公開準備
AlibabaのQwen4を巡り、1.2T MoEやSWE-bench 78.6%といった漏洩情報が広がっています。hacker界隈で注目される評価ですが、ローカル実行に必要な量子化版や実測TPSは未確定です。
続・Abliterated Strata、実測と評価の分岐
Abliterated Strataは、Flash 125Bをローカル推論で動かす話から、ベンチマークと実測の読み分けへ移っています。70トークン/秒や2x RTX 3060などの構成、多言語評価が加わり、速さだけでは決まらない実用性が浮かびます。
続・Meta Muse:無料枠と実務でのつまずきを追跡
Meta の AI エージェント「Muse」は日本で無料で試せますが、5ch では指示出しの負担や VM の仕様、トークン消費の報告が出ています。本稿は料金やプライバシーの注意点も整理し、実務でのつまずきを追跡します。
続・RTX 3090、48GBの落とし穴はPCIe設定
中古RTX 3090を2枚で48GBにする構成が、ローカルAIの定番として続いています。既定設定ではPCIeがGen3に落ち、P2PがCPU経由になり、2048トークン超で出力が乱れる報告もあります。48GBを1.5〜2倍に活かすPCIe設定とR9700比較を追います。
追跡:Altman氏の発言、AGIと安全のあいだで
[2026-11-16 更新] Sam Altman 氏は OpenAI の 2026 年 IPO を否定し、ai safety(AI 安全)と alignment への対応を理由に挙げました。hacker 騒動や Anthropic の慎重論も背景に、製品発表と上場準備の距離が広がっています。
続・Strata:動画生成と名称の広がり
StrataでQwen3.8 Flash Nextの量子化モデルをRTX 4080で動かし、モーション動画を生成した報告が話題です。decodeは約95、prefillは約3000トークン/秒で、完成に約2時間です。名称の広がりも読み解きます。













RECENT COMMENTS