AIエージェントの振る舞いをCIで自動検証するCATTが0.2.1に更新。模倣した振る舞いの根拠を4段階のラベルで明示する一方、合格しても公式アシスタントとの互換は保証しないと明言しています。エージェントをgVisorなどで隔離する動きもあわせて追いました。
アーカイブ: 2026年10月24日
続・Qwen3追跡:最小0.6BのMoE化挑戦と公式レポートの設計思想
Qwen3最小モデル0.6BをMoE構造に変換する試みがローカルコミュニティで話題です。Qwen3は共有エキスパートを持たず品質維持が難しく、疑似共有エキスパートで対処しました。公式レポートはthinkingモード統合や多言語対応29から119への拡大を示しています。
続・Dots追跡:dots.ocr技術詳細、1.7Bでレイアウトと認識を統合
文書解析AI「dots.ocr」を追った継続記事。1.7BのVLM1つでレイアウト検出と文字認識を統合し、100言語・1493枚の社内ベンチマークで低資源言語に強みを示す。2026年3月にはdots.mocrへ改称し、図表をSVGコードへ直接変換する方向に進化。評価条件の混在という注意点も整理した。
PS5LM追跡:PS5のGPUでLLM推論、9Bモデルが55トークン/秒
脱獄PS5でllama.cppを動かすPS5LMの追跡記事です。GPU活用ではQwen3.5 0.8Bで約207トークン/秒、9Bで55トークン/秒、27Bでも約20トークン/秒の実測が報告されました。llama.cpp本体を移植する方式の強みと、削除リスク・コスパ論争も解説します。
自作推論エンジンが続々、難所はトークナイザのデバッグ地獄
LLM推論エンジンの自作が各所で試されています。純Python約200行でKVキャッシュ付きの生成を実現した記事や、HTML内で量子化モデルを動かした投稿が登場。ただし難所はトークナイザで、投稿者は「llama.cppをcloneしたほうがいい」と締めています。
llama.cppのMoEオフロード、8GB GPUで35Bモデルが動き出す
VRAM 8GBのノートGPUで35Bモデルを動かすMoEオフロード手法が注目されています。MoEは推論で動く部分が約3Bと少なく、待機エキスパートをRAMへ置けばVRAMの壁を越えられます。スマホ向けの拡張レイヤー投稿や実践ガイドも出てきました。
AIに頼って推論エンジンを自作したら、地獄はトークナイザだった
Redditで、AIとの対話でLLM推論エンジンを自作した報告が話題です。GGUFのQ4量子化モデルをブラウザのWebGL2で動かせた一方、トークナイザはデバッグ地獄だったといい、結論は「llama.cppをクローンしろ」。自作の価値と限界がわかる投稿です。
AI画像スレその後:無料ChatGPTの「修正→再生成」術とツール選び
AI画像投稿スレでは、無料版ChatGPTだけで「生成→部分修正→再生成」を繰り返して場面を仕上げる手法が紹介されました。2026年の画像生成AIは無料枠の有無や表現の自由度など各ツールの差が明確になり、比較・解説記事も増えています。
続・Muse追跡:広告を載せず手数料で儲ける設計と、専用VMで守る信頼
Metaの個人向けAIエージェント「Muse」は、広告を載せず取引手数料で利益を出す方針を明確にしました。利用者ごとの専用VMと権限管理「Sentinel」、購入前の承認という安全設計も見えてきます。儲けの仕組みと信頼の作り方を、レビューの動向と合わせて読み解きます。












RECENT COMMENTS