AIコーディングの文脈ウィンドウを、ガベージコレクションやRust製ツールで整理する動きが続いています。8192トークン予算で約3200トークンに絞る実例や40%削減の報告から、推論の質とコストの両立が課題だとわかります。
投稿者: n-kase
NVIDIAの音声モデル、NIMでは高速だが公開版は制約
NVIDIAが音声aiモデルNemotron 3.5 Transcribeを公開しました。最適化NIMでは1枚のGPUで毎秒2,238秒分の音声を処理できるとされます。公開版の速度差やローカル実行の注意点を読み解きます。
MoEの待ち合わせを減らすCUDAカーネル融合
CUDA MoE kernelの融合で、prefill速度が最大17.2%伸びたと報告された。カーネル起動やGPU同期を減らし、段階ごとに分ける設計が鍵になる。MoE推論の高速化は、メモリ往復や移植性まで含む話だとわかる。
続・RTX 3090追跡:実測件数と設置条件で見る6年目
RTX 3090は2026年も検証が続きます。最新素材では5090 D比63.25%の総合性能、PassMark17758件、350Wと3スロットの設置条件が確認できます。AI推論のローカル実行では、実測の厚みと物理制約の両面が重要です。
続・Hermes追跡(12)、信頼評価で問われるAIエージェント
ai(AI)エージェントのHermesは、7週間でGitHubスター95,600を超えました。今回は自己改善より、信頼評価に焦点を移します。12項目や16次元のスコアカード、敵対的圧力での検証を追います。設計と評価の距離が見えます。
最新GrokBot追跡:エージェント基盤とベータの課題
GrokBotはxAIのAIエージェントとして、開発者向けの基盤に組み込まれつつあります。今回はGrok Buildというエージェントの土台と、ベータ段階で残る課題を整理します。接続、設定、推論の部品がどう揃い、どこが測れていないかがわかります。
続・Qwen重みにCPUを埋めたQwenputerが話題
aiの話題として、Qwenの重みに32bit RISC-V CPUを埋めたQwenputerが注目されています。算術ベンチの正答率は48.6%から100%に上がり、推論の内部実行が報告されました。教育用実装やベンチ資料も並んでいます。
続・AIチャット総合スレ GPT-6.1 Terraと安全評価の進展
GPT-6.1 TerraはAgents’ Last ExamでGPT-6 Astraと同等とされ、タスク完了が平均3分の1未満、API価格は50%減です。一方、長期実行での安全評価では危険を認識しても行動が続く課題が報告されています。性能と信頼の両面を数字で追跡します。
AI画像スレ追跡:生成後の評価と発見の自動化が進む
ai(人工知能)画像スレの続報です。flash的な追跡として、一文プロンプトの再現だけでなく、設定ファイルや修正履歴、マンガ風の連作、評価資料、スレ発見の自動化が話題です。生成後の評価と運用の視点が広がっています。
Dots追跡最新:ローカル推論の裏側で進むバックエンド選択
Dotsの話題は、dots.mocrの推論バックエンドとDOTSのローカル運用に移りました。vLLMとHuggingFaceの使い分け、discoverやai-serverの役割が読み取れます。今回の素材に速度や価格の数値はありません。













RECENT COMMENTS