NVIDIAのフアンCEOが、AIエージェント実行用ソフトをGPU1枚あたり年約2000ドルでライセンスする考えを示しました。500万件なら年間100億ドル、5年で500億ドルの試算もあります。一方で対象範囲は未確定で、既存AI Enterprise(4500ドル)との関係も不明です。

続きを読む →

DeepSeek-V4.1-Flashの2bit量子化版を巡り、Redditで「ベンチマークが飽和していて劣化を測れない」と検証を問う声が上がっています。IQ2_XXSは元モデルと同等スコア、AIME25は全バージョンで100です。KLDやPPLの実測が待たれる段階です。

続きを読む →

GPTQを生んだISTA-DASLabが、763BのMoEモデルDeepSeek-V4.1-Flashをテンソルごとに精度を変えて圧縮するGSQ-RCO量子化を公開。最小1.75bpwで、Strataとの組み合わせにより12GB GPU1枚での推論が可能です。ただし2bitでの品質を測るKLDの実測を求める声も上がっています。

続きを読む →