Redditでは、0.1B級の埋め込みモデルが8B級を置き換えたという報告が話題になりました。ローカルRAGでは推論の速さと検索品質のバランスが重要で、小モデルでも用途次第で有力です。ただし評価は検索指標に限られ、回答精度とは別です。
RECENT POST
-
2026.11.07
続・NVIDIA：H100は現役の主役、形態と価格で分岐 -
2026.11.07
続・Hermes追跡（16）：アーキテクチャと評価の現在 -
2026.11.07
続・GGUFはMoE実装の入口、Xing4.0の量子化で見る中間型
RECENT COMMENTS