AIモデルのTernary Bonsai 2は27B級を5.9GBに圧縮し、ローカル推論で話題です。ik_llama.cppや専用ビルドでCUDA/CPUが動作し、8GBカードで65〜73 tok/sの報告もあります。制約や設定の落とし穴もわかります。
RECENT POST
-
2026.11.01
続・Gemini Tasks、改名後の課金と安全の落とし穴 -
2026.11.01
Altman氏、AIの推論速度と安全を語る -
2026.11.01
Ternary Bonsai 2、ローカル推論の壁を越えた
RECENT COMMENTS