Cohereがllama.cpp対応を進め、視覚エンコーダとcohere2-MoEが扱えるようになりました。North Mini Codeは総30B・実際に動くのは3B、コンテキスト256Kです。注目は対応の広がりから、環境ごとの実測値へ移っています。
Cohereがllama.cpp対応を進め、視覚エンコーダとcohere2-MoEが扱えるようになりました。North Mini Codeは総30B・実際に動くのは3B、コンテキスト256Kです。注目は対応の広がりから、環境ごとの実測値へ移っています。
RECENT COMMENTS