タグ: Dots

Dots追跡続報:dots.llm1は合成データなしで学習、学習過程も公開

Dotsファミリーの大規模MoE「dots.llm1」の設計と公開方針を整理しました。142B中14Bだけを動かす構造に加え、合成データなしの事前学習でQwen2.5-72Bに並ぶ性能と、学習全過程の中間チェックポイント公開が特徴です。日本語非対応と実測値の不足が課題として残ります。

Dots追跡その後:dots.mocrは3BでOCRとレイアウト解析を統合

Dots系の文書解析モデルdots.ocrがdots.mocrへ刷新。3BパラメータのVLM1つでレイアウト検出・文字認識・図表解析を統合し、Gemini 3 Flashを審査員に立てたElo評価で同サイズ最高水準とされます。vllmなどでのローカル推論も可能で、仕組みと評価方法、留意点を整理しました。

続・Dots追跡:dots.ocr技術詳細、1.7Bでレイアウトと認識を統合

文書解析AI「dots.ocr」を追った継続記事。1.7BのVLM1つでレイアウト検出と文字認識を統合し、100言語・1493枚の社内ベンチマークで低資源言語に強みを示す。2026年3月にはdots.mocrへ改称し、図表をSVGコードへ直接変換する方向に進化。評価条件の混在という注意点も整理した。

続・Dots追跡:dots.llm1技術報告公開、専門家128人のMoE設計

Dotsシリーズの言語モデルdots.llm1の技術報告がarXivで公開されました。128の選択型専門家と2つの共有専門家を持つMoE構成で、ベンチマークでは競争力を示す一方、実行環境で性能が大きく変わる点が注目です。ローカル推論の実測値はまだ素材になく、今後の検証が待たれます。

CALENDAR

2026年11月
日 月 火 水 木 金 土
1234567
891011121314
15161718192021
22232425262728
2930  

ARCHIVES

CATEGORIES