DNAの配列を貼り付けて英語で質問すると、AIが答えてくれる——。そんなモデルが実際に登場しました。Hugging FaceのバイオチームHuggingFaceBioが公開したCarbon-Xは、DNAと自然言語を1つのモデルで同時に扱う14Bの言語モデルです[1][3]。Redditのr/LocalLLaMAでは「ローカルで動く最高のオープンDNA言語モデル」と紹介され、話題になっています[1]。
できることは幅広いです。変異が良性か病原性かの予測、遺伝子の働きを制御する領域の特定、生物種グループの分類、配列の次の塩基の予測など。しかも、その過程を英語で説明してくれます[3]。応答にはDNAと自然言語が混在して現れることもあり、まさにDNAと「会話」できるモデルです[3]。海外メディアも「DNAとチャットできるAI」として取り上げました[6]。
仕組みの核心はハイブリッドトークナイザです。トークナイザは、文章をモデルが扱う単位(トークン)に分割する仕組みです。Carbon-Xは英語にBPEを使い、DNAには6-merを使い分けます。BPEは、よく使う文字列を1単位にまとめる方式です。6-merは、DNAの塩基6個を1トークンにまとめる方式です[3]。会話の途中に<dna>タグが現れると、DNAモードに切り替わります[2]。DNAとテキストは、1つのデコーダで1つのトークン列として扱われます。そのため、別個のDNAエンコーダは不要です[3]。
ベースはQwen3 14Bです。同チームはこのモデルに、DNAと自然言語の混合データでミッドトレーニング(事前学習の途中段階で行う追加学習)を実施しました[1]。パラメータ数は14.8B、40層構造で、GQA(推論時のメモリ消費を抑えるアテンション構造)を採用しています[3]。なお、Carbonファミリーの学習には、Carbon Pretraining Corpusというコーパスから1Tトークン(約6TのDNA塩基対)が使われています[2]。
性能が目を引きます。変異効果予測、配列理解、次塩基予測を含む5つのDNAベンチマークで、思考モードを無効にした状態の平均スコアは66.7%。出発点のQwen3-14Bから27ポイントの上乗せで、評価した他のオープンモデル全てを上回りました[3]。比較モデルは、各々が最良の成績を出せる推論設定で評価されています。それでも、クローズドのGPT-6.1 Sol(67.5%)に肉薄しました。問題あたりの推論コストは約1800分の1で[3]、発表時には「約1000分の1のコスト」とも紹介されています[1]。コーディング変異(タンパク質の設計図に当たる領域の変異)の効果予測と次塩基予測では、比較した全モデル中で首位です[3]。
コスト差は具体例がわかりやすいです。変異データベースClinVarにある240万件の「意義不明」変異の解析を、Carbon-Xなら約300ドルで行えます。評価されたフロンティアモデルでは、3万2000ドルから400万ドルかかる見込みです[3]。拡張推論を行わず直接答えるため、1問あたりの出力トークンが少なくて済むのが理由です[3]。重みはbfloat16(16ビットで保持する数値形式)なら80GB GPU 1枚に収まります[3]。GGUF版(llama.cpp用の軽量形式)も公開済みで、手元の環境での実行が可能です[1]。ブラウザで試せるデモもHugging Face Spaceにあります[6][6]。
一方で、頂点を取れたわけではありません。平均スコアはGPT-6.1 Solに0.8ポイント届かず[3]、あくまでオープンモデルの中での首位です。評価環境の課題も残ります。Carbonチームは、zero-shot(追加学習なしで行う)DNA評価が複数リポジトリに散らばり、再現が難しい実情を指摘。評価コードを整理して公開し、特定タスクに合わせた追加学習用のスクリプトも同梱しています[2]。NatureにもDNA基盤モデルをゲノム・遺伝のタスクで比べるベンチマーク論文が発表されるなど[4][5]、評価の整備が進んでいる分野です。
なぜオープンにこだわるのか。開発チームは、バイオのデータは機密性が非常に高く、フロンティアモデルが日常的なゲノミクスの要求をしばしば拒否することが、正当な研究の妨げになると説明します[1]。重みが手元のGPUに収まることで、未公開の配列を外部に出さずに解析できます[3]。DNAと自然言語を1つのモデルでつなぎ、コストを桁違いに下げるCarbon-Xは、AI for Biologyを「誰の手元に」引き寄せた一歩と言えそうです。
RECENT COMMENTS