音声合成AIが、GPUなしのCPUだけでリアルタイムに動く時代が来ました。KittenMLが公開したKitten-TTS 2は、重みを「-1、0、+1」の3値だけに丸める1.58bit方式を世界で初めて採用したTTS(テキスト読み上げ)モデルです。コードと重みがセットで公開され、誰でもローカルで試せます[1]。
仕組みを簡単に見てみましょう。量子化(重みを圧縮してメモリと計算を減らす仕組み)のひとつで、通常は細かい数値の連なりである重みを3値に置き換えます。Kitten-TTS 2は線形層の重みをすべて3値にし、スケールは128ごとに保持します。モデル全体は1.7Bパラメータで、CPU向けに最適化された計算処理だけでリアルタイム生成が可能です[1]。開発元は「最も効率的なフロンティア音声AI」をうたい文句にしています。
中身も具体的です。GitHubの説明によると、5〜30秒の音声からファインチューニングなしで声を複製でき、内蔵ボイスは47種類。日本語を含む20言語に対応し、出力は24kHzです[3]。数字や日付、通貨は自動で展開され、長文は文ごとに区切ってつなぐ設計です[3]。モデルはテキストを読んでコーデックのトークンの列を出し、ボコーダー(トークンを音の波形に戻す変換器)が音声にします[6]。動作環境はCPUでメモリ約6GB、GPUならVRAM約8GB。モデルの容量は約1GB、小型版では506MiBです[3]。同じライブラリから15M〜80Mの小型モデル群も同じ要領で読み込めます[3]。推論はllama.cpp(ローカルLLM向けの定番エンジン)のフォークをC++で最適化したもので、Appleシリコンでは実時間の数倍で動くとされています[3]。ボイスにはJapaneseTrainConductorのような多言語用の名前が並び、[emotion]タグなどで感情表現も指示できます[6]。
同じ頃話題になったのが、inclusionAIのLing-3.0-flash-Santeです。Ling-3.0-flashをベースにヘルスケア分野へ特化させたモデルで、名前はフランス語の「健康(santé)」に由来します。全体で124B、推論時に動くのは1トークンあたり5.1BというMoE構造で、コンテキストは256K。医療での推論や研究、ツール連携を主な用途にしつつ、一般能力も保つ設計です[4]。重みはHugging FaceとModelScopeで公開されています[4]。Redditの投稿者は「1日に2つのモデル発表があった」と驚いた上で、一般ランキングの点数を競うより「分野を選んで作り込み、重みを渡す」方向が面白いと書いています。
周辺を見ても、ローカル志向の動きが重なっています。macOS 27にはターミナルから呼び出せるオフラインLLMが組み込まれたと報告があり[5]、ハッカーニュースでは鍵を持ち込みで使える無料のローカル優先パイプライン構築ツールTernlux[2]や、ローカルLLM向けの永続的ワークフロー基盤Hornet[8]が紹介されました。いずれも投稿されたばかりで、議論はこれからです。r/LocalLLaMAでは隔週でプロジェクト紹介スレッドが開かれ、オープンなローカル実行ソフトに絞る運営方針も示されています。
しかし、実用には細かい壁もあります。Kitten-TTS 2の感情(エモーション)の制御はベータ版で、声や文によって効果が変わる「演出の誘導」であり、保証ではありません[6]。英語以外のテキストでは前処理(正規化)をオフにしないと、数字や日付が崩れるとの注意書きもあります[6]。Santeも研究用モデルであって医療機器ではなく、出力が不完全・不正確になる場合があり、専門家の判断の代わりにはできないと明記されています[4]。さらに、今年3月に大きな話題となった量子化技術TurboQuantは、その後の動きが見つからないままです[7]。話題になった技術が必ず育つとは限らないことを示す例と言えそうです。
効率を突き詰めた軽量モデルと、用途に絞った特化モデルが同時に進むのが今の流れです。その一方で、感情表現の精度、言語ごとの前処理、医療での位置づけなど、現場レベルの課題も浮かんできました。重みを公開して終わりではなく、そこからどう磨くかが問われる段階に入ったと言えそうです。
RECENT COMMENTS