Let's take a drive.

「聞けるAI」がまた一段、手元に近づきました。inclusionAIが音声モデルMing-3.0-audio-flashを公開しました。モデルカードでは126BのMoEで、アクティブ(一度に動く部分)は6.5B。ライセンスはMITです。[1][3][6] 音声とテキストの指示を受け取り、テキストや音声で答えられます。聞いた内容を推論し、必要なら話して返す流れです。キャッチコピーは「はっきり聞き、深く理解し、賢く動く」です。[6]

できることは幅広いです。文字起こし、音声への質問回答、長い録音の理解、環境音や音楽の推論など。中国語と英語が中心で、訛りや方言、騒音、複数話者の会議も想定されています。[1][3][6] 音声出力はオプションのTalkerが担い、内蔵音声や参照音声を使えます。[6] 小さいTiny版もあり、9.3BのMoEでアクティブは2.7Bです。[3] 検索記事では、0.5BのTTS(テキストを音声にする技術)が音色制御で首位、126BのMoEが音声理解で注目と紹介されました。[8] 公式のGitHubやHugging Faceには音声サンプルが並び、比較記事も出ています。モデルカードは、音を聞き、理解し、タスクをこなす流れを閉じると説明します。[3]

ローカル運用では、参考構成が話題です。モデルカードはTransformers、SGLang、vLLM-Omniの経路を示します。[1] 検証済みSGLangはテキスト出力に4GPU。vLLM-Omniの128Kの参考構成は、80GBのH800を8枚使います。ただし参考設定であり、最小要件ではありません。[1] 音声のやり取りまで組むには、音をデータに変換する音声エンコーダや音声合成の分も要ります。[6] 外部コードの実行を許可する設定を使う前には、リポジトリのコード確認が促されています。検証済みの音声認識(ASR)プロンプトは、話者言語を識別し、言語ラベルと文字起こしの間にタブを入れる形です。[6] この構成での実測TPSや消費電力は、まだ見つかっていません。[1]

AIの評価そのものへの点検も進んでいます。whatmodel.shを作った開発者は、公開ベンチ1,629件をもとに、180モデルと103ベンチの611組を比較しました。ラボ公称スコアは独立評価より平均6.4%高いと報告されています。[4] データはCC BY-SA 4.0、コードはMITです。[4] 出典やライセンスは各モデルのページに記録され、インタラクティブな図表も見られます。[4] 一方、Ming側の評価表はパーセント表示で、太字が最良、下線が次点、星印は独自評価です。[3] 「flash」系に期待を持つ前に、同じ条件で誰が測ったかを確かめる流れが来ています。

Hacker Newsでは周辺ツールも出ています。Secret Guardは、APIの通り道となるローカルLLMゲートウェイです。APIキーをマシンの外に出さない設計です。[2] 画像クロップをLLM、Jev、画像分類の19通りで評価した記事もあります。[5] 反応はまだ小さく、1ポイント、コメント0件という注目度です。[2][5] 画像クロップでは、焦点をどこに置くかという人間の判断を、機械がどこまで再現できるかが試されています。[5] モデル本体だけでなく、鍵の扱いや画像処理の評価といった地味な周辺が積み上がる段階です。

Redditでは、Mac miniでローカルLLMを動かす構成比較ツールmodelfit.ioが話題です。llama-benchの実測に当てはめた速度推定と誤差を表示し、Apple価格は毎日更新されます。[7] 投稿者はm6 32GBとm5pro 48GBで迷い、m5proを選ぶと言っています。[7] どのモデルがメモリに収まり、どの速度が出るかを、構成ごとに確かめたい需要が見えます。実測と推定の差を誤差として出す点は、構成選びの信頼性を上げます。[7]

推論の使い方の工夫もあります。Jevベースの適応的思考では、単語ごとの迷い(エントロピー)を見て、モデルが迷ったときだけ思考ブロックを追加します。並列会話の木から最適経路を選ぶ発想です。ローカルモデルなら複数の流れを走らせられますが、デコード(次の単語を生成する処理)はRAM速度で詰まりやすい点も書かれています。一方、r/LocalLLaMAではAIスロップ(AIが量産した低品質な投稿)の解析もあり、話題の量と質の差が数字で見えます。将来予測まで試みています。

ここで立ち止まると、音声モデルの「聞ける」はまだ重い話です。126B MoEはアクティブ6.5Bで効率的に見えます。しかし音声エンコーダや長尺処理、音声合成まで含めると、メモリとGPU構成の設計は簡単ではありません。[1][6] 評価はnon-thinkingモード(思考をオフにした設定)で報告され、比較モデルは独自環境で再現されています。プロンプトやデコード設定で結果は変わり得ます。[3] 公称ベンチの6.4%差も、実運用では無視しにくい落とし穴です。[4] Gemini Omni 1.1 Flashとの比較記事もあり、立ち位置は単独では決まりません。乱れた録音で質問に答えるような、生活に近いテストが求められます。[1] ローカルゲートウェイ、構成比較、独立評価、適応推論がそろうと、AIは「動く」から「信じられる」へ進みます。[2][4][7]

引用ソース

1. Reddit Reddit r/LocalLLaMA: inclusionAI releases Ming-3.0-audio-flash: 126B MoE / 6.5B active, audio understanding + speech output, MIT — https://www.reddit.com/r/LocalLLaMA/comments/1x9yrfi/inclusionai_releases_ming30audioflash_126b_moe/
   

   inclusionAI releases Ming-3.0-audio-flash: 126B MoE / 6.5B active, audio understanding + speech output, MIT

2. Hacker News Hacker News: Show HN: Secret Guard – a local LLM gateway; keys never leave your machine — https://github.com/luochen1990/secret-guard
   

   Show HN: Secret Guard – a local LLM gateway; keys never leave your machine

3. Web記事 記事全文: GitHub – inclusionAI/Ming-3.0-audio-flash — https://github.com/inclusionAI/Ming-3.0-audio-flash
   

   A native audio model built for real-world speech recognition, audio understanding, reasoning, and end-to-end spoken interaction.
   🤗 Hugging Face · Flash · 🤗 Hugging Face · Tiny · 🤖 ModelScope · Flash · 📓 Cookbook · 💻 Exam

4. Reddit Reddit r/LocalLLaMA: AI labs report benchmark scores 6.4% higher than independent testers, on average — https://www.reddit.com/r/LocalLLaMA/comments/1x9skrx/ai_labs_report_benchmark_scores_64_higher_than/
   

   AI labs report benchmark scores 6.4% higher than independent testers, on average

5. Hacker News Hacker News: Eval of 19 ways to crop images using LLMs, Jev and image classification models — https://workflows-of-ai.com/blog/can-ai-set-the-focal-point-of-a-photo
   

   Eval of 19 ways to crop images using LLMs, Jev and image classification models

6. Web記事 記事全文: inclusionAI/Ming-3.0-audio-flash · Hugging Face — https://huggingface.co/inclusionAI/Ming-3.0-audio-flash
   

   Ming-3.0-audio-flash
   Hear clearly. Understand deeply. Act intelligently.
   Ming-3.0-audio-flash is a native audio-language model from inclusionAI. It accepts audio together with text instructions and supports speech recogn

7. Reddit Reddit r/LocalLLaMA: I got tired of Apple’s configurator, so I built one for local AI — https://www.reddit.com/r/LocalLLaMA/comments/1xagmpd/i_got_tired_of_apples_configurator_so_i_built_one/
   

   I got tired of Apple’s configurator, so I built one for local AI

8. Web記事 Web検索: 蚂蚁 inclusionAI 开源 5 款 Ming-3.0 语音模型：0.5B TTS 拿下开源权重音色控制第一，126B MoE 音频理解 … — https://aicoder.com/zh/news/news-20261019-ant-ling-ming-3-0-open-source-speech-models
   

   蚂蚁 inclusionAI 开源 5 款 Ming-3.0 语音模型：0.5B TTS 拿下开源权重音色控制第一，126B MoE 音频理解 …

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

• Tweet