Let's take a drive.

6000万ドルのA100がeBayに並ぶ。AI界隈では、hackerという語が似合う、という印象もあります。一方、NVIDIAは音声モデルのNemotron 3.5 Transcribeも公開しました。以前はNIM、つまり推論向けサービスの速さと公開版の制約に注目しました。今回は、巨大な旧GPUの放出と、新しい音声モデルの能力に焦点を移します[1][2][3]。

話題の中心は、Core 4 SolutionsがeBayに出したAIクラスタです。9,600枚のNvidia A100 GPUと4,200個のAMD EPYC CPUを、300ラックのセットで売っています。価格は6,000万ドル、あるいは5,970万ドルと報じられています。送料は無料です。検索記事でも同じ話題が並び、注目の高さがうかがえます[1][5][5][5]。

Redditのr/LocalLLaMAでは、ローカル推論向けの話題として大きな反響が出ています。投稿者は「誰でも6,000万ドルを出せるか」と冗談めかしています。素材には、1枚あたりの価格や、新旧GPUの性能差を示す数値は見つかりませんでした。したがって、この巨大セットが実用的かどうかは、まだ分かりません[1][3]。

もう一方の話題は、Nemotron 3.5 Transcribeです。これはオフラインで音声の文字起こしとオーディオ処理を行う、オープンウェイトのモデルです。40言語に対応し、1時間までの録音を扱えます。コンテキストは65,536トークンです。ハイブリッドMoEで、アクティブなパラメータは約4.3Bです。MoEは、全部の部品を毎回使わず、必要な専門家だけ動かす構造です。BF16、FP8、NVFP4といった精度で公開されています。精度は、数値の圧縮や表現の形式です。商用・非商用を問わず使えるとされています。結果は2026年10月12日時点のものです[2][4][5]。

このモデルは、単なる音声認識とは少し違います。SALM、つまり音声を直接扱える言語モデルとして扱われています。音声エンコーダと、話者分離モデルと、LLMを組み合わせます。LLMはNemotron 3.5 Lightning 30B-A3Bです。話者分離にはNemotron 3 Diarizationを凍結して使います。従来のASR、つまり音声認識は、一つの書き方に固定されやすいとされています。Lightningはflashを思わせますが、速さの直接比較は素材にありません。自然な指示文で、逐語・書き言葉・文脈付き・話者付き・リッチなトランスクリプションなどを使い分けられます。話者付きの単語タイムスタンプも、要求すれば返せます[4]。

性能面では、Open ASR Leaderboardで英語の平均WERが4.71%、多言語の平均WERが4.62%と報告されています。WERは、文字起こしの誤り率です。話者付きASRでは、専門的なカスケード型システムを上回る結果とされています。話者分離は、1分間の区間から会議や通話まで扱えるとされています。ContextASR-Benchでは、期待する固有名詞を渡すと、固有名詞エラーを6分の1に減らすとされます。音声翻訳や言語識別、音声質問応答も訓練に含まれています。CTCアダプタ、つまり音声と文字を対応させる部品で、生成後の文字列を音声に合わせます。PII、つまり個人情報をタグ付けやマスキングするタスクも、少しだけ訓練に入っています[4]。

ただし、落とし穴もあります。NIM向けの最適化は、公開版にはまだ含まれていません。リリース時点のvLLM、つまり推論エンジンの統合は開発用で、約2倍遅いとされています。NeMo Speechに統合されたvLLMは、モデル開発向けです。以前取り上げたNIMでは、1枚のRTX PRO 6000 Blackwell Server Edition GPUを使います。毎秒2,238秒分の音声処理と、30秒の録音を0.13秒で返す例が示されました。ただし、これはNVFP4とDFlash2 speculative decodingを使う条件です。NVFP4は、数値を圧縮する形式です。DFlash2 speculative decodingは、候補を先に推測して生成を速くする仕組みです。公開版と同じ条件ではありません。Nemotron Transcribe NIMの最適化は、NeMo SpeechとvLLMへの反映が狙われています[2]。

結局、NVIDIAを巡る話題は二つに分かれています。一方は、旧世代GPUを巨大なセットとして市場に放出する動きです。巨大クラスタは、旧世代の資産がどこへ流れるかを示す例です。もう一方は、音声の推論を自然な指示で切り替えるオープンモデルの公開です。hacker的な注目と、ローカル環境での実用性が、同じAIニュースに並んでいます。旧GPUの放出と新モデルの公開は、NVIDIAの製品サイクルの両端を示しているようです。次は、巨大クラスタの落札有無と、公開版の速度改善が焦点になりそうです[1][2][3][4]。

引用ソース

1. Reddit Reddit r/LocalLLaMA: IT vendor lists massive $60 million AI supercomputer on eBay with 9,600 Nvidia A100 GPUs and 4,200 AMD EPYC CPUs, plus free shipping — 300 racks of decommissioned GPUs on offer — https://www.reddit.com/r/LocalLLaMA/comments/1xhsvmy/it_vendor_lists_massive_60_million_ai/
   

   IT vendor lists massive $60 million AI supercomputer on eBay with 9,600 Nvidia A100 GPUs and 4,200 AMD EPYC CPUs, plus free shipping — 300 racks of decommissioned GPUs on offer

2. Web記事 記事全文: NVIDIA-Nemotron-3.5-Transcribe-30B-A4B – Hugging Face — https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
   

   Nemotron 3.5 Transcribe is an open-weight, offline speech and audio model for transcription in 40 languages, with support for recordings up to one hour and a 65,536-token context. Its hybrid mixture-of-experts architectu

3. Reddit Reddit r/LocalLLaMA: nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B · Hugging Face — https://www.reddit.com/r/LocalLLaMA/comments/1xhqy12/nvidianvidianemotron35transcribe30ba4b_hugging/
   

   nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B · Hugging Face

4. Web記事 記事全文: NVIDIA Nemotron 3.5 Transcribe: Intelligent Transcription with a Speech … — https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Transcribe/
   

   Overview
   There is no single correct transcript of a recording: what counts as correct depends on who reads it and for what purpose. A transcript may need numbers in spoken or written form, verbatim wording or cleaned-up

5. Web記事 Web検索: IT vendor lists massive $60 million AI supercomputer on eBay with 9,600 … — https://www.tomshardware.com/desktops/servers/it-vendor-lists-massive-usd60-million-ai-cluster-on-ebay-300x-racks-of-decommissioned-gpus-includes-9-600-nvidia-a100-gpus-and-4-200-amd-epyc-cpus-plus-free-shipping
   

   IT vendor lists massive $60 million AI supercomputer on eBay with 9,600 …

6. Web記事 Web検索: Core 4 Solutions Lists $60M AI Supercomputer on eBay with 9,600 Nvidia … — https://www.gate.com/news/detail/EBAY/core-4-solutions-lists-60m-ai-supercomputer-on-ebay-with-9600-nvidia-a100-25253230
   

   Core 4 Solutions Lists $60M AI Supercomputer on eBay with 9,600 Nvidia …

7. Web記事 Web検索: Nemotron 3.5 Transcribe: Open 30B Model, 40 Languages – explainx.ai — https://explainx.ai/blog/nemotron-3-5-transcribe-open-30b-speech-model-granary-v2-40-languages-2026
   

   Nemotron 3.5 Transcribe: Open 30B Model, 40 Languages – explainx.ai

8. Web記事 Web検索: Reseller Lists 300-Rack AI Supercomputer on eBay for $59.7 Million — https://www.gadgetreview.com/reseller-lists-300-rack-ai-supercomputer-on-ebay-for-59-7-million
   

   Reseller Lists 300-Rack AI Supercomputer on eBay for $59.7 Million

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

• Tweet