Editor’s Note
XピックアップNVIDIA Nemotron 3.5 Transcribe、Nativ経由でApple Siliconへ EA版移植の条件
Prince Canuma氏は日本時間10月29日、NVIDIAと協力し、Nativと同氏らのエンジンを使って「NVIDIA Nemotron 3.5 Transcribe」をApple Siliconへ移植したと報告した。多機能な音声モデルをMacで動かす道筋が見えた一方、これは実務者による報告であり、NVIDIAがMacを標準対応環境に加えたという正式発表ではない。公開資料を読むと、現時点では「動く」と「正式版と同じ条件で使える」の間にいくつか段差がある。
文字起こしの出力を、指示で切り替える
NVIDIAの研究ページとモデルカードによると、正式公開版は総34B、音声エンコーダーを含め約4.3Bが動くオープンウェイトのオフラインモデルだ。最大1時間の録音と40言語を扱い、文字起こし、翻訳、話者付き文字起こし、文脈語句の指定、音声への質問応答を一つのチェックポイントにまとめている。
従来型の音声認識では、逐語か整文かといった出力形式を学習時に固めることが多い。Nemotron 3.5 Transcribeは推論時の自然言語指示で、言いよどみを残す、読みやすく整える、専門語を文脈として与える、といった切り替えができる。用途ごとに別モデルへ交換する手間を減らせる点が、単なる「Macでも文字起こし」以上に面白い。
公開中のMac実装はEA版、処理は録音ファイル単位
10月29日に確認したMLX-Audioの実装READMEが対象として明記するのは、正式版名ではなく「Nemotron-3.5-Transcribe-30B-A4B-EA」だ。ローカルのモデルフォルダーを読み込み、音声を16kHzのモノラルへ変換し、録音全体を符号化してから文章を生成する。ライブ会議を逐次字幕化する仕組みではなく、まずは収録済みファイルを処理する実装と考えるのが正確だ。NativのリポジトリもApple Silicon向けの入口を示している。
対してNVIDIAのモデルカードにある標準配備例はH100 80GBで、互換表もNVIDIA GPUを列挙する。Apple Silicon対応はNVIDIA公式の標準配備条件ではなく、Nativ／MLX-Audio側の別実装だ。対応するMacの世代、必要なユニファイドメモリ、量子化形式、処理速度は公開資料にないため、導入判断にはまだ情報が足りない。
同じ名前でも、全機能がそのまま移ったとは限らない
MLX版は通常の自己回帰デコードを使い、公式モデルのMTP投機デコード用ヘッドを読み込まない。単語単位のタイムスタンプも出さず、話者IDは録音ごとに閉じる。EA版と10月28日に公開された正式版の重み・構成・ライセンスが同一かも、資料からは確定できない。
性能値にも注意が要る。研究ページとモデルカードは英語9テストセットの平均WERを4.71%とする一方、同日公開のNVIDIA執筆記事はOpen ASR Leaderboard平均を5.33%としており、差の理由は説明されていない。いずれもMac上の実測ではない。今回の移植はローカル音声処理の選択肢を広げる有望な一歩だが、速度や精度を判断するにはApple Silicon上の条件付き測定が必要だ。
参考資料
- NVIDIA Nemotron 3.5 Transcribe: Intelligent Transcription with a Speech LLM（NVIDIA）
- NVIDIA-Nemotron-3.5-Transcribe-30B-A4B モデルカード（NVIDIA / Hugging Face）
- Nemotron 3.5 Transcribe — Native MLX inference（MLX-Audio）
- Blaizzy/nativ（GitHub）
- NVIDIA Nemotron 3.5 Transcribe and Granary v2（NVIDIA / Hugging Face）
