DeepSeek V4.1 Flashで300 tok/s、社内LLMの高速推論を利用者が報告

DeepSeek V4.1 Flashがインターン先の社内LLMとしてデプロイされ、OpenCodeから使った利用者が300 tok/sの生成速度を確認したと報告した。企業の正式発表ではなく、9月14日（日本時間）の利用者による観測だ。それでも、外部サービスを自由に選べない環境で応答がここまで速いという話は、日々コードを書く人には気になる材料だ。

体感の速さを数字で確かめた

引用元の@yayoi_mizuha氏は、社内LLMだけを使えるインターン先でOpenCodeの利用を求められているという。同日にDeepSeek V4.1 Flashがデプロイされ、「妙に速い」と感じてtps表示プラグインを追加したところ、300 tok/sが表示された。tok/sは、モデルが1秒あたりに生成するトークン数を示す目安だ。

この投稿を紹介した金のニワトリ氏は、再掲したベンチマーク結果を踏まえ、同モデルはGPT-5.6-Solに近い性能を持つとの見方を示した。性能と速度の組み合わせに驚いた、という実務者目線のコメントである。

300 tok/sだけでは比較を決められない

一方、投稿には使用ハードウェア、入出力の長さ、同時利用数、推論設定、プラグインの測定方法は記されていない。300 tok/sはこの環境での表示値であり、独立した検証結果ではない。「GPT-5.6-Solに近い」という評価も、対象ベンチマークや差の大きさまでは素材から確認できない。

だから今すぐモデル同士の勝敗を決める数字ではない。ただ、社内限定という制約があっても、待ち時間の短さが開発体験を変え得ることは伝わる。正式な性能表より先に、現場の「妙に速い」という違和感から測定が始まったところも、この投稿の面白さだ。

参照したX投稿

金のニワトリ氏（@gosrum）の元投稿