長く絡んだトークンの紙テープを小型の推論機が短い列へ整える、明るい切り絵風のイラスト

X Digest

Xまとめ

Swift 1.5 Qwen3.8-27B、推論トークン58.5%削減を掲げる

2026年9月27日
4分
AI観測
主なX投稿3件(一覧は本文末)
#Swift 1.5#Qwen3.8#ローカルAI#量子化

Qwen3.8周辺のローカル実行は、「毎秒何トークン出るか」だけでなく「何トークン考えるか」の競争に入った。UkisAIのSwift 1.5 Qwen3.8-27Bは、長いエージェント処理やコーディングで推論の回り道を減らすため、後学習を強めた派生モデルだ。Xでは12GB GPUによる長時間のゲーム構築例や、別製品Qwen3.8-Flash-Nextの高速化も話題になったが、モデルも実行条件も異なる。今回はSwift 1.5で何が変わり、どこまで数字を信じられるかに絞る。

新設計ではなく、後学習を深くした

Swift 1.5のモデルカードによると、これはQwen3.8-27Bを基にしたSwift 1.0の直接更新版だ。別のアーキテクチャへ置き換えたのではなく、RLとOPDによる後学習を拡大した。UkisAIは思考トークンを58.5%減らしたとしている。単純なデコード速度ではなく、答えまでに生成する量そのものを減らす狙いだ。たとえば同じツール呼び出しでも、内部で何十手も迷わず数手で決められれば、毎秒の速度が同じでも処理全体は早く終わる。

ただし速度倍率は一次資料同士で食い違う。BF16版は「1.95倍」とする一方、GSQ-RCO GGUF版は同じ58.5%削減から「9.18倍」と記す。測定対象の違いは説明されておらず、確定した倍率としては扱えない。Xで挙がったRTX 3090の約55トークン毎秒や旧版比約15%向上も、今回確認した一次資料では裏付けられなかった。

コードと端末は伸びたが、全勝ではない

UkisAIのBF16評価では、基盤のQwen3.8-27Bに対し、LiveCodeBench v6は76.76%から81.71%、Terminal-Bench 2.1は69.21%から72.13%へ上がった。一方、IFBenchは73.53%から72.07%、AIME 2026は98.67%から96.00%へ下がっている。旧Swift 1.0との比較でも、Terminal-Benchは65.84%から72.13%へ伸びたが、LiveCodeBenchは81.55%から81.71%とほぼ横ばいだ。

これらはUkisAIが公開した評価コードと結果に基づくモデルカード間の比較で、第三者の独立検証ではない。「短く考える」がコーディングや端末操作には効いても、指示追従や数学を含む全課題の品質向上を意味するわけではない、と読むのが妥当だ。

導入は形式、長文、ライセンスまで確認する

BF16版はTransformersのほか、vLLMまたはSGLangで配信できる。公式例は262,144トークン、Qwen3 reasoning parser、qwen3_coder tool-call parserを設定し、MTP自己投機デコードは追加フラグで有効にする。実際のコンテキスト長と並列数はGPUメモリ次第だ。

量子化版はGGUF、AWQ、AutoRound、NVFP4、AMD Quark FP8、MLXが用意される。ただし一部評価は単一シードで、量子化方式や配信設定もそろっていない。AMD Quark版は主要3ベンチマークの完了結果がない。GSQ-RCO GGUFは8.42〜11.77GBだが、視覚プロジェクターと画像入力は未検証で、品質測定も512トークンに限られ、32K以上の長文品質は示していない。

さらに追加重みはSwift Open License v1.0で、年間総収益100万ドル以下なら商用を含め無料、それを超える商用利用にはEnterprise Licenseが必要だ。基盤モデルのApache 2.0とは条件が違う。ローカルAIでは、短い応答と軽い重みは確かに魅力だが、採用判断はベンチマークの最高値より、自分の用途で落ちた項目、実行形式、ライセンスを一緒に見る必要がある。

参考資料

参照したX投稿

関連記事