Cloudflareの判断モデルClefがOllamaに追加　選択肢の確率をローカルで返す

Ollama公式Xは10月3日、Cloudflareの判断モデルClefとClef-FlashをOllamaで利用できるようになったと伝えた。大事なのは、ローカルで動くモデルが二つ増えたことだけではない。文章の続きを生成する代わりに、あらかじめ許可した選択肢を採点し、その確率をまとめて返すモデルがOllamaへ入った。

現在はollama pull clefとollama pull clef-flashで取得できる。Clefのlatest版は27B・Q4_K_Mで約18GB、Clef-Flashのlatest版は9.08B・Q8_0で約11GBと掲載されている。

生成ではなく、候補を一度に採点する

Cloudflareの発表によると、Clef系は質問スキーマに並べた選択肢を非自己回帰、つまり文章を一語ずつ続けない一回の処理で採点する。返るのは型の決まった回答と確率だ。Ollamaの判断APIでは、候補から一つを選ぶchoice、命題が真である確率、順序付きのscoreを同じ要求で扱える。

たとえば画像分類、バグ報告のラベル付け、問い合わせ先の振り分けで、自由文をもう一度プログラム側が解釈する工程を減らせる。使う側から見ると、これはチャットの代替というより、アプリの分岐点へ差し込む判定部品に近い。

27BのClefは精度重視、9BのClef-Flashは遅延重視という位置付けだ。ただし、これは提供元の説明であり、Cloudflare掲載の評価でもFlashが常に高精度なわけではない。タスクによってClef、Flash、比較対象のJevの順位は入れ替わるため、軽いモデルがそのまま万能版という話ではない。

ローカル利用はHTTP APIが入口

10月3日に確認した現行資料では、利用にはOllama 0.35.1以降が必要で、要求は/v1/systemoneへ送る。モデルの取得はCLIでできる一方、判断の対話実行はOllama CLIと公式Python・JavaScriptライブラリには未対応とされ、HTTP APIまたはTypeSafe SDKを使う必要がある。

画像はbase64化したPNG、JPEG、WebPだけを受け付け、画像URLとdata URLは不可。画像だけを渡すこともできず、判断の文脈を示すstateが必須だ。ここは一般的なマルチモーダルAPIから持ち替える際に、実装を直しやすいポイントだろう。

コンテキスト長には資料間の差も残る。CloudflareとOllamaの説明は64K対応とする一方、Ollamaのlatest設定はnum_ctx: 16384で、Cloudflareのモデルカードにあるローカル例も既定値を16,384としている。実効上限と既定値の関係は明記されていない。長い入力を前提に選ぶなら、64Kをそのまま初期状態の上限とみなさない方が安全だ。

参考資料

• Introducing Clef: our open-source decision models, and new RL fine-tuning platform
• Ollama: clef:latest
• Ollama: clef-flash:latest
• Decision - Ollama
• Cloudflare/clef-flash

参照したX投稿

Ollama（@ollama）の元投稿