見出し画像

Ornith-1.5 の概要

「Ornith-1.5」の概要をまとめました。

Ornith-1.5: From Self-Scaffolding to Self-Improvement


1. Ornith-1.5とは

1-1. Ornithシリーズ

Ornith-1.5」は、Ornithチームが開発するオープンソースLLMです。

前世代の「Ornith-1.0」では、問題を解くための指示やツール、処理手順などをまとめた「Scaffold」をモデル自身で生成する「Self-Scaffolding」が採用されていました。

Ornith-1.5では、この仕組みをさらに拡張しています。

1-2. End-to-End Self-Improvement

Ornith-1.5では、モデル自身が次のサイクルを繰り返します。

(1) 新しい学習タスクを生成
(2) タスクを解くためのScaffoldを生成
(3) 実際に問題を解いてSolution Rolloutを生成
(4) 結果を使って強化学習

Ornith-1.0が「問題の解き方を改善する」ことを中心としていたのに対し、Ornith-1.5では「学ぶべき問題そのものを作る」ところまで自己改善の範囲を広げています。

2. 3種類のモデル

2-1. Ornith-1.5-397B

シリーズ最大の397B MoEモデルです。

公式ベンチマークでは、次の結果を記録しています。

・Terminal-Bench 2.1 : 86.1
・SWE-bench Verified : 86.0
・SWE-bench Pro : 65.1
・SWE-bench Multilingual : 79.6
・GPQA Diamond : 92.8
・ClawEval : 81.4

Terminal-Bench 2.1など、一部のコーディング・エージェント系ベンチマークではClaude Opus 4.8と同等以上の結果を示しています。

一方ですべての評価で上回っているわけではないため、特定のエージェント系タスクで非常に強いモデルと見るのが適切です。

2-2. Ornith-1.5-35B-A3B

ローカルLLMとして特に注目したいのが「Ornith-1.5-35B-A3B」です。

35B MoEモデルで、1トークンあたり約3Bパラメータを有効化します。

公式評価では、

・Terminal-Bench 2.1 : 67.8
・SWE-bench Verified : 79.0
・SWE-bench Pro : 59.6

を記録しています。

同規模の「Qwen3.6-35B-A3B」と比べても、多くのコーディング・エージェント系ベンチマークで高い結果を示しており、性能と推論コストのバランスが魅力的なモデルです。
GGUFなども提供されており、Ollamaやllama.cpp経由で利用できます。

2-3. Ornith-1.5-9B

最小モデルが「Ornith-1.5-9B」です。

9Bながら、

・Terminal-Bench 2.1(Terminus-2): 46.2
・Terminal-Bench 2.1(Claude Code): 47.0
・SWE-bench Verified : 70.6

を記録しています。

特にSWE-bench Verifiedでは、9Bというサイズを考えると非常に高い結果です。
量子化版に加えて、iPhoneやAndroid向けの「Ornith-1.5-9B-Mobile」も提供されており、ローカル環境で試しやすいモデルになっています。

3. 自分で学習タスクを作る自己改善

3-1. Task Generation

「Ornith-1.5」の特徴の1つが、Task Generationです。
一般的な強化学習では、人間などが用意した問題をモデルに解かせます。
Ornith-1.5では、モデル自身が現在の能力に合わせて、新しい学習タスクを生成します。

タスクは、

・正しく評価できるか
・現在のモデルに適度な難しさか
・過去の問題と重複していないか

などを基準に選ばれます。

3-2. 自己改善ループ

生成した問題に対してScaffoldを作り、Solution Rolloutを生成して強化学習を行います。

Task Generation → Scaffold Generation → Solution Rollout → Reinforcement Learning

というループによって、モデルの能力向上に合わせて、学習する問題もより高度になっていきます。

固定されたデータセットだけに依存せず、モデル自身が学習カリキュラムを拡張していくことを狙った仕組みです。

4. AIエージェント向けの性能

4-1. コーディングエージェント

「Ornith-1.5」は一般的なチャット性能よりも、ツールを使いながら複数ステップで問題を解く能力を重視しています。

特に、

・コーディングエージェント
・ターミナル操作
・リポジトリ修正
・ツール呼び出し
・Web検索・調査

などのエージェントタスクで高い性能を示しています。

Terminal-BenchやSWE-benchで高い結果を示しているのも、この特徴によるものです。

4-2. Tool Calling

35B-A3BなどではTool Callingにも対応しており、OpenAI互換API経由で各種エージェントハーネスから利用できます。

そのため、単純なチャットモデルというより、OpenCodeなどのコーディングエージェントや各種エージェントハーネスから利用するローカルLLMとして興味深いモデルです。



いいなと思ったら応援しよう!