導入事例

Prime Intellect は OpenRouter で利用規模を 100 倍に拡大し、トークンあたりのコストを 60% 削減しました

Prime Intellect は、オープンな最先端モデルと、そのトレーニング、提供、改善のためのスタックを構築しています。過去一年間で、OpenRouter での月間トークン量は 110 億から 1 兆超に増加し、トークンあたりの平均コストは約 60% 低下しました。

ドルあたりの知能を追求した設計

Prime Intellect は、オープンな最先端モデルと、そのトレーニング、デプロイ、継続的な改善のためのインフラを構築しています。AI の未来はマルチモデルにあると考えています。「さまざまなユースケースで継続的に自己改善する無数のモデルが登場すると考えています」と、Prime Intellect の CEO 兼共同創業者の Vincent Weisser 氏は述べています。

「一社による単一の神のようなモデルが未来を担うことにはならないようにしたいと考えています。」

Vincent WeisserPrime Intellect、CEO 兼共同創業者

顧客が Prime Intellect を利用するのは、独自のデータでモデルを事後学習し、Prime プラットフォーム上で提供するためです。事後学習の前に、どのモデルを出発点にすべきかを知る必要があります。「顧客が知りたいのは、ドルあたりで最も高い知能を得られるモデルです」と Vincent 氏は述べています。「そしてそれは、新しいモデルが登場するタイミングに応じて、文字どおり毎週、毎月、あるいは毎日変わります。」

顧客のため、そして Prime Intellect 自身の研究のためにその問いに答えるには、新しいモデルがリリースされたらすぐに評価する必要があります。Prime Intellect は OpenRouter を通じてこれらの評価を実行しています。その結果を使って価格と性能に基づいてモデルを選び、各ワークロードを処理できる最も安価なモデルに送信しています。

増えるモデル、支出、連携

「評価は非常に重視しています。常にモデルを評価しています」と、Prime Intellect の応用研究責任者である Will Brown 氏は語ります。同氏のチームは、事後学習を行う可能性のあるモデルや、出力を学習データとして使う可能性のあるモデルをテストするため、新しいモデルは公開直後から既存のワークフローに組み込める必要があります。

そうしたリクエストを受けるのが、Prime Intellect の推論開発を率いる Stu Cao 氏です。「毎日、研究チームから『このモデルは使えますか?このモデルは使えますか?』と、絶えずリクエストが届きます」と同氏は語ります。

OpenRouter を導入する前は、使えるようにするたびに別のプロバイダーの API に接続し、別の課金プランを設定する必要がありました。各プロバイダーには、それぞれ固有のエンドポイント、APIキー、認証、キャッシュ制御がありました。

「実質的に、大量の異なるエンドポイントに加え、異なる APIキーも管理することになります。それが悩みの種です。」

Stu CaoPrime Intellect の技術スタッフ

各モデルの信頼性も、チームがアクセスに使うプロバイダーに全面的に依存していました。そのプロバイダーがダウンすると、そのモデルへのリクエストはすべて失敗し、チームにはほかに送信できる先がありませんでした。「実質的に、多数の単一障害点を抱えることになります」と Stu 氏は語ります。

同時に、支出も増えていました。「各チームの社内推論コストが大幅に増えています」と Vincent 氏は語ります。

OpenRouter を選んだ理由

Prime Intellect は、AI モデルへのアクセスに伴う運用の複雑さに時間を費やすのではなく、評価ハーネスや事後学習にエンジニアリングの時間を充てたいと考えていました。「数百社のプロバイダーにまたがる数千のモデルを自分たちで統合するよりも、OpenRouter と連携するほうがはるかに簡単です」と Vincent は語ります。

チームはモデルへのアクセスを OpenRouter に移行しました。

「今ではエンドポイントも APIキーも一つだけです。ソフトウェアスタックがはるかにすっきりし、上位のスタックに集中できます。」

Stu CaoPrime Intellect の技術スタッフ

Will によると、研究者はモデルがどこでホストされているかを考える必要がなくなりました。「モデルがどの基盤から提供されているかよりも、モデルそのものや、何ができるか、どれほど速いか、どれほど効率的かを考えるほうがずっとよいです」と語ります。「これを抽象化できるだけで、非常に大きな力になります。」

成果

利用量は 100 倍に、トークン当たりのコストは約 60% 減

Prime Intellect の OpenRouter での月間トークン数は、2025 年 11 月の 110 億から 2026 年 9 月には 1 兆超に増加しました。その間、100 万トークン当たりの加重平均コストは約 $1.23 から約 $0.46 に低下しました。

Vincent は、クレジットのコスト削減の大部分はモデルの選択によるものだとし、それを「何百ものモデルがある今、最大の突破口の一つ」と評しています。

「本当に重要なのは、常に最良かつ最も安価なモデルに確実にルーティングするにはどうすればよいかということです。」

Vincent WeisserPrime Intellect、CEO 兼共同創業者

プロバイダーの選択も役立ちました。OpenRouter は Stu に、トラフィック、スループット、稼働率、プロバイダーに関するモデル別のデータを送り、Stu はそれを使ってルーティングを調整しています。「OpenRouter は実際に、各モデルのトラフィックの状況や最適化の余地について、非常に詳細な内訳を提供してくれました」と Stu は話します。「そのフィードバックを受けて、たとえばプロバイダーの順序を適切に設定しています。それによって実際に効率が大幅に向上し、コストも削減できました。」

OpenRouter 上のモデルのプロバイダー表で、各プロバイダーの料金、レイテンシ、スループット、稼働率を一覧表示しています

プロバイダーの障害がユーザーに影響しなくなりました

同じモデルでも、プロバイダーによって性能が大きく異なることがあります。OpenRouter では、モデルを提供する各プロバイダーの稼働率とスループットを Stu が確認できます。「これによって、どのプロバイダーを選ぶべきかが非常に明確になりました」と話します。

各モデルについて、スループットと稼働率が最も優れたプロバイダーを先頭に設定しています。「このプロバイダーで障害が発生すると、OpenRouter がリストの次のプロバイダーに自動的に切り替えます」と話します。「引き続きお気に入りのプロバイダーを使えて、このフォールバックも製品にほとんど影響を与えません」。

ある月には、Prime Intellect のリクエストの約 640,000 件が最初に試したプロバイダーで失敗し、別のプロバイダーで完了しました。「切り替えは非常にスムーズで、私たちの側では障害に気づくことがほとんどありません」と Stu は話します。

過去 24 時間における、プロバイダーのフォールバックを使用した場合とルーティングを使用しない場合の可用性を比較した OpenRouter 上のモデルの稼働率

公開初日から新しいモデルを利用

新しいモデルは、チームがすでに使用している API と認証を通じて利用できます。「モデルが利用可能になれば、すぐにそのモデルを使えます」と Stu 氏は話します。Prime Intellect は、Kimi K3 と GLM 5.2 のそれぞれについて、OpenRouter で最初のトラフィックが発生してから一日以内に稼働させていました。新しいモデルを使い始めるまでにどれくらいかかるかを尋ねると、Will 氏は「名前を入力するのにかかる時間次第です」と答えます。

「OpenRouter が Prime Intellect にもたらす最大の変化はスピードです。」

Stu CaoPrime Intellect の技術スタッフ

「スタートアップとして、私たちはスピードを大切にしています」と Stu 氏は話します。「そのおかげで、世界中で登場するあらゆるモデルを使って、イノベーションを続けられます。」

評価は日常業務の一部

Will のチームは、エージェントによるコーディングやコンピューター操作などのワークロードで、各モデルに何ができるかを測定しています。オープンモデルは、事後学習や学習データ生成に使用する候補です。クローズドモデルはベースラインとして使用します。「最先端からどれほど離れているのかを把握したいのです」と Will は話します。

その作業には、あらゆるモデルを妥当なコストで利用できることが欠かせません。「高速で信頼できるトークンを適正な価格で得られることは、データや評価、事後学習に関する作業を行ううえで不可欠です」と話します。

「OpenRouter がもたらした最大の変化は、どのモデルでも簡単かつ実用的に評価できるようになり、評価が日常業務のライフサイクルの一部になったことです」と Will は話します。

プロバイダーとしての Prime Intellect

Prime Intellect は OpenRouter で推論サービスも販売しており、一週間で約 48,000 の OpenRouter アカウントに 11 モデル、約 6,700 億トークンを提供し、週間トークン量は前月比で約 12 倍に増加しました。「推論のマーケットプレイスです」と Will は述べています。「利用者にも生産者にもなれる場所です。」

そのトラフィックによって、各デプロイが本番環境でどう動作するかをチームが把握できます。「キャッシュはうまく効いていますか?レイテンシは良好ですか?バーストをうまく処理できていますか?」と Will は述べています。そこで得た知見は学習に還元されます。「デプロイのためにモデルを学習させ、そのデプロイが次のモデルの学習方法を形作ります」と述べています。

Stu は OpenRouter の入力長、推論トークンと出力トークン、スループットに関するモデル別データを使って、Prime Intellect の推論提供クラスターを設計しています。「万能の推論構成はありません」と述べています。「そのデータを活用して、推論提供スタックを最適化できます。」

OpenRouter ではすべてのプロバイダーの稼働率、スループット、価格が公開されているため、ユーザーは Prime Intellect と同じモデルを提供する他のすべてのプロバイダーを比較できます。「稼働率が 99.99% のプロバイダーと、80% しかないプロバイダーを見れば、明らかに信頼性の高い方を選びます」と Vincent は述べています。「OpenRouter を通じてこの点を示すことで、推論における当社の強みも証明できたと思います。」

Will は利用者と提供側の両方の立場から同じことを実感しています。「モデルをホストする容量が当社にあるか、他社にあるかにかかわらず、その違いを抽象化でき、OpenRouter はこの問題を解決しています」と述べています。

「つまり、マルチモデルの世界はすでに十分に手の届くところにあります。」

Will BrownPrime Intellect 応用研究責任者
日別の処理トークン数をグラフで示す、OpenRouter の Prime Intellect プロバイダーページ

その他の導入事例

OpenRouter でプロダクトを開発

すべてのモデルを単一の API で利用でき、プロバイダー間の自動フォールバックに対応しています。