メインコンテンツへスキップ
見出し画像

Fireworks AI on Microsoft Foundry 発表

    パフォーマンスは大事よね。

    本日より、Microsoft Foundry のお客様は Fireworks AI のクラウド上でホストされる人気オープンモデルの高性能・低レイテンシ推論を Foundry プロジェクトからご利用いただけるようになりました。独自にカスタマイズしたモデルのデプロイも可能です。

    画像

    Public Preview の開始にあたり、サーバーレス推論向けの人気オープンモデルを以下の2つのデプロイ形式で提供します。

    • Pay-per-token(US Data Zone)

    • Provisioned Throughput(Global Provisioned Managed)

    対象モデルは以下の通りです。

    • Minimax M2.5 

    • OpenAI の gpt-oss-120b

    • MoonshotAI の Kimi-K2.5

    • DeepSeek-v3.2

    ファインチューニング済みモデルを本番環境で使いたいお客様向けに、独自モデルのインポートと Fireworks AI on Microsoft Foundry によるプロダクションスケールでのデプロイも可能になりました。

    サーバーレス(Pay-per-token)

    米国の Data Zone Standard でリリース。対応リージョンは以下の通りです。

    • East US

    • East US 2

    • Central US

    • North Central US

    • West US

    • West US 3

    Azure サブスクリプションの種類に応じて、リージョン・モデルごとに 25万 TPM または 2.5万 TPM のクォータが自動付与されます(Student・Trial サブスクリプションはクォータなし)。

    価格は Input・Cached Input・Output トークンそれぞれ100万トークンあたりで課金されます。

    gpt-oss-120b

    • Input: $0.17 / 1M tokens

    • Cached: $0.09 / 1M tokens

    • Output: $0.66 / 1M tokens

    kimi-k2.5

    • Input: $0.66 / 1M tokens

    • Cached: $0.11 / 1M tokens

    • Output: $3.30 / 1M tokens

    deepseek-v3.2

    • Input: $0.62 / 1M tokens

    • Cached: $0.31 / 1M tokens

    • Output: $1.85 / 1M tokens

    minimax-m2.5

    • Input: $0.33 / 1M tokens

    • Cached: $0.03 / 1M tokens

    • Output: $1.32 / 1M tokens

    Fireworks と連携して最新の OSS モデルを順次追加予定です。


    プロビジョンドスループット

    本番ワークロードのシフトやスケールを検討しているお客様向けに、Global Provisioned Throughput をサポートします(Data Zone サポートは近日公開予定)。

    Foundry モデルと同様に PTU は一貫したトークン間レイテンシを提供します。既存の Global PTU クォータおよびリザベーションコミットメントはそのままご利用いただけます。

    gpt-oss-120b

    • 最小デプロイ: 80 PTU / スケール単位: 40 PTU

    • Input TPM/PTU: 13,500

    • レイテンシ目標: 99% > 50 トークン/秒

    Kimi-K2.5

    • 最小デプロイ: 800 PTU / スケール単位: 400 PTU

    • Input TPM/PTU: 530

    • レイテンシ目標: 99% > 50 トークン/秒

    DeepSeek-v3.2

    • 最小デプロイ: 1,200 PTU / スケール単位: 600 PTU

    • Input TPM/PTU: 1,500

    • レイテンシ目標: 99% > 50 トークン/秒

    MiniMax-M2.5

    • 最小デプロイ: 400 PTU / スケール単位: 200 PTU

    • Input TPM/PTU: 3,000

    • レイテンシ目標: 99% > 50 トークン/秒

    ※ レイテンシは5分単位の p50 リクエストレイテンシで算出


    カスタムモデル

    gpt-oss-120b などをポストトレーニングしたモデルを Foundry プロジェクト内でデプロイ・ガバナンス・スケールが可能です。Preview でインポート対応しているモデルファミリーは以下の通りです。

    • Qwen3-14B

    • OpenAI gpt-oss-120b

    • Kimi K2 および K2.5

    • DeepSeek v3.1 および v3.2

    モデルウェイトの高速転送には Azure Developer CLI(azd) の新機能を使用します。Foundry UI から azd ai models create のコマンド引数をコピー&ペーストするだけで簡単に転送できます。

    インポートは `Build -> Models -> Custom Models` から実行できます。

    画像

    サブスクリプションで Fireworks AI on Microsoft Foundry を有効にする

    プレビュー期間中はオプトインが必要です。Azure ポータルの Preview features パネルからセルフサービスで有効化できます。

    詳細は Fireworks on Foundry の製品ドキュメント を参照してください。


    よくある質問

    Fireworks AI on Foundry のモデルと通常の Foundry モデルの違いは?

    通常の Foundry モデルは Microsoft の Responsible AI 基準に基づく安全性・リスク評価を経ています。Fireworks AI on Foundry は最新 OSS モデルへの迅速なアクセスやカスタムモデルのデプロイが必要なお客様向けの選択肢です。モデルの安全性・リスクの定量化には Foundry の評価ツール群が引き続き利用できます。

    モデルの廃止はどのように通知される?

    サーバーレス(pay-per-token)利用のお客様には廃止予定日の 30日以上前 に通知されます。廃止後も継続利用したい場合はプロビジョンドスループットデプロイをご利用ください。

    クォータを増やすには?

    TPM クォータは Fireworks on Foundry クォータフォーム から申請できます。PTU クォータは Microsoft アカウントチームにお問い合わせください。

    カスタムモデルのサポートについて

    Fireworks の現行要件を満たすモデルであれば対応可能です。Microsoft アカウントチームまたは Fireworks の担当者にご相談ください。


     
     
    AIの進化に日々圧倒されてる@microsoft | AI Global Black Belt | Azure Quantum Ambassadors @MSFTQuantum | 全部個人的感想 |

    あなたへのおすすめ