あなた自身のモデルを、エンドツーエンドでホスティング。
Arkor はループ全体をホストします。ワンクリックの OpenAI 互換エンドポイント、学習データになるリクエストログ、マネージドファインチューニング、そして学習したアダプターの提供まで。
Alpha · アルファー期間中は無料
ひとつのプラットフォームで、ひとつのループを。
アプリと重みのあいだにあるすべてが 1 か所で動くため、モデルを使うことと改善することが同じワークフローになります。
01
ワンクリックで手に入るエンドポイント
your-name.arkor.app に、デプロイメントごとに失効できる API キー付きの OpenAI 互換 Gemma エンドポイントを用意。アプリが今モデルを呼んでいる場所に、そのまま差し替えられます。
02
トラフィックが学習データになる
リクエストとレスポンスはランとして保存され、リプレイも、検査も、データセット化もできます。本番トラフィックは、あなたが持つ最も正直な学習データです。
03
マネージドファインチューニング
学習ランはマネージド GPU 上で実行され、メトリクスをあなたのコードへストリーミングし、すべてのチェックポイントを保存します。オープンソースのフレームワークを使って TypeScript で書けます。
04
自分の重みを提供する
ランは LoRA アダプターを生成します。同じエンドポイントのベースモデルに読み込むことも、専用の URL で公開することもでき、トラフィックを向けるタイミングはあなたが決められます。
Arkor が提供するのは、重みについての約束ではなく、重みへのコントロールです。重みが変わるのはファインチューニングを実行したときだけで、すべての変更は検査・提供・ロールバックできるチェックポイントとして残ります。
ロードマップ。
SDK なしのサービング
近日公開推論だけが必要なアプリ向けに、npm install 不要・サブスクリプション料金で使える、オープンウェイトモデルのエンドポイントを準備中です。
蒸留
近日公開タスクの品質を保てる最小のモデルを見つけ、そこまで蒸留します。提供コストは下がり、オンデバイスでも十分な速さになります。