LLM APIを本番で使っている開発者へ
LLM APIの課金事故を、5分で止める。
OpenAI・Anthropic などの利用額を5分ごとに確認し、いつもと違う増え方をしたらSlackに通知。通知からワンタップで、あらかじめ決めたAPIキーの無効化を実行できます。
β版に先行登録する(無料)
メールアドレスだけで登録できます。案内以外のメールは送りません。
9:41●●● ⌒ ▮
Slack #alerts
Slack03:12
⚠ 利用額が急増していますOpenAI / key: prod-chat 直近1時間 $312(平常の9倍) 入力トークンが02:40から急増。同一ユーザーからのリクエストが集中
prod-chat を無効化するSlack03:14
✓ prod-chat を無効化しました03:14 以降の課金を停止。復旧は管理画面から。
Slack09:00
本日のまとめOpenAI $48 ・ Anthropic $21(上限 $150/日) 異常なし
画面のイメージ(開発中のため、実際の画面とは変わることがあります)
使うと、こう変わる
こんなこと、ありませんか?
いまの困りごとが、こう変わる
いま
無限ループやプロンプトの肥大化に気づいたのは、翌月の請求書を見たとき
LLM API課金ガードなら5分ごとに、各社横断で監視
1つの画面で各プロバイダ・各キーの利用額を追い、平常からの急増を検知します。
いま
各社の予算アラートは日次・月次で、気づいたときには数万円を超えている
LLM API課金ガードなら通知からワンタップで止める
Slackの通知に「キーを無効化」ボタン。深夜でもスマホから止められます。
いま
深夜に異常が起きても止める手段がなく、朝まで課金が続く
LLM API課金ガードなら何が増えたかを要約
どのキー・どのモデル・どの時間帯に増えたかを日本語で要約。原因の特定が早くなります。
使い方は3ステップ
- 管理用キーを接続閲覧用と停止用を分けて保存。まずは閲覧用だけでも監視できます。
- 上限と通知先を決める「1時間で$50」「平常の5倍」など。通知先はSlackかメール。
- 異常時に通知と停止通知のボタンから停止操作。復旧も同じ画面から。
こんな方に
- LLM APIを使ったサービスを本番で運用している
- 月の利用額が$50を超えている
- 1人〜少人数で、24時間は見張っていられない
向いていない方:LLM APIを試用中で、月の利用額がほぼゼロの方
料金
無料版あり。自動停止と複数サービスはPro月1,480円
- β版は先行登録の方から順に、無料でご案内します
- Proを先行価格で予約(初月分を前払い、提供開始前ならいつでも全額返金)
- 案内以外のメールは送りません。いつでも解除できます
よくある質問
- キーを預けるのが不安です
- 閲覧用と停止用の権限を分けて保存し、停止は初期設定で確認付きにします。
- 対応するプロバイダは?
- まずOpenAIとAnthropicの2社から対応し、順次増やします。
- 勝手に止まって困ることは?
- 初期設定は「通知+確認ボタン」で、自動停止はオフです。しきい値ごとに自動停止を選べます。
- クラウドの予算アラートとの違いは?
- LLM APIを各社横断で、数分単位で見て、止める操作まで行う点です。
LLM APIの課金事故を、5分で止める。
LLM APIを本番で使っている開発者へ。β版ができたら、先行登録の方から順にご案内します。
β版に先行登録する(無料)