株式会社CAENのロゴ

OpenAI Moderation APIを個人開発で使い倒す｜AI駆動開発でコスト削減する方法

この記事で分かること

大森翔吾 がポッドキャスト「AI駆動開発ラボ」で話した OpenAI Moderation API の発見と、個人開発での実践的な活用法を解説します。

  • Moderation API とは何か、なぜ無料なのか
  • 個人開発アプリでのAPIコスト削減への活かし方
  • AI駆動開発でのAPI選定の考え方

Moderation API は、2025年9月時点で無料枠 rate limit 内で利用できます。今後の料金変更については OpenAI 公式ドキュメント を確認してください。

Moderation API とは？「AIの自治」を担う存在

まず前提として、OpenAI が提供する API には大きく2種類あります。

ひとつは Chat Completions API（いわゆる GPT 系）。ユーザーの入力に対して AI が返答を生成するやつです。この API は使う量に応じてお金がかかります。賢いモデルほど高い。GPT-4o 系を大量に使うとコストが跳ね上がります。

もうひとつが今回の主役、Moderation API です。

Moderation とは「自治」や「節度を保つ」という意味。YouTube のコメント欄を管理する人を「モデレーター」と呼びますが、その AI 版だと思ってください。テキストを渡すと「このテキストが不適切かどうか」を判定して返してくれます。

Moderation API が返す情報

Moderation API に文章を渡すと、以下のようなカテゴリ別のスコアが返ってきます（2025年9月時点の仕様）。

  • sexual（性的表現）
  • hate（ヘイト表現）
  • violence（暴力的表現）
  • harassment（ハラスメント）
  • self-harm（自傷・自殺関連）
  • その他複数カテゴリ

各カテゴリにフラグ（true/false）とスコア（0〜1の数値）が付きます。「どれだけヤバいか」が数値で分かるのが重要なポイントです。

なぜ無料なのか？OpenAI のミッションに理由がある

「無料で使えるなんて怪しい」と思うかもしれません。でも、これには理由があります。

OpenAI はその企業ミッションに AI の安全性 を掲げています。新しいモデルをリリースする前には、「核兵器の作り方を教えないか」「人を傷つける方法を提案しないか」といった安全性評価を徹底的に行っています。

Moderation API を普及させることは OpenAI にとって、「世の中の AI アプリ全体が安全に使われる」 ことを後押しする行為です。だから無料枠で広く使わせることに合理性がある、ということです。

注意：2025年9月時点で無料枠 rate limit 内での利用が可能ですが、OpenAI の方針変更により将来的に変動する可能性があります。大量アクセスが予想される場合は最新の利用規約と rate limit を確認してください。

僕が Dystopia でやっていること：モデレーション × コスト削減

ここが実践的な話です。

僕が作った DYSTOPIA というアプリがあります。SNS 的なアプリで、ユーザーが投稿するとき「誹謗中傷や攻撃的な表現があったら AI がマイルドに言い換える」という機能が入っています。

「言いたいことは尊重するけど、相手が傷つかない言い方に変換する」というコンセプトです。

問題：全投稿を AI に流すとコストが爆発する

ユーザーの投稿を全部 GPT 系 API に流して「これを言い換えて」と頼むと、コストが莫大になります。

日常的な「今日のランチ美味しかった」みたいな投稿も、全部 AI が処理することになる。実際にはほとんどの投稿は普通の内容なのに、フィルタリングなしで全部 AI に送るのは非効率すぎます。

解決策：Moderation API でふるいをかける

ここで Moderation API を挟む設計に変えます。

ユーザーが投稿
  ↓
Moderation API でスコアリング（無料枠内）
  ↓
スコアが閾値以上 → GPT で言い換え（コスト発生）
スコアが閾値未満 → そのまま投稿（コストゼロ）

たとえば「ハラスメントスコアが 0.5 以上の場合だけ言い換えを発動する」と設定すれば、普通の投稿はスルー、問題ある投稿だけ GPT に回す。

これだけで AI への API リクエスト数が劇的に減ります。無料の Moderation API でふるいをかけて、有料の GPT API の出番を最小化する。コスト削減の設計として非常に効果的です。

AI駆動開発でのAPI選定：選ぶ視点を持つ

Moderation API の話をしてきましたが、これを機に「AI をアプリに組み込むとき、どの API を選ぶか」という視点についても整理しておきます。

これは僕が AI駆動開発でサイトを0円で立ち上げる方法 でも触れた話とつながるのですが、コスト意識なしに AI を使うと、後で痛い目を見ます。

選定で考えるべきポイント

1. インプット / アウトプットのトークン単価

API の料金はモデルによって大きく違います。GPT-4o、GPT-4o mini、Gemini 2.5 Pro、Gemini 2.5 Flash など、賢さとコストのトレードオフが異なります。「必ずしも一番賢い AI が必要か」を毎回問い直す習慣が重要です。

2. バッチ処理の活用

OpenAI の API には Batch API という機能があります。「今すぐ返さなくてもいい処理」をまとめて送ると、通常の料金の半額になります。ユーザーに即時応答が不要な処理（例：深夜に翻訳する、まとめて要約する）はバッチにまとめると大幅にコストが下がります。

3. タスクに合ったモデルを使う

「テキストが不適切かどうかを判定する」という単純なタスクに GPT-4o を使うのは過剰です。Moderation API のように専用のツールがあれば、それを使う。AI駆動開発の文脈では、MCP の自動化レシピ と組み合わせて「何をどの AI に任せるか」を設計することが、長期的なコスト管理につながります。

個人開発者が持つべき「ボーナスタイム」の発想

ポッドキャストでも話したのですが、Moderation API が「5年後もこの形で存在するか」「ずっと無料か」は分かりません。

でも、今使えるなら使う。これがボーナスタイムの発想です。

AI の世界は動きが速い。AI駆動開発のアイデアを API で実現する方法 でも書いた通り、「今の環境でできることを最大限活用する」という姿勢が個人開発では重要です。将来の不確実性を理由に使わないのは機会損失です。

使いながら、変化があれば素早く乗り換える。それが AI 駆動で開発を進める上での正しい構え方だと思っています。

実装の入口：Moderation API の基本的な使い方

具体的な実装イメージも書いておきます（2025年9月時点の仕様。最新は 公式ドキュメント を参照）。

import OpenAI from "openai";

const client = new OpenAI();

async function checkContent(text: string) {
  const response = await client.moderations.create({
    input: text,
    // model は "omni-moderation-latest" 推奨（2025年9月時点）
  });

  const result = response.results[0];

  // 全体フラグ
  if (result.flagged) {
    console.log("不適切なコンテンツを検出");
    // カテゴリ別スコアで判断
    const scores = result.category_scores;
    return { flagged: true, scores };
  }

  return { flagged: false, scores: result.category_scores };
}

返ってきた category_scores の値を閾値と比較して、処理を分岐させる。それだけです。

AI駆動開発のテックスタック を整えていれば、この程度の実装は Cursor や Claude Code で数分で書けます。

まとめ

Moderation API の要点を整理します。

  • OpenAI の Moderation API は、テキストの不適切度をカテゴリ別にスコアリングする専用 API
  • 2025年9月時点で無料枠 rate limit 内で利用可能（将来の変更は要確認）
  • 「Moderation でふるい → 問題あるものだけ GPT に回す」設計でコストを大幅削減できる
  • バッチ処理など他のコスト削減手段と組み合わせてAPI選定をシステム的に考える

個人開発で AI を絡めたアプリを作るなら、知っておいて損はない API です。今すぐ使わないとしても、設計の選択肢として頭に入れておく価値があります。

関連する記事

AI駆動開発のご相談・お仕事のご依頼

株式会社CAEN（代表：大森翔吾）では、AI を組み込んだアプリ・サービスの設計、API コスト最適化、AI駆動開発の導入支援のご相談を承ります。

「アプリに AI を組み込みたいけどコストが心配」「Moderation API の活用方法を相談したい」など、お気軽にご相談ください。