DYSTOPIA

プロダクト概要

DYSTOPIAは、「誰も傷つかない」がコンセプトの革新的なAI搭載型SNSです。ChatGPTを用いたAI技術により、投稿に含まれる誹謗中傷などの不適切表現に対して、AIが検知と言い換えを試みます。なおAI変換には限界があり、変換が行われない／意図した変換にならない場合があります（下記「サービスに関する留意点」参照）。2023年9月24日にiOSとAndroid向けにβ版がリリースされ、多くのユーザーに支持されています。

• プロダクトの種類：iOS、Androidアプリ
• リリース日：2023年9月24日

メディア掲載

DYSTOPIAは、リリース以降、多くのメディアに取り上げられ、注目を集めています。主な掲載メディアは以下の通りです。

特集記事

ネットメディア

• type：ひろゆき「失敗する」宣言！話題のSNS『DYSTOPIA』開発者と対談【連載：僕ならこう作るね】（2023年10月12日）

ニュース記事

テレビ

• めざましテレビ：「"誰も傷つかない"SNS 誹謗中傷をAIが変換」（2023年9月27日放送）
• クラウドダンディ：（2023年12月2日放送）

オンラインニュース

• テレ朝ニュース：「誰も傷つけない・傷つかない」優しいSNS登場"不適切"ワードをマイルドに変換（2023年9月28日）
• ABEMA TIMES：「ムカつく」→「少し腹が立ちますね」AIが誹謗中傷をやさしい言葉に自動変換　"誰も傷つけないSNS"が話題に「全世界これに移行してほしい」（2023年10月4日）

ラジオ

• TOKYO FM『ONE MORNING』：「誹謗中傷」「不適切な文章」をAIがポジティブに変換!? 誰も傷つかない新SNS「DYSTOPIA」とは？ 専門家が解説（2023年10月9日）

ネットメディア

• dmenuニュース：やさしい世界"かディストピアか。AIが誹謗中傷を自動変換してくれる社会実験SNS「DYSTOPIA」登場。作者に開発の狙いを聞いた（2023年9月26日）

• ITmedia ねとらぼ："誰も傷つかない"SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に（2023年9月25日）

• ORICON NEWS：「誰も傷つかない」がコンセプトの新SNS『DYSTOPIA』がサービス開始（2023年9月25日）

• Impress GAME Watch：“誰も傷つかない”SNS!? 「1984」オマージュ検閲で投稿を変換する「DYSTOPIA」配信開始！（2023年9月24日）

• KAI-YOU：AIが不適切な発言を"修正"するSNS「DYSTOPIA」リリース（2023年9月25日）

• マイナビニュース：誹謗中傷の無い新SNS「DYSTOPIA」誕生！ AIが投稿を監視 - ネット「社会実験としては面白い」「ディストピアｗ」（2023年10月1日）

• 電ファミニコゲーマー：「誰も傷つかない」ことをテーマにした社会実験SNS「DYSTOPIA」の利用者数が早くも1万人を突破。AIにより誹謗中傷を検閲するシステムが話題を呼び、サービス開始から1日での達成（2023年9月25日）

SNSでの反響

• X：
• togetter：不適切な表現が検閲され自動的に適切な表現へと変換される誰も傷つかない新SNS『DYSTOPIA』がリリースされた「私の心中は今お祭り騒ぎですな!」
• LiveDoor News：（2023年9月25日）

開発の背景

SNS上での誹謗中傷は大きな社会問題となっており、一個人の人生を大きく変えてしまうほどの影響力を持っています。DYSTOPIAは、AIという公平な目を通して、意識的・無意識的な誹謗中傷を未然に防ぎ、「傷つけられる」だけでなく「誰かを傷つけてしまう」体験からもユーザーを守ることを目的に開発されました。

主な機能

1. AIによる自動検閲：投稿内容をAIが解析し、誹謗中傷などの不適切な表現を検知します。
2. 適切な表現への自動変換：不適切な表現を含む投稿を、AIが自動的に適切な表現に変換します。
3. 会員によるAI検閲ルールの洗練：月額課金の会員は、AI検閲ルールの観覧、投票、提案を通じて、DYSTOPIAの検閲ルールをより適切なものへと洗練させることができます。

サービスのモチーフ

DYSTOPIAは、ジョージ・オーウェルのディストピアSF小説「1984年」から大きな影響を受けています。全体主義的な思想や、絶対的権威者「BIG・BROTHER」をオマージュしつつ、「AIによる検閲」が人々のコミュニケーションにどのような影響を与えるのかを社会実験的に探求するサービスでもあります。

サービスに関する留意点

最終更新：2025年12月26日 対象期間：2023年9月〜10月頃のβ版運用に関する指摘 本ページの目的：当時の限界と運用方針を一次情報として整理する

DYSTOPIAでは、投稿が変換されずに表示されるケースがあります。DYSTOPIAのAI変換は、投稿内容を確定的に判定する仕組みではなく、一定のルールと確率に基づく推定処理です。

AI変換には以下のような限界があります。 ・文脈依存の表現（皮肉、引用、ミームなど）の誤認 ・隠語や造語への対応の難しさ ・不適切かどうかの境界が曖昧なケース これらにより、意図した変換が行われない「検知の取りこぼし」が発生する場合があります。

投稿が変換されていない場合、それは検知の取りこぼしであり、運営がその内容を適切と判断したことを意味しません。非変換は技術的限界等によって発生し得るものであり、当該内容の容認を示すものではありません。

運用方針

当社は、差別・暴力・犯罪の称賛・個人攻撃・嫌がらせなど、他者の安全や尊厳を損なう内容を容認しません。AI変換はその実現を目指す仕組みの一つですが、完全な検知を保証するものではありません。