Blueskyに絵をポストしたらポルノ扱いされたんですけど！ラベルの話

はじめに

Blueskyの成人向け（ポルノ等）扱いは内外でいろんな人が話題にしているのですが説明するのが大変なのでこれをとりあえず書きました。

児童ポルノに関する話

児童ポルノ(またはそう海外が思ってるもの)は許されません。

BlueskyがではなくBlueskyの所在地の法律がそれを許しません。AppleもGoogleもそれを許しません。

Blueskyでは児童ポルノの検出に Thorn の Safer というものを利用しているようです。

たとえば、Bluesky は CSAM (Child Sexual Abuse Material（児童性的虐待のコンテンツ）)を見つけて削除するために、児童安全非営利団体 Thorn のツールである Safer を使用しています。 10 年以上にわたり、テクノロジー業界は既知の CSAM のハッシュを収集して共有し、業界や同業者がサイトから CSAM を簡単に削除できるようにしてきました。 Safer はそれらのハッシュを Bluesky に提供し、独自の機械学習ツールで強化します。 このツールは、これまで検出されなかった CSAM も検出できます。CSAM が発見されると、Safer は関連する投稿をモデレーターにルーティングし、Bluesky が事業を展開している国の児童安全当局と共有できるレポートを作成します。(Google 翻訳)

情報元 : Inside Bluesky’s big growth surge PLATFORMER

とりあえずダメそうなものは https://misskey.io にポストしましょう。（Xもそのようなものは本来規約違反ですが通報が多すぎて処理しきれず雑な凍結で済ましているだけです）

モデレーターによる介入

誰かがあなたのポストを「通報」したときにBlueskyのモデレーターに連絡が届き運営がそのポストへの対処を判断します。このモデレーションシステムを「Ozone」といいます。

出典： https://github.com/bluesky-social/ozone

モデレーターはそのポストを削除するかもしれませんしラベルを変更するかもしれません。

何度も削除されるようなものをポストし続けているとアカウントがTakedown（一時停止）になる可能性が高いです。

よほど悪質ではない限りアカウントの削除は稀です（過去の例により）。水着騒動の際は結果的にはUntakedownによってそのアカウントは停止解除されました。

(アカウントの削除と Takdown は違います。Bluesky におけるアカウントの削除と Takedown については説明は省略します。ユーザーからするとわからないので)

違反コンテンツ削除の通達

児童ポルノのような違反コンテンツが運営により削除になった時、登録時のメールアドレスにそのポストを削除したと記載されたメールがBluesky運営より送信されます。

通達を無視して同じようなコンテンツを含むポストを続けているとアカウントはTakedown（凍結）されます。

Bluesky からのメールが迷惑メール扱いになっている場合も多いので必ず確認しましょう。

またTakedown状態の場合は異議申し立てによりUntakedown（凍結解除）してもらえる可能性もあります。

画像などをすべて表示する設定

ios版BlueskyはAppleの規定によりエロっぽい画像を表示する設定ができないようになっています。（Android版はそのまま設定からできるそうです）

ブラウザ版のBluesky https://bsky.app から設定を変更します。

設定 → モデレーション → コンテンツのフィルター

ここでコンテンツの表示ルールを変更できます。 さらに追加のフィルターは以下のBluesky Moderation Serviceから変更します。

画像以外のものがやたらあるもののほとんど見かけることはないはず

絵をポストしたら成人向け(ポルノ等)扱い もう終わりだよこの SNS

ポストに画像を添付するとき

ポストする画像を選んだ後にユーザーはラベルからコンテンツの警告を以下の中から選ぶことができます。

↓

成人向けコンテンツ（この中から1つ）

• 「きわどい(Sexually Suggestive)」性的示唆性的挑発裸体は含まれない
• 「ヌード(Non-sexual Nudity)」美術的な裸体
• 「成人向け（ポルノ等）(Adult Content)」ポルノ画像性行為

その他（上記の3つに加えて追加可能）

• 「生々しいメディア（Graphic Media）」人によっては閲覧に注意する画像（グロ画像、事故や戦争・災害などの画像）

これで他の人に配慮したポストにすることができます。

成人向けコンテンツラベルを選ばずに全年齢対象投稿とすることもできます。

いずれにせよポストをしたあとにこのようなラベルが勝手についていることがあります。

これを押してみると

！？

「検閲だ！左派だ！ポリコレだ！Bluesky 運営はポストを監視し、キリスト教的価値観によって我々の言論を封じ表現の自由を奪い国家をひいては日本民族を弱体化させようとしているんだああああ！！」

ちがいます

ラベルはラベラーが貼っている

すべてのポストに添付された画像や動画は即座にHive AI（SkebがAI判定にも使っているサービス）に通され、そこで成人向け（ポルノ等）やヌードの判定が行われます。

Hive AI の画像内容検出サービス(Image and Video Detection)

Hive Moderation

Automated content moderation solutions with human-level accuracy

https://hivemoderation.com/ai-generated-content-detection

その判断を元にBluesky Moderation Serviceというラベラー（そういうサービス）がポストに対して選ばれたラベルを貼り付けます。

自動的にラベルが貼られる基準はとにかくHive AIの判断になっています。Blueskyの思想でラベルが決まっているわけではありません。 （Hive AIの判定の厳しさ設定はBluesky運営が設定しています）

なんでこんなことやってるの

当初Hive AIはラベルの貼り忘れの事故などを防ぐために導入されました。ラベルを貼りましょうと言っても貼らない人だらけなのは言うまでもないことです。そして判断基準は人それぞれです。人が増えるほどモデレーションは大変なので結果的にこのHive AIが自動モデレーションすることになりました。

現在では検閲システムのように思われていますがこの自動ラベリングは適切なラベリングのために存在しています。 Hive AIの判断は適切とは言えませんがそこはそれを見たくない人のために最低限ラベルを貼っていると考えてください。

自分で「成人向け（ポルノ等）」ラベルを選んで投稿してもHive AIの判断によってもっと軽いラベル「きわどい」「ヌード」が貼られることもあります。

Hive AI は何を見ているのか

正確にはBlueskyとは関係ないのですが今までの傾向から見てHive AIは

• グラビアにあるようなポーズか
• 水着か
• 服を着ているか
• 乳首があるか
• 肌色（褐色でも黒でも）が多いか
• 性器があるか
• 女性的なお尻のシルエットか
• 性行為の構図か
• 血が出ているか
• 美術的ヌードか
• アメコミとかの漫画絵か

という部分を見ています（多分）。特にSexually Suggestive（きわどい）は範囲が広く胸元が見えていたりするとよく適用されます。 「ふーん、えっちじゃん」はSexually Suggestive（きわどい）だと考えるのがよいでしょう。

Sexually Suggestive (Cartoon) が付いていたんだけど

このラベルもBluesky Moderation Serviceによって貼られるラベルですがこのラベルは自分では選べません。 これもHiveAIの判断で「えっちな雰囲気がする2次元の絵」という扱いになったときに選ばれるラベルですが正直選ばれる基準がわからなさすぎるので特に気にしないでください。

Sexually Suggestive（Cartoon）の表示設定は設定 → モデレーション → 高度な設定Bluesky Moderation Service → ラベルSexually Suggestive (Cartoon) にあります。

Hive AI の勝手なラベルが気に食わないので変えたい

「異議を申し立てる」で運営の判断により別のラベルに変えてくれる場合があります。以下は自分で「成人向け（ポルノ等）」としてポストしたものの「Sexually Suggestive(Cartoon)」と判断された画像です。

プロフィールが成人向け(ポルノ等)扱い もう終わりだよこの SNS

プロフィールに使うアバターやヘッダー画像も当然Hive AIに通されます。

それによってプロフィール自体にラベルが貼られ、モデレーション設定によりアバター画像やヘッダー画像がぼやかされたりします。（プロフィールが非表示になるのではなく画像がぼやかされる）

プロフィール画面は誰でもアクセスできる場所なので基本的には安全な画像を使うようにしましょう。（アバター画像がぼやけていると本当に誰だか認識しづらい）

結論

とりあえずポストに添付する画像は全部「成人向け（ポルノ等）」にしておくのはあれこれ悩まずに済みます。(Misskey ioがなんでもNSFWにする人が多いのと同様）

一般イラストを投稿するユーザーはHiveAIの判断に悩むかもしれませんがSexually Suggestive（きわどい）はとにかく適用されやすいのでそこはそういうものだと思いましょう。

Blueskyはユーザー自身が見るものをコントロールするのが基本なのでラベルはどうしても必要なのです。

これはあなたを通報するユーザーを減らすことにもつながります。

更新履歴