Blueskyに絵をポストしたらポルノ扱いされたんですけど！ラベルの話

はじめに

BlueskyのAdult(旧ポルノ)扱いは内外でいろんな人が話題にしているのですが説明するのが大変なのでこれをとりあえず書きました。

児童ポルノに関する話

児童ポルノ(またはそう海外が思ってるもの)は許されません。

Bluesky がではなく Bluesky の所在地の法律がそれを許しません。Apple も Google もそれを許しません。

最終的にはモデレーターが児童ポルノだと判断したものは児童ポルノです。

とりあえずダメそうなものは https://misskey.io にポストしましょう。(Xもそのようなものは本来規約違反ですが通報が多すぎて処理しきれず雑な凍結で済ましているだけです)

最近の Bluesky はけっこうそういうものも残っていますが削除対象にはなっているようです。

モデレーターによる介入

誰かがあなたのポストを「通報」したときにBlueskyのモデレーターに連絡が届き運営がそのポストへの対処を判断します。このモデレーションシステムを「Ozone」といいます。

出典: https://github.com/bluesky-social/ozone

モデレーターはそのポストを削除するかもしれませんしラベルを変更するかもしれません。

何度も削除されるようなものをポストし続けているとアカウントが Takedown (一時停止) になる可能性が高いです。

よほど悪質ではない限りアカウントの削除は稀です(過去の例により)。水着騒動の際は結果的には Untakedown によってそのアカウントは停止解除されました。

(アカウントの削除とTakdownは違います。Bluesky におけるアカウントの削除と Takedown については説明は省略します。ユーザーからするとわからないので)

違反コンテンツ削除の通達

児童ポルノのような違反コンテンツが運営により削除になった時、登録時のメールアドレスにそのポストを削除したと記載されたメールがBluesky運営より送信されます。

通達を無視して同じようなコンテンツを含むポストを続けているとアカウントは Takedown(凍結) されます。

Blueskyからのメールが迷惑メール扱いになっている場合も多いので必ず確認しましょう。

また Takedown 状態の場合は異議申し立てにより Untakedown (凍結解除) してもらえる可能性もあります。

画像などをすべて表示する設定

ios版 Bluesky は Apple の規定によりエロっぽい画像を表示する設定ができないようになっています。（Android版はそのまま設定からできるそうです）

ブラウザ版の Bluesky https://bsky.app から設定を変更します。

設定 -> モデレーション -> コンテンツのフィルター

ここでコンテンツの表示ルールを変更できます。 さらに追加のフィルターは以下の Bluesky Moderation Service から変更します。

画像以外のものがやたらあるもののほとんど見かけることはないはず

絵をポストしたらAdult(旧ポルノ)扱い もう終わりだよこのSNS

ポストに画像を添付するとき

ポストする画像を選んだ後にユーザーはラベルからコンテンツの警告を以下の中から選ぶことができます。

↓

成人向けコンテンツ (この中から１つ)

• 「きわどい(Sexually Suggestive)」 性的示唆 性的挑発 裸体は含まれない
• 「ヌード(Non-sexual Nudity)」 美術的な裸体
• 「Adult(Adult Content)」 ポルノ画像 性行為

その他 (上記の３つに加えて追加可能)

• 「生々しいメディア(Graphic Media)」 人によっては閲覧に注意する画像(基本的に流血・グロを表す ショッキングなもの等)

これで他の人に配慮したポストにすることができます。

成人向けコンテンツラベルを選ばずに全年齢対象投稿とすることもできます。

いずれにせよポストをしたあとにこのようなラベルが勝手についていることがあります。

「検閲だ！左派だ！ポリコレだ！Bluesky運営はポストを監視し、キリスト教的価値観によって我々の言論を封じ表現の自由を奪い国家をひいては日本民族を弱体化させようとしているんだああああ！！」

ちがいます

ラベルはラベラーが貼っている

すべてのポストに添付された画像や動画は即座に Hive AI (SkebがAI判定にも使っているサービス)に通され、そこでAdultやヌードの判定が行われます。

Hive AI の画像内容検出サービス(Image and Video Detection)

Hive Moderation

Automated content moderation solutions with human-level accuracy

https://hivemoderation.com/ai-generated-content-detection

その判断を元に Bluesky Moderation Service というラベラー(そういうサービス)がポストに対して選ばれたラベルを貼り付けます。

自動的にラベルが貼られる基準はとにかく Hive AI の判断になっています。Blueskyの思想でラベルが決まっているわけではありません。 (Hive AIの判定の厳しさ設定はBluesky運営が設定しています)

なんでこんなことやってるの

当初 Hive AI は ラベルの貼り忘れの事故などを防ぐために導入されました。ラベルを貼りましょうと言っても貼らない人だらけなのは言うまでもないことです。そして判断基準は人それぞれです。人が増えるほどモデレーションは大変なので結果的にこの Hive AI が自動モデレーションすることになりました。

現在では検閲システムのように思われていますがこの自動ラベリングは適切なラベリングのために存在しています。 Hive AI の判断は適切とは言えませんがそこはそれを見たくない人のために最低限ラベルを貼っていると考えてください。

自分で「Adult」ラベルを選んで投稿しても Hive AI の判断によってもっと軽いラベル「きわどい」「ヌード」が貼られることもあります。

自分が選んだラベルと Hive AI によって選ばれたラベルが一致した場合は自分が貼ったラベルと表示されるだけです。(Hive AIが選んでいない可能性もある) 基本的に同じラベルは一つしか付かないのです。

Hive AI は何を見ているのか

正確にはBlueskyとは関係ないのですが今までの傾向から見て Hive AI は

• グラビアにあるようなポーズか
• 水着か
• 服を着ているか
• 乳首があるか
• 肌色(褐色でも黒でも)が多いか
• 性器があるか
• 女性的なお尻のシルエットか
• 性行為の構図か
• 血が出ているか
• 美術的ヌードか
• アメコミとかの漫画絵か

という部分を見ています(多分)。特に Sexually Suggestive (きわどい) は範囲が広く胸元が見えていたりするとよく適用されます。 「ふーん、えっちじゃん」は Sexually Suggestive(きわどい) だと考えるのがよいでしょう。

Sexually Suggestive (Cartoon) が付いていたんだけど！

このラベルも Bluesky Moderation Service によって貼られるラベルですがこのラベルは自分では選べません。 これも HiveAI の判断で「えっちな雰囲気がする二次元の絵」という扱いになったときに選ばれるラベルですが正直選ばれる基準がわからなさすぎるので特に気にしないでください。

Sexually Suggestive (Cartoon) の表示設定は 設定 -> モデレーション -> 高度な設定 Bluesky Moderation Service -> ラベル Sexually Suggestive (Cartoon) にあります。

Hive AI の勝手なラベルが気に食わないので変えたい

「異議を申し立てる」で運営の判断により別のラベルに変えてくれる場合があります。以下は自分で「Adult」としてポストしたものの「Sexually Suggestive(Cartoon)」と判断された画像です。

プロフィールがAdult(旧ポルノ)扱い もう終わりだよこのSNS

プロフィールに使うアバターやヘッダー画像も当然 Hive AI に通されます。

それによってプロフィール自体にラベルが貼られ、モデレーション設定によりアバター画像やヘッダー画像がぼやかされたりします。(プロフィールが非表示になるのではなく画像がぼやかされる)

プロフィール画面は誰でもアクセスできる場所なので基本的には安全な画像を使うようにしましょう。(アバター画像がぼやけていると本当に誰だか認識しづらい)

結論

とりあえずポストに添付する画像は全部「Adult」にしておくのはあれこれ悩まずに済みます。(Misskey ioがなんでもNSFWにする人が多いのと同様)

一般イラストを投稿するユーザーは HiveAIの判断に悩むかもしれませんが Sexually Suggestive (きわどい) はとにかく適用されやすいのでそこはそういうものだと思いましょう。

Bluesky はユーザー自身が見るものをコントロールするのが基本なのでラベルはどうしても必要なのです。

これはあなたを通報するユーザーを減らすことにもつながります。

更新履歴