Snsで過激化するJkダンス動画の裏側とプラットフォーム規制
急速に先鋭化するコンテンツに対し、プラットフォーム運営企業も手をこまねいているわけではない。TikTokを傘下に持つByteDanceや、InstagramやFacebookを運営するMeta Platformsは、未成年者の保護と健全なエコシステムの維持を掲げ、かつてない規模の対策を打ち出している。
導入が進むのは、高度なAIビジョン技術を用いたコンテンツモデレーションの刷新だ。露出面積の割合だけでなく、カメラアングル、ポーズの文脈、制服や学校を想起させる要素の組み合わせを総合的に解析し、未成年者が性的に搾取されるリスクを孕むコンテンツを自動で検知する。違反と判定された動画の削除はもちろん、検索サジェストからの特定キーワード除外や、おすすめフィードへの表示を制限する「シャドウバン」措置がより厳密に適用され始めた。
しかし、規制と表現のいたちごっこは終わらない。モデレーションAIの目をかいくぐるため、エフェクトやフィルターを重ねて輪郭をぼかしたり、無害なダンス動画の合間にわずかな過激カットを挿入したりする手口が次々と現れている。巨大テック企業が直面しているのは、莫大なトラフィックを維持しながら、どこまで厳格にコミュニティガイドラインを適用できるかという重い課題だ。
