意見：メタの安全規制システムは壊れているのでしょうか？

ほとんどのコンテンツクリエーターやアクティブなソーシャルメディアマネージャーが、最近FacebookやInstagramに投稿する際に同じ問題に直面しています：投稿やアカウントが、おそらく誤った理由で禁止されることです。

このイライラする状況は、メタのコンテンツ規制システムに関する複雑な問題の一部に過ぎません。メタは多くのコントロール策を持っているように見えますが、時にはそれはばかげていることもあり、問題の根本は解決されていないように思われます。

ここ数ヶ月間にわたり、メタは数多くのコンテンツガイドラインの更新を導入し、より健全なオンライン環境を構築するための厳格なルールを実施しました。その結果、多くのビジネス、出版社、ユーザーアカウントが禁止され、フォーラム、チャットプラットフォーム、ソーシャルメディアチャンネルで何百もの苦情が寄せられています。今年に入り、特定の地域でメタのプラットフォームから多数のニュース出版社やブランドが排除され、ビジネスオーナーやジャーナリスト、コンテンツクリエーターの間で懸念が高まっています。

厳格なモデレーションとプラットフォームで共有されるコンテンツのより厳密なチェックを印象づけているメタの最近の更新にもかかわらず、薬物、自殺、性的嫌がらせ、いじめ、ヘイトスピーチ、虐待、フェイクニュースに関連する投稿は引き続きアルゴリズムをくぐり抜け、脆弱なコミュニティに届けられてしまっています。

どうしても思わずにはいられません：メタの安全規制システムに何が起こっているのでしょうか？

誤った理由でアカウントが禁止される

すべては似たようなメッセージから始まります：“あなたのメタアカウントは私たちのルールに従っていません。” 多くのFacebookとInstagramのユーザーが、メタのルールに「従わない」ためにアカウントが禁止されたり、一時的にアカウントから追い出されたりしています。彼ら自身がルールを守っていると信じていてもです。

これは私たちWizcaseでも経験したことのある状況です。Metaのシステムは、関連するアイテムを不適切としてフラグ付けし、コミュニティマネージャーにはアピールプロセスを経て政府発行のIDを提供するよう求めました。

何百人ものユーザー、コミュニティマネージャー、アカウントマネージャーが、Redditなどのプラットフォームや他のフォーラム、チャット、ソーシャルメディアチャンネルで同様の状況について不満を表明しています。何度もある不幸なシナリオでは、ユーザーはアカウントを失い、それについて何もできないばかりか、その理由さえ説明されません。

「Facebookのサポートチームは最悪です。何度彼らに全てを伝えても、何度説明しても、彼らは全く理解してくれません」と、アカウントが禁止されたことについてのスレッドでRedditのあるユーザーが語りました。「私がすぐに言えることは、一日に何十万も使っていない限り、あなたのアカウントは再開されないでしょう」と別のユーザーが付け加えました。

この問題は、コンテンツ作成者だけに影響を与えるように見えるかもしれませんが、それはより大きな課題の一部に過ぎません。

訴訟に対するMeta

何年もの間、メタはコンテンツのモデレーションに投資し、ユーザーにとってより安全なプラットフォームを作るための新しい戦略を練り、さらなる訴訟から自分たちを守るための対策を続けてきました―最も最近のものは、ケニアのコンテンツモデレーターからのもので、大量解雇と、Facebookのコンテンツを分析する過程で押し付けられた苦痛な素材に対する補償として16億ドルを要求しています。

このテック企業は、コンテンツ規制を手伝うために第三者に依存し、コンテンツがプラットフォームのルールに違反している場合にそれを認識するツールを開発しています。しかし、これらの対策は十分ではなく、特に未成年のユーザーの間で状況は手に負えなくなりました。

2021年にMetaは新たな保護機能を導入しましたが、それでも昨年、InstagramやFacebookは上院から子供にとって有害なプラットフォームとして挙げられました。このテックジャイアントは、その操作的で有害なアルゴリズムにより、アメリカの33州から共同訴訟を起こされました。

1月以降、Metaは新たな安全管理ツールについてのアップデートを公開しています。6月には、同社はInstagramにおけるティーンエイジャーの保護を強化するために、デフォルトの「Close Friends（クローズフレンズ）」と「Limits（制限）」機能を備えた反ハラスメントツールを改善しました。これにより、若いユーザーが投稿したコンテンツに対して、実際の友人や家族だけが交流できるようになりました。

数日前、当社は新たなティーンアカウントを発表し、ティーンエイジャーを保護し、「親が子供たちが安全な体験をしていることを確認できるようにする」を目指しました。子供たちを守るためにこれで十分でしょうか？また、年齢層が上のユーザーについてはどうでしょうか？

安全でないエコシステム

Facebook、Instagram、WhatsAppはまだ有害なコンテンツに悩まされており、その影響は全ての年齢、職業、社会集団のユーザーに及んでいます。そして、これがすぐに解決されることはほとんどないでしょう。

ある研究が、デジタルヘイト対策センター（CCDH）によって行われ、アメリカの10人の女性政治家のアカウントに対するInstagramの500百万以上のコメントを分析し、その結果、Metaがこれらのコメントの93%を削除または対処しなかったことを明らかにしました。

Metaに対する複数の訴訟は、同社が有害なコンテンツからユーザーを保護することに苦労しており、不公平なフィルターや不適切に実装された安全ツールによってクリエーターや出版社、ブランドを傷つけていることを文字通り証明しています。

もちろん、これは深く複雑な問題で、深く掘り下げて対処すべき問題ですが、もしかしたら、Metaがこの状況を適切に対処できなかったと認めるべき時が来たのかもしれません。基本的に壊れたシステムを、一時しのぎの修正で解決することはできません。今、本当に問いたいのは：本当の変化が起こる前に、どれだけ多くのユーザーが不当に追放され、誤解を招かされ、あるいは操作されなければならないのでしょうか？