特定の民族や集団への反感を煽り、社会を分断するヘイトスピーチ。Facebookがどのようにヘイトが拡散する舞台となっているか、BuzzFeed Newsが独自調査で明らかにした。
今回のリポートの舞台はミャンマー。だが、Facebookなどインターネット上のネットワークを通じてヘイトが拡散する現状は、日本を含む世界に広がっている。
迫害を受けているイスラム系少数派ロヒンギャが住む州の議員が、悪意に満ちた反イスラムのコメントなどをFacebookに定期的に投稿していることが、BuzzFeed Newsの調査でわかった。暴力行為を明確に呼びかける内容もある。
こうした投稿は、70万人に上るロヒンギャが、ミャンマー政府主導による残虐行為を受けて住む場所を追われる前、ならびにその後の数カ月にわたっていた。国連は、ミャンマー政府によるそうした行為をジェノサイド（集団虐殺）と表現している。
国連調査団は2018年8月、きわめて厳しい内容の報告書を公表し、ミャンマー軍総司令官を含む多くの軍幹部は国際刑事裁判所によって起訴されるべきだと呼びかけた。報告書によると、ミャンマー軍兵士は「民間人に対する広範囲および組織的な攻撃」の一環として、少数派ロヒンギャの人々を殺害し、拷問し、レイプしたという。
国連は、Facebookにも非難の矛先を向けている。「憎しみを拡散させようとする人々にとっての便利な場」になっている一方で、そうした役割を懸念する訴えに対する対応は「遅いうえに非効果的」というのだ。
「Facebook上の投稿やメッセージが、現実社会における差別に対してどの程度つながったかが、中立的かつ徹底的に調査されなくてはならない」と報告書は述べている。
Facebookは8月27日、「憎しみや虚偽情報の拡散」を防止すべく、軍総司令官を含むミャンマーの20の組織と個人の利用を禁止する措置をとった。また、虚偽情報を広める運動や活動を発見し、それに応じて措置を講じたと述べた。
同社はそうした運動や活動を「組織的で信用できない行動」と呼んでいる。ただし、Facebookの対応は遅すぎるうえに不十分だと危惧する声が多い。
Facebookはかつて、おおむね中立的なプラットフォームであると自認していた。しかし現在、国連などの組織から要求が寄せられるなか、ユーザーの投稿内容、とりわけ暴力を呼びかける投稿について、より責任を負うべく、そうした考えを見直している。
BuzzFeed Newsの分析が、Facebookのプラットフォーム上で、ヘイトスピーチ問題がいかに広範囲に及んでいるかを明らかにした。
ミャンマーのラカイン民族党（ANP）に所属する政治家が投稿した4000以上の書き込みを確認したところ、2017年3月から翌年2月までに、10件中1件の割合で、Facebookのコミュニティ規定がヘイトスピーチと定義する内容が含まれていた。
ANPは、2017年に追放されるまで数万人のロヒンギャが暮らしていたラカイン州で最も支持率の高い政党だ。有力民族であるラカイン族の利益を代弁していると謳っているが、ラカイン州は、ロヒンギャやほかの民族にとっての故郷でもある。
ラカイン州議会の議員は投稿のなかで、ロヒンギャをイヌになぞらえたり、イスラム教徒の女性は醜すぎるからレイプはしないと言ったり、ロヒンギャは非政府組織から報酬をもらって自分で自宅に火をつけたと嘘をついたり、イスラム教徒は子どもをたくさん産んでラカイン州の多数派になろうとしていると非難したりしている。イスラム教徒に対して、殺されることを覚悟するよう告げる投稿もあった。
BuzzFeed Newsがヘイトスピーチとみなした投稿のなかで最も人気があったものは、3400もの「いいね」やコメントが集まり、最大9500回もシェアされていた。
ANP総書記であり広報官も務めるトゥンアウンチョーにそういった投稿について質問すると、同党所属の議員がFacebookに他宗教について投稿したものを一度も目にしたことがないと述べた。「党の総書記である私は、わが党所属の議員がオンライン上に投稿したヘイトスピーチを一度も見たことがない」
2017年には、ロヒンギャの境遇が悪化の一途をたどっていたにもかかわらず、Facebookは何カ月もの間、措置を一切講じなかったことがBuzzFeed Newsの分析で明らかになった。2018年8月に入って、BuzzFeed NewsがFacebookの広報担当にリンクを送ると、ようやく多くの投稿が削除された。
ロイターは8月、Facebookに投稿されたミャンマー関連のヘイトスピーチについての調査報道記事を公開した。それによると、ロヒンギャなどのイスラム教徒を攻撃するために投稿されたFacebook上の書き込みや画像、動画が1000件以上も見つかったという。
Facebookは、危険な内容の発言などを拡散・増幅させるうえで果たしている役割について、ミャンマーだけでなく、スリランカや南スーダンなどでも、世論からの激しい圧力に直面している。
Facebookがミャンマー軍幹部の利用禁止に踏み切ったことから、同社がミャンマーを、ヘイトスピーチ撲滅キャンペーンの新たな目玉に据えようとしていることは明らかだ。これは、法の支配に欠け、社会に根深い分裂が存在しており、人種差別や少数派に対する暴言が現実の暴力へと変わりうる地域において、とりわけ重要だ。
Facebookの規定では、信仰や民族、国籍、人種などの特性をもとにした「暴力や、人を見下した発言」が禁止されている。
Facebookは、これまで対応の遅れがあったことを認めている。そして、ミャンマーにおけるヘイトスピーチに対処すべく、デジタルリテラシー向上キャンペーンとそのための人材に、より多くのリソースを投入することを約束した。
Facebookのコンテンツポリシーを統括するデイヴィッド・カラリアーノは7月にBuzzFeed Newsに対し、「過去3年間、Facebookのコンテンツ削除が遅れがちであったことは十分に認識しています。私たちがそれを認識していることは重要です」と述べた。「そうした経験を教訓にして、単に方針を掲げるだけではなく、それを実行に移すためにも、緊急時の対応プロセス向上に努めているところです」
ミャンマー在住で、デジタル著作権を研究するヴィクトワール・リオは、かなり以前から、ヘイトスピーチを含む投稿があると報告が寄せられた際のFacebook側の対応が遅いことに気がついていた。ヘイトスピーチが拡散すると、それに続いてすぐに暴力行為が発生するにもかかわらずだ。
そこでリオは2017年、Facebook幹部に対してこの問題を提起した。するとFacebook側からは、暴力行為を促す恐れのある投稿について、同社システムを通じて報告があった場合、通常は6時間以内に対処しているという回答が返ってきたという。
「何かを報告するなら、同社の内部プロセスを通じて行うのが一番だと言われました」とリオは話す。「その場合は平均して6時間ほど時間を要するということでしたが、私に言わせれば、受け入れがたいほどに異常だと思えました」
リオは2017年末、実験を行うことにした。彼女にとって明らかにFacebook規定に違反していると思われる投稿を数十件、正式なルートを通じて報告し、それぞれについて措置が講じられるまでの時間を計測したのだ。
「その結果、大部分の報告について48時間以上を要するという、かなり信頼性のあるパターンが見つかりました。48時間は、私たちがFacebookから得た回答の8倍の長さです」とリオは話す。
この実験についてFacebookにコメントを求めたところ、措置を講じた旨を知らせるメッセージがユーザーに届くよりも先に、問題のあった投稿が削除されているケースが多い、という回答が返ってきた。そうした事情から、モデレーターの対応が実際よりも遅いように思える可能性があるというのだ。
Facebookのプロダクトマネジャーを務めるサラ・スーはBuzzFeed Newsに対し、コンテンツの削除を担うモデレーターは、暴力行為が行われるという確かな脅威がある場合には、より素早く対応しており、通常は数時間以内に対策が講じられていると述べた。
ミャンマーでは、軍事政権による支配と景気低迷が数十年にわたって続いているが、国民の多くがスマートフォンやインターネットを使うようになったのは2015年になってからだ。その頃には、Facebookはすでにアジアで人気を博していた。
ミャンマーのユーザー数は驚異的なスピードで増加し、いまではFacebookの月間アクティブユーザーは1500万人から2000万人いる。「Facebook」という言葉は「インターネット」と同義語だ。
BuzzFeed Newsが実施した分析結果について尋ねたところ、Facebookはヘイトスピーチを巡る懸念が変化するのに応じて規定を修正しており、フェイクニュースやオフラインでの暴力を煽りかねない噂を発見して警告を行う独立組織と協力していると述べた。
同社幹部によると、ヘイトスピーチの削除については、以前よりも先手を打って行動するようになっており、ユーザーからの報告を、ただ指をくわえて待っているだけではないという。
Facebook幹部はインタビューのなかで、ミャンマーでの状況についての対策案には、「最悪中の最悪」とみなされるプロフィールの削除も含まれていると述べた。
こうした措置は、同社が2018年8月、右派のラジオ司会者で陰謀論者でもあるアレックス・ジョーンズが運営するサイト「インフォウォーズ（Infowars）」の削除に踏み切ったことを反映したものだ（ただし、アレックス・ジョーンズのサイト削除については、Facebookよりも先に、アップルやユーチューブなどが決定を下していた）。
Facebookは8月27日に同社ニュースルームで、ミャンマーに関係する「Facebookのアカウント18件、インスタグラムのアカウント1件、Facebookページ52件」を削除したと発表した。
こうしたアカウントには「1200万人近くのフォロワー」がいたという。また、「20の個人ならびに組織ユーザーを利用禁止にした」と述べた。そのなかには、ミャンマーの国防軍最高司令官ミンアウンフラインと、軍テレビネットワークのアカウントも含まれている。
Facebookのカラリアーノは、国連レポートが公表される前の7月にBuzzFeed Newsに対し、「私たちはかなりのレベルで、以前にはなかったやりかたで積極的に臨んでいます」と述べた。「有害ユーザーと有害コンテンツを、本腰を入れて排除しているところです」
こうした動きは、長年にわたってFacebookに対してもっと厳しく対処すべきだと求めてきた研究者や市民社会組織から歓迎されている。しかし、この問題はもっと複雑であり、ごくわずかの個人や組織ユーザーを締め出しただけでは解決できないことを、BuzzFeed Newsの分析は示している。
ソーシャルメディア上のヘイトスピーチが驚くほど一般的である地域で、Facebookがどうやってコンテンツ取り締まりをさらに拡大できるのか。また、ユーザーを遠ざけることなく、あるいは、事実上の検閲官になることなく、ルールを守らせることができるのか、という課題はいまだに残っている。
Facebookは2017年夏、「kalar」という言葉が、仏教の国家主義者がイスラム民族を中傷する際に使われることがあると述べ、個人や団体を攻撃するために使われた場合にはその投稿を削除すると発表した（kalarには、複合語を含めて多くの用法があり、中傷や侮辱をまったく意味しないものもある。実際、Facebookが当初、この表現の使用をいっさい禁止すると報道されたときには、ミャンマーでは反発が起きた）。
しかし、BuzzFeed Newsの分析を見ると、調査した数百件のサンプル投稿では、kalarという表現がまさに攻撃する意味合いで使われているものがあることがわかる。投稿でこの表現が、たとえ中傷するために使われていたとしても、コンテンツを監視するFacebookのモデレーターに言わせれば、削除するほどのレベルではなかったようだ。
分析ではまた、民族主義者たちが使っている「反ロヒンギャ」をテーマとした画像も見つかっている。なかには、Facebookのモデレーターの目をかいくぐるべく工夫を施したものもあった。
その多くが、暴力を明確に呼びかけるほどではないにせよ、kalarたちが子どもを多く「産み増やしている」とか、ロヒンギャの存在を「侵略」になぞらえて、イスラム教徒のいないラカイン州はもっと美しい、といった書き込みを繰り返している。また、ロヒンギャを動物にたとえている投稿もあるが、テキストではなく写真やミームを使って、検索にひっかかりにくいようになっていた。
BuzzFeed Newsが見つけた、暴力行為を明確に呼びかけていた投稿の一部は、投稿されてから何カ月も経ってようやく削除されたが、その多くはFacebookの検閲をすり抜けていたわけだ。現在でも、ねつ造されたストーリーを拡散している投稿があり、ロヒンギャはイスラム国（ISIS）の訓練を受けているとか、ミャンマーのほかの民族を大量虐殺したなどと書き込んでは、人々をそそのかしている。
Facebook創業者のマーク・ザッカーバーグは、コンテンツ管理プロセスのうちかなりの部分を、人工知能（AI）ツールを使って自動化することを検討中だと公言している。BuzzFeed Newsが話を聞いたFacebook幹部も同様の考えを口にした。しかし、ミャンマーのNGOや活動家たちは、ヘイトスピーチなどを削除できるだけの言語理解と文化理解を、機械学習で可能にするとは考えにくいと述べる。
Facebookから説明を受けた市民団体は、Facebookの問題点として、ミャンマーの公用語であるミャンマー語（ビルマ語）や、いくつもある少数民族の言語を話すモデレーターが少ないことを挙げている。
Facebookによれば、ミャンマー語のコンテンツを担当するモデレーターは60人で、年内に100人まで増やす予定だという。Facebookでアジア太平洋地域の責任者を務めるミア・ガーリックは、モデレーター以外にも、ミャンマーを担当するスタッフが合わせて数十人いると述べる。Facebookの求人情報を見る限り、アイルランドのダブリンでモデレーターを雇用し、ミャンマー語のコンテンツを担当させているようだ。
一方、Facebook自身は、主な問題はミャンマー語を話すモデレーターの不足ではなく、ミャンマーのユーザーが他国のユーザーに比べ、有害コンテンツの報告率が低いことだと主張している。そして、こうした状況を改善するため、同社はミャンマーでデジタルリテラシー向上キャンペーンを展開し、より使いやすいテキスト・フォーマットの利用を促している。これに対し、Facebookを批判する人々は、ミャンマーのユーザーがコンテンツを報告しない本当の理由は、報告プロセスに欠陥があることだと指摘している。
さらに、Facebookは従業員の資格や身元について、ミャンマー語を母国語とする移住者であること以外、ほとんど何も明らかにしていない。同社のカラリアーノによれば、「オンラインのエコシステムに慣れ親しんだ本物の専門家たち」だという。Facebookがニュースや情報のプラットフォームとして支配的な立場にあることを考えると、ミャンマーの人々が、コンテンツの検閲を担当する人材の経歴、視点、偏見についてほとんど何も知らないというのは衝撃的な事実だ。
Facebookはかつて、ユーザーから警告を受けたコンテンツのみに対応しているも同然だった。Facebook担当者と面識のある政府や市民社会のリーダーが、電子メールやダイレクトメッセージで警告を発することもあった。そして、Facebookはいまだに、ミャンマーの市民社会組織からの報告に大きく依存している。
こうした報告プロセスについては、ザッカーバーグが2018年に入ってから受けたあるインタビューが論争を巻き起こし、ニュースになった。ザッカーバーグはこのインタビューで、Facebookの報告プロセスでは、ロヒンギャや仏教徒への暴力を呼びかけるメッセージは拡散前に素早く削除できるようになっていると述べていた。しかし実際は、リオをはじめとする活動家たちがコンテンツを報告した際、Facebookが対応するまでに数日かかっている。
ザッカーバーグのインタビューが公開されたとき、リオは、ミャンマーの首都ネピドーにいた。インタビューを読んだのは、自宅のあるヤンゴン（旧首都）に6時間かけて戻るため、バスに乗車する直前だった。激しい怒りを覚えたリオは、バスの中でほかの活動家たちとやりとりしながら、ザッカーバーグ宛の公開書簡を作成した。市民団体の存在に触れなかったことを非難する内容で、公開後、ザッカーバーグから直接、謝罪文が送られてきた。
NGO「ビルマ・モニター」のミャットトゥーは「Facebookはミャンマーの市民団体に依存しています。彼らは私たちと手を組みたがっていますが、コンテンツの報告は直接行うよう求めてきます」と話す。「誰でも容易に報告できる仕組みをつくらなければ、問題は解決しません。何か見つけたら教えてほしいと彼らは言いますが、それでは問題の解決にはなりません。それでは効果がないのです」
ミャンマーの強硬派はすでに、ヘイトスピーチに対するFacebookの強硬路線に反発し始めている。ミャンマーにはFacebookのオフィスはなく、担当者もいない。そのため、過激派がFacebookのスタッフを標的にするのは難しい。
ロイターの報道によれば、Facebookはミャンマーにおけるヘイトスピーチの監視をアクセンチュアに外注し、「プロジェクト・ハニー・バジャー（Project Honey Badger）」というコードネームで呼ばれる部門が、海外から監視を行なっている。このプロジェクトは、3年前にフィリピンのマニラで、ミャンマー語を話す人材2人を初めて雇用したという。
しかし市民活動家たちは、Facebookが路線を変更したことについて自分たちが責任を追及され、危険にさらされるのではないかと心配している。
一方、Facebookは、ミャンマーの人々がコンテンツを気軽に報告できるよう、対策を講じているところだと述べている。
Facebookのカラリアーノは、「問題のあるコンテンツを取り締まるためであれば、何でもするつもりです。そのためには市民社会の助けが必要です」と話す。「データを見れば、私たちの対応率が大幅に改善していることがわかります」
国連報告書は、ミャンマーの軍幹部をジェノサイドで起訴すべきだと呼びかけ、ミャンマーで反ロヒンギャ感情がどれほど拡大しているかだけでなく、政府が暴力を指示・扇動していることも浮き彫りにした。そして、同報告書がFacebookも批判したことは、ソーシャルメディアがヘイトスピーチの拡散に利用され、問題が指数関数的に増幅していることを明確にした。
ミャンマーではFacebookのユーザー層が拡大しているが、社会科学者や歴史学者の間では知られているある概念を、Facebookが完全に理解しているかどうかはわからない。その概念とは、少数民族を標的にした非人間的な発言がマスメディアを通じて広まることは「民族浄化」のきっかけになり得るというものだ。
カリフォルニア大学バークレー校人権センターの事務局長アレクサ・ケーニグは、「メディアが関わらないジェノサイドなど想像できません」と話す。「社会科学者をはじめとする多くの学者が、同じパターンを論文にまとめています。私たち人間は本能的には、互いに暴力を振るわないようにできています」。だが、メディアなどを通して文化的に煽られると、ジェノサイドを起こしうる。
ケーニグはさらに「そこには必ず、歴史的蓄積から来るトリガーがあります」と述べた上で「ただし、火花が炎になる際には、燃えやすい木切れが必要です」と付け加えた。今回の場合、憎しみに満ちたFacebookの投稿が「燃えやすい木切れ」になっているという。
人権を専門とする学者たちは、現在のロヒンギャ危機においてFacebookが果たしている役割は、ほかの残虐行為が起きる前にマスメディアが果たした役割に通じるものがあると考えている。1994年のルワンダ虐殺では、少数民族ツチへの暴力を呼びかけたラジオ局幹部たちが、国際戦犯法廷で有罪判決を受けている。あるラジオ局は、殺してほしい人物の名前と住所を読み上げ、「ゴキブリ駆除」を呼びかけた。その後の暴力で、約80万人のツチ族と、フツ族のうちの穏健派が命を奪われた。
そのほかにも、ホロコーストから、ボスニア・ヘルツェゴビナのジェノサイドに至るいくつかの残虐行為において、メディアを通じた暴力の呼びかけが重要な役割を果たしてきた。
Facebookではここ数年、特定民族に対する暴力や嫌がらせの明示的な呼びかけとともに、ロヒンギャを犬や害虫に喩える非人間的な発言が拡大している。ただし法律専門家たちは、ロヒンギャ危機においてFacebookが果たしている役割は、過去の残虐行為で報道機関が果たした役割とは異なると指摘する。
まず、Facebookがヘイトスピーチや暴力の呼びかけを把握していた、あるいは、それらから直接的な利益を得ていたと証明するのは難しい。事実、裁判所では、ソーシャルメディア・プラットフォームは、投稿されたコンテンツについて責任を負わないという裁定が何度も下されている。最近の裁判でも、ISISのメンバーがアカウントを取得したことについて、ツイッターに法的責任を問う申し立てが退けられている。
ミャンマーの活動家たちは他国の活動家とともに、Facebookに対して、ロヒンギャなどのイスラム教徒を標的にした非人間的な発言は、すぐに制御不能に陥ると警告し続けた。活動家たちによれば、Facebookは丁寧に耳を傾けてくれたが、結局、対応は不十分だったという。
Facebookは6月、製品・ポリシー・パートナーシップの担当者たちをミャンマーに派遣した。市民運動組織、出版社、政府の代表と会い、それぞれの懸念を聞くことが目的だった。過去にもこのような訪問はあったが、今回は、ザッカーバーグがアメリカ連邦議会の公聴会で、ミャンマーにおけるヘイトスピーチへの対応などについて非難を浴びた直後だった。市民社会組織とのミーティングでは、Facebook側が自社のシステムや方針について説明し、活動家たちはプレゼンを行い、問題を提起した。
NGO「ビルマ・モニター」のトゥーらはこの機会を利用し、削除依頼の数とその後の対応について、もっと詳細なデータを提供してほしいと再び要求した。トゥーによれば、Facebookはいまだにこの求めに応じていないという。
「結局、形だけのミーティングでした」とトゥーは振り返る。「問題は山積みで、話し合う時間が十分にありませんでした。とにかく、時間が限られていました」
「問題を解決するには、もっと時間をかけて十分に話し合う必要があります」
この記事は英語から翻訳・編集しました。翻訳：遠藤康子、米井香織／ガリレオ、編集：BuzzFeed Japan
