クライストチャーチ銃乱射事件:ソーシャルメディアは白人ナショナリズムとどう戦っていくのか?

    クライストチャーチ銃乱射事件がきっかけとなって、シリコンバレーは、対ISISと同じやり方で白人ナショナリズムを扱うようになるかもしれない。

    3月15日、ニュージーランド・クライストチャーチにあるモスク2カ所で金曜礼拝が行われているさなかに銃撃が行われ、50人が死亡し、40人以上が負傷した。容疑者は、犯行に及ぶ前から、ソーシャルメディアを悪用して声明文を発表し、凶器の画像をTwitterに投稿し、犯行の様子をFacebookでライブ配信することに決めていたようだ。

    だが、このように調整されたソーシャルメディア戦略は、この容疑者独自のものではない。ソーシャルメディアを駆使してインパクトを最大化するという彼のやり方は、ISISが最盛期に用いていた方法とほぼ同じだ。

    主力ソーシャルネットワークの大半は、ISISを支持するコンテンツについては、一般ユーザーのフィードから削除する作業に積極的に取り組むようになってきている。しかしその一方で、極右過激主義や白人ナショナリズムは増長を続けている。

    プラットフォームから取り除かれているのは、急進派ネットワークにおける、最も有害な情報の結節点だけだ。そこで問題は、「クライストチャーチの事件で何かが変わるのか?」ということになる。

    2016年にジョージ・ワシントン大学の過激思想研究プログラム(Program on Extremism)が行なった研究によれば、白人ナショナリストとネオナチ支持者は当時、ISISメンバーおよび支持者よりもはるかに大きな影響をTwitterに及ぼしていたことがわかっている。

    それぞれのカテゴリーにつき約4000アカウントを分析した結果、白人ナショナリストとネオナチ支持者は、ツイートとフォロワーの数でISISメンバーや支持者を上回っていた。フォロワー数の平均は、ISISと比べて22倍だった。

    この研究によれば、ISISは2016年には、Twitter側が始めた支持者追放の「大規模な取り組み」のターゲットになっていた(たとえば、AIベースの技術を活用して、イスラム過激派のコンテンツに自動的にフラグをつけることなどが行われた)が、白人ナショナリストとネオナチ支持者は、はるかに大きな自由度を与えられていたという。理由のひとつとして、彼らのネットワークのほうが集中度が低く、全体的に拡散していたことがあげられる。

    GoogleとFacebookもまた、プラットフォームをスキャンしてISISの活動を見張るAIベースプログラムに多額の投資を行ってきた。Googleの親会社であるAlphabetは、急進化のリスクにさらされている青少年たちを、AdWordsとYouTubeの動画コンテンツを使ってターゲティングするプログラム「The Redirect Method」を開発した。

    Facebookによれば、同社は2018年第3四半期、人工知能と機械学習を組み合わせて使うことで、ISISとアルカイダのプロパガンダ300万以上を削除したという。

    こうしたAIツールは、いまのところ効果を発揮しているようだ。ISISのメンバーや支持者のページやグループは、ほぼ完全にFacebookから取り除かれている。斬首の動画はYouTubeから数時間以内に削除されている。かつては巨大だったテログループのTwitterネットワークも、いまやほぼ完全に消し去られている。以前なら、配信から数分以内に複数のプラットフォームで流されていた言葉巧みなプロパガンダ動画でさえ、いまではTelegramやWhatsAppといったアプリのプライベートグループへと格下げになっている。

    クライストチャーチ銃乱射事件は、3大オンラインプラットフォームにおいて、白人ナショナリストが親ISIS派と同じ厳しさで扱われたことを示す最初の大きなケースとなった。Facebookの発表によれば、同事件のライブストリーム150万バージョンが、最初の24時間以内に削除されたという。YouTubeは声明のなかで、「私たちのプラットフォーム上に、ショッキングかつ暴力的で、生々しいコンテンツの居場所はありません。そのようなコンテンツは発見後、ただちに削除されます」と述べている。

    ただし、問題の動画はいまもYouTubeに残っている。最初の24時間、その動画のコピーは絶え間なくYouTubeにアップされていた。Twitterもまた、容疑者と思しき人物のアカウントをすでに削除しており、問題の動画の全バージョンを消す作業に取り組んでいると発表している。

    こうしたプラットフォームの使用禁止が、白人ナショナリズムに関してはなぜ、ネットワークの垣根を超えて行われていないのだろうか。この疑問の答えは、学術研究ネットワーク「VOX-Pol」が2018年に発表した報告書のなかにあるかもしれない。この報告書の著者は、先ほど紹介したジョージ・ワシントン大学の研究論文を執筆したJ・M・バーガーだ。

    「オルタナ右翼への対応を練るという作業は、想像以上に複雑で、地雷だらけだ。その主な原因は、オルタナ右翼の本質的な政治性と、政治的権力への近さだ」とバーガーは述べる。

    ISISなどのグループがテクノロジーを利用し、思想の急進化や兵士の採用、テロに役立てることが可能だという事実を、シリコンバレーが受け入れるまでの道のりは長かった。さんざん否定と牛歩を繰り返したのち、ようやくテック企業が重い腰を上げてISISに関するモデレーション(緩和的介入)を真剣に考えるきっかけになったのは、アメリカ人ジャーナリスト、ジェームズ・フォーリーの斬首処刑と、それに続く諸外国のジャーナリストイギリス人援助活動家の殺害動画、そしてその後に起きたバイラルカオスだった。

    アメリカと諸外国の政府も、シリコンバレー企業に対して、テロ的コンテンツに対するモデレーションを迫り始めた。テック企業は共同タスクフォースを結成して情報を共有。各国政府や国連と連携して、より堅牢な情報共有システムを確立した。

    しかし、テロリストによる暴力的なコンテンツの排除では意見の一致を見たテック企業と政府だが、その対象が白人ナショナリストのコンテンツとなると、話は違ってくる。白人ナショナリストのコンテンツは、言論の自由をめぐる議論を隠れ蓑にしている。新たに登場した各国のポピュリスト的なリーダーたちも、こうしたコンテンツを批判したがらない。クライストチャーチの事件はテック企業に対して、自社のプラットフォームで受け入れられることと受け入れられないことのあいだの線引きを促す新たな節目になるかもしれない。

    白人ナショナリズムをモデレートするのは難しい。それは皮肉にまみれ、ミームや不可解なシンボル、言及などを介してオンラインで大きく広まっているからだ。クライストチャーチの容疑者は、ライブストリームの視聴者に向けて、有名なユーチューバーの名前を挙げ、「Pewdiepieのチャンネルを登録しよう」と皮肉交じりに語った。

    容疑者が8chanに投稿したとされるコメントは、一部の人たちにしか通じない、トロール的でダークウェブ的な冗談で満たされていた。そして彼の声明文の表紙には、ネオナチ支持者が好んで使う、太陽と車輪を組み合わせたシンボル「黒い太陽」が描かれていた。

    極右過激派たちは、ISISほど中央集権的ではない。クライストチャーチ銃乱射事件の容疑者と、クリストファー・ハッソン(白人ナショナリストの沿岸警備隊員。政治家や有名人の暗殺と、生物兵器を使った大規模テロ攻撃の実行をもくろんでいたとして、2019年2月に逮捕された)はどちらも、ノルウェーのテロリスト、アンネシュ・ブレイビクの影響を受けていた

    シーザー・サヨック(別名:MAGAボマー:民主党有力者などに爆発物を送った容疑で2018年10月に逮捕された米フロリダ州の容疑者)と、ペンシルバニア州ピッツバーグにあるユダヤ教礼拝堂「ツリー・オブ・ライフ」で2018年10月に起きた銃乱射事件の容疑者は両者とも、4chanやFacebookのミームから部分的に影響を受けて急進派になったようだ。

    いまや、FacebookやYouTube上に流れる反イスラムのヘイトスピーチを、4chanで連携性を増すレイシスト・ミームのページや、これらプラットフォームで大きくなりつつある白人ナショナリストのコミュニティーから取り除くのは、まったく不可能なことなのかもしれない。

    シラキュース大学でオンライン・ハラスメントを研究するアシスタントプロフェッサーのホイットニー・フィリップスは先日BuzzFeed Newsに対して、「イスラモフォビア(イズラム恐怖症)は、プラットフォームを提供する企業に莫大な利益をもたらしています」と語った。この種のコンテンツはエンゲージメントにつながり、それがユーザーをつなぎとめ、さらには広告売上を生むのだという。

    YouTubeには、イデオロギー的な目標を達成するために暴力を促したり、許したりするコンテンツを一切禁止するコミュニティガイドラインがある。ISISをはじめとする外国テロ組織に対しては、YouTubeはユーロポール(欧州刑事警察機構)など法執行機関のインターネットチームと協力しつつ、テロリストによるコンテンツを即座に削除している。

    YouTubeに対して、外国テロ組織に対するのと同じようなやり方で、ネオナチや白人ナショナリストの動画コンテンツをモデレートしているのかどうかについてコメントを求めたところ、同社の広報担当者は、YouTubeには暴力を助長するヘイトスピーチやコンテンツの居場所はないと語った。

    同広報担当者は以下のように語った。「YouTubeはここ数年、人間のスタッフからなるレビューチームと、こうしたコンテンツの迅速な探知・検閲・削除を手伝ってくれるスマートテクノロジーに、多額の投資を行ってきました。何千人ものスタッフを世界中に配備して、YouTubeプラットフォームの悪用に対抗しています。ユーザーに対しても、YouTubeのガイドラインに違反していると思われる動画を見つけたら報告してほしいと呼びかけています」

    Twitterの広報担当者はBuzzFeed Newsに対して、ISIS関連のコンテンツをどのようにモデレートするのかを含めた、過激派に関する同社のポリシーのコピーを提供してくれた。「強烈な身体的脅迫や、個人または特定の集団に向けて重傷、死亡、疾病を望む行為を禁じますと、そこには書かれている。「これには脅迫やテロの助長が含まれますが、それだけにとどまりません」

    同広報担当者に対して、ネオナチ支持者や白人ナショナリストのアイコンをTwitterで使用することも、「脅迫やテロの助長」としてみなされるのか聞いてみたが、コメントは得られなかった。

    Facebookに対しても、白人ナショナリズムやネオナチズムを、ISIS関連コンテンツの規制に使われているのと同じように画像マッチングや言語理解技術で検出し、介入しているのかについてコメントを求めたが、回答はなかった。

    ソーシャルメディアにおけるISISの活動は、2015年に大規模な取り締まりが行われるまで、いくつかの特徴を持っていた。これらの特徴は、クライストチャーチの容疑者によって使われたハードコアな白人ナショナリストやネオナチ支持者のアイコン、あるいは、先述したMAGAボマーを急進的にしたと思われる、より初歩的なミーム、あるいは、主流のソーシャルネットワークから、ユダヤ教礼拝堂「ツリー・オブ・ライフ」射撃犯が述べたような過激思想を持つプライベートな集団へと導くパイプラインと共通するものだった。

    ISISは、ハッシュタグや多言語のプロパガンダ、暗号のような言葉、アイコンを中心に組織されており、新メンバーの候補者を、主流のソーシャルネットワークから、プライベートなメッセージングプラットフォームに吸い上げていた。

    ISISのメンバーや支持者は当初、さまざまなプラットフォームにまたがって、即座の対抗措置はほとんど受けずに、公式のプロパガンダを投稿できていた。2015年、ISISのソーシャルメディア活動を分析したところ、1日平均38個のプロパガンダが投稿されていたが、そのほとんどに、プラットフォームの当時の規約に違反する生々しい素材やコンテンツは含まれていなかった。

    ISISはTwitterのハッシュタグを使い、コンテンツを多言語で効果的に拡散していたが、何年も野放しに近い状態だった。人気のタグを使ってプロパガンダを共有する「ハッシュタグ・スパム」も同様だった。

    例えば、2014年のワールドカップ期間中には、ISIS支持者がアラビア語のワールドカップのタグを使い、イラク人兵士の処刑画像を共有した。また、2014年8月にミズーリ州ファーガソンで18歳の黒人青年マイケル・ブラウンが白人警察官によって射殺された際に抗議行動が行われたときには、「#Ferguson」のハッシュタグを使い、ISISのプロパガンダや、米国さらには当時の大統領バラク・オバマへの脅迫をツイートした。

    生々しいコンテンツや脅迫を共有しても発見されなかったのは、コミュニティーが隔離されていた上に、ISISのメンバーがさまざまな言語を使用していたためだ。さらに、ISISは暗号のような言葉を使用していた。その大部分がコーランの原理主義的な解釈を語源としており、イスラム教徒でなければ解読は難しい。例えば、戦闘やテロの実行によって命を落とした兵士は「緑の鳥」と呼ばれた。イスラム教では、殉教者は緑の鳥の心臓に入り、天国に行くと信じられているためだ。

    2014年8月19日、無法者のような振る舞いの終わりが始まった。いわゆるイスラム国の公式チャンネルと主張するYouTubeアカウントが、「米国へのメッセージ」という動画をアップロードしたことがきっかけだ。動画は、オバマ大統領がシリアでのISISに対する空爆を発表する映像から始まり、覆面姿のISISメンバーが、オレンジ色のつなぎを着てひざまずいているフォーリーの横に立つ場面に切り替わった。フォーリーはジャーナリストだったが、2012年11月、シリア内戦の取材中、反体制派に拉致された人物だ。4分40秒の動画には、フォーリーの首を切って処刑する場面と、体の上に頭部を置いた映像が含まれていた。

    フォーリーの動画はYouTubeにアップロードされて数分以内にソーシャルメディアで拡散し始めた。Twitterでは「#ISIS」、「#JamesFoley」、「#IslamicState」が人気ハッシュタグになった。人々は「#ISISMediaBlackout」を使用し、動画やスクリーンショットを共有しないよう呼び掛けた。

    その後、各プラットフォームにおける対応が始まった。2018年に、陰謀論メディアを主催するアレックス・ジョーンズがプラットフォームから追放されたときと同様のものだ。ジョーンズのケースでは、まずはアップルのアプリiTunesとPodcastから締め出され、次にYouTubeとFacebookから排除された。さらにTwitter、そして最後に、アップルのApp Storeから削除された。

    2014年のISIS問題ではまず、YouTubeがフォーリーの動画を削除。「テロリズムを助長する」動画を禁止するというサイトのポリシーに違反することが理由だった。

    YouTubeは当時出した声明の中で、「YouTubeには不当な暴力、ヘイトスピーチ、暴力行為の扇動などのコンテンツを禁止する明確なポリシーが存在しています。ユーザーから報告を受けた場合、これらのポリシーに違反する動画を削除します」と述べた。「また、アメリカで外国テロ組織に指定されている組織のメンバーが登録したアカウントや、当該組織の利益を助長する公式な立場にあるアカウントを停止します」

    YouTubeに続き、Twitterの当時のCEOディック・コストロも「この生々しい動画に関連するアカウントを発見したら、積極的に停止しています」とツイート。その後、Twitterはさらに一歩踏み込み、この動画のスクリーンショットを削除することに同意した。

    Facebookも、フォーリーの処刑をきっかけに、自社のアプリ群でテロ関連のコンテンツをモデレートすることに積極的になった。

    フォーリーの処刑動画に反対意思を示したのはテクノロジー企業だけではない。オバマ政権も、テクノロジー企業と協調し、主流のソーシャルネットワークからISISを排除しようと努力した。

    政府主導の話し合いが始まって数年後の2017年、YouTube、Facebook、Twitter、マイクロソフトによって、「テロに対抗するためのグローバル・インターネット・フォーラム(GIFCT)」が結成された。現在の米国土安全保障省(DHS)長官を務めるキルステン・ニールセンも、GIFCTと協調したISIS対策について、ドナルド・トランプ政権によるインターネット上でのテロ対策の重要な一部と強調し続けている。

    今回のクライストチャーチ事件後も、オンラインではある意味で、「#ISISMediaBlackout」とよく似た動きが生まれた。例えば、クライストチャーチの容疑者の名前や写真を使うのをやめようという呼びかけが行われている。白人ナショナリズムの高まりを受け、米下院司法委員会は3月中に公聴会を開くと発表。全主要プラットフォームの代表者に証言を求めた。

    ニュージーランドのジャシンダ・アーデーン首相は、容疑者の名前を決して口にしないと誓い、ソーシャルメディアプラットフォームに対して、容疑者の動画やマニフェストの拡散について、もっと責任を持つよう訴え続けている。

    ただし、白人ナショナリズムの拡散に特化した世界的なタスクフォースの結成にはほど遠い。トランプ政権はある程度、前政権がつくった先例を踏襲している。しかし、2018年10月に発表された対テロ国家戦略で概説されている通り、トランプ政権のオンラインでの取り組みは「イスラム教過激派のテロ」に根差したイデオロギーのみを対象としている。

    さらにトランプ大統領はニュージーランドの銃撃事件について、白人ナショナリズムが果たした役割を公に軽視し、アメリカで極右過激主義の脅威が増しているとは思っていないと発言している。「非常にシリアスな問題を持つ、小さなグループだと考えています」

    一部の大手テクノロジー企業は、白人ナショナリストのコンテンツを個別に取り締まり始めているが、インターネットから根こそぎ排除しようとしているわけではない。GIFCTは3月14日、クライストチャーチ事件の動画を削除するため、メンバー同士で情報を共有しているという声明を発表した。ただし、白人ナショナリストやネオナチ支持者のコンテンツへの対抗策を講じるつもりはあるかという質問への回答は得られなかった。

    すでに極右活動家たちのSNS「Gab」が登場している。今後も、新しいウェブサイトやプラットフォームは次々と現れるだろう。有害な掲示板「Kiwi Farms」は現在、クライストチャーチ容疑者による投稿や動画のリンクを引き渡すことを拒否している

    プラットフォームからのISIS排除は、ISISのメッセージ拡散能力を大きく損ねることに成功したが、ISISがインターネットから完全に排除されたわけではない。プロパガンダ動画は現在でもファイル共有プラットフォームにアップロードされ、支持者の間で広がっている。特に、「Archive.org」はISISのコンテンツであふれている。しかし以前に比べると、ISISのコンテンツを偶然見つけることははるかに少なくなった。インフルエンサーが存在感を維持して支持者を獲得したり、メンバー候補との関係を築いたりするのがはるかに難しくなっているのだ。

    ソーシャルメディアプラットフォームはISISを取り締まったとき、メンバーだけでなく、イスラム帝国の樹立と過激な計画の実行を謳うISISのイデオロギーを信奉する支持者も取り締まろうとした。ISISは組織の使命について、イスラム教が中心にあると主張しているが、これは解釈を誤ったイスラム教であるとして、全世界のイスラム教徒の大多数から非難されている。同様に、白人ナショナリズムのイデオロギーを信奉する人々と、世界各国の極右政党に共通点があるのは確かだが、両者は同じわけではない。たとえその政治や教義に猛反対する人がいても、政治思想や信仰と、「特定グループの征服や殺戮を必要とするイデオロギー」には、明確な境界線があるのだ。

    この記事は英語から翻訳されました。翻訳:阪本博希、米井香織/ガリレオ、編集:BuzzFeed Japan