Googleが、国家による検閲が行われている中国に特化した検索エンジンの構築を極秘裏に進めていると報じられたことで、危機感を持った社員らが透明性と倫理性の強化を求め、署名を集めていることが分かった。
BuzzFeed Newsは、その内部文書を入手した。1400人以上が署名したという。
Googleを巡っては、AI技術を活用してドローンの映像を解析する米国防総省の「プロジェクト・メイヴン」に加わっていることが3月に報じられ、3000人以上の社員が中止を求める嘆願書に署名した。
それに続き、今度はネット全体に対する政府の検閲と監視が行われている中国に特化した検索サービスの制作を、「ドラゴンフライ（とんぼ）・プロジェクト」の名の下で行われていると報じられた。
BuzzFeed Newsが入手した内部文書は、この動きに危機感を感じた社員らが作成し、内部で回覧し、署名を求めているものだ。
「何も分からない」
内部文書は、社員の大多数が状況を何も知らされていないとした上で、社員が倫理的に行動できるよう、さらなる透明性とアセスメントの導入などを求めている。
ある社員の一人は匿名で「みんな『自分たちは一体、なにをしてるんだ？こんなことが続くのはおかしい』と言っている」「ビジネスのやり方に、根本的な変化が必要だ」と話した。
理念との矛盾
検閲の存在を前提にした検索エンジンを構築することが、「世界中の情報を整理し、世界中の人々がアクセスできて使えるようにする」という、Googleが掲げてきた使命と矛盾すると考える社員らが、ドラゴンフライに懸念の声を上げている。
中国のGoogleオフィスで2006年から働いていた社員の一人は、「Googleが中国で検閲と戦ったり、中国で政治的な変化を促せると考えるのはナイーブだ」という。
「我々が中国市場に戻ることを許すことで、彼らは何を得るのか。それはユーザビリティや人々の利益ではない」
一方、別の見方をする社員もいる。
同社で3年以上働いているアリソン･ディさんは「検閲済みサーチエンジンの構築は、中国の人々の利益になると思う」と語る。「どの企業も成長が必要だ。そして中国市場は巨大だ。企業は利益を上げる必要があるのだから」。
Googleはコメント避ける
CEOのスンダル・ピチャイ氏は2010年に政治的な理由で撤退した中国市場への復帰に、繰り返し関心を示している。
ドラゴンフライ・プロジェクトは社内でも極秘裏に進められており、2人のスタッフが、その秘密主義に嫌気がさして辞職したという。
Googleはドラゴンフライ･プロジェクトに関する各メディアやBuzzFeed Newsの具体的な質問に応答せず、「将来計画への憶測にはコメントしない」としている。
文書の概要は、以下の通り。
このレターに署名してほしい。
倫理的な選択を行うため、グーグラー（Google社員）は、我々が何をつくろうとしているかのを知る必要がある。現状で、私たちは何も知らない。だから、署名した社員は、Googleの倫理と透明性に危機が迫っていると呼びかける。
私たちの産業は新たな倫理的責任を負う時代に入った。私たちの選択は世界規模で影響を与えることになる。しかし、私たちのほとんどはドラゴンフライ・プロジェクトについて8月上旬にニュース報道で知っただけにすぎない。ドラゴンフライは、中国政府の検閲と監視要求を満たす検索と個人向けモバイルニュースサービスだと報じられている。
8年前、Googleが中国での検閲された検索から撤退した後に、サーゲイ・ブリンはこの決定を「（政府の）政策、特に検閲に関したこと、反対派の監視について、私は全体主義の印を感じ取った」と説明した。ドラゴンフライとGoogleの中国復帰は、緊急の道徳的、倫理的な問題となっている。
私たちは、構造的な問題を指摘したい。
現在、私たちは仕事やプロジェクトにおいて、倫理的な判断を下すに必要な情報を持っていない。ドラゴンフライをつくるという決定は秘密裏に行われ、AIを巡る原則が策定された状況においても、プロジェクトは進んだ。この原則だけでは不十分なのだ。
私たちは、さらなる透明性と、話し合う場と、透明でオープンなプロセスの約束が至急、必要だ。Google社員は、私たちが何をつくろうとしているのか、知る必要がある。
私たちは経営陣に、次の点を含む具体的な透明性と、プロセスの監視を求めたい。
- 倫理的なレビューを行うための社内構造
- オンブズピープルの任命と、その選出への社員の関与
- グーグラーそれぞれが倫理的な選択を行えるよう十分な透明性を確保するプラン
- ドラゴンフライ、メイヴンなどの、AI原則と照らし合わせた倫理アセスメント