メルボルン大学の研究者は、人工知能による顔解析システムを設計した。このシステムでは、顔の写真を撮影し、年齢、魅力、人種、攻撃性レベルなどの属性で、ひとを判断する。
そしてこのシステムが下す判断が実にひどい。
この人工知能は、バイオメトリックス・ミラー（生体測定鏡）と呼ばれており、メルボルン大学のコンピュータ計算、情報システムの研究者が、サイエンスギャラリー・メルボルンと共同して設計した。
同プロジェクトは、AI顔認識技術の政府使用の欠陥を暴露するために設計された。特に、顔認識プログラムを動かす情報が、一般市民に明快ではない場合だ。
バイオメトリックス・ミラーの顔分析に使われる情報は、顔写真がある1万名のオープンソースデータと、他者によるその人たちの評価だ。
あるひとつの特徴において、ひとつの顔がAIから受ける評定は、同じ特徴で評価されたデータベース上の他の顔と、どのくらい似ているかで割り当てられる。
例えば、データベース上で「魅力的」と判断された人と似た顔の人は、同じくらい魅力的だと判断される。
バイオメトリックス・ミラーは、意図的に欠陥があるシステムだ。というのも、判断を割り当てているデータベースは、比較的、多様性がないグループに基づく小さなデータベースだからだ（例えば、顔データの85%は、白人のもの）。
デジタルメディアの専門家で研究チームを率いるニールス・ウォーター教授は、AIの問題は、人種の判断に留まらない、とBuzzFeed Newsに話している。
「別のレベルでは、性別に関してですが、私たちのデータベースは二者択一です。ですから、女性か男性のいずれかしか選べません。なので、ここでも包括性が大きな問題となっています」
ウォーター教授の研究チームは、政府にこの点を証明しようと、この不完全で信用できないデータベースを使った人工知能を設計した。顔認識の人工知能は、アルゴリズムに供給される情報の信用性に依存するのだ。
「私たちは、欠陥があるこのシステムの性質を受け入れています。なぜなら、それが本当の品質であり、それが私たちの論点だからです。問題なのは、政府が使っている商業用のシステムの場合、基となるデータベースを信用できるのかが私たちには分からないことです」と教授は話す。
運転免許証などの身分証明用の顔認識情報を蓄積し、共有できるようにする法案が、今年初めに議会に提出された。
この法案では、全国免許証顔認識ソリューション（NDLFRS）が提案されている。このシステムは、すべての州、準州の中央装置となり、データベース上での比較用に顔の画像を保有する。
この種類のデータベースは、意図しない結果を広範囲にもたらす可能性がある、と教授は懸念している。
「例えば、人工知能が、ある人のことをテロリストに似ていると判断した場合、その判断に基づいて、さまざまな結果がもたらされるのです。突然、あなたはブラックリストに載ることになります」と教授は話す。
顔認識システムの信頼水準（CL）が低いことも、全国規模で適用する際の懸念材料だと教授は説明する。
例えば、データベースの規模が小さいため、バイオメトリックス・ミラーの判断は、5～10%の信頼水準にしか達しない。信頼水準とは、結果が確実に正確である比率だ。また、このシステムは、時刻などの環境要因により、ひとりの人に対しても異なる判断をする。
「現時点において、人工知能に使える完全に包括的なデータセットはありません」と教授は話している。
現在、バイオメトリックス・ミラーは、一般の人も見られるようにメルボルン大学に設置されており、議会に提出されているオーストラリアでの顔認識システム使用の「緊急性」を鑑みて、同研究チームは、この研究結果を学術論文と記事の両方にまとめる予定であると、ウォーター教授は結んだ。
この記事は英語から翻訳されました。
翻訳：五十川勇気 ／ 編集：BuzzFeed Japan