AIによる動画の加工「ディープフェイク」を使って女性タレントの顔写真をアダルトビデオに重ねたポルノ動画を、自らの「まとめサイト」で紹介していた5人が、名誉毀損や著作権法違反の疑いで警視庁などに逮捕された。
ディープフェイクをめぐっては、10月にも海外サイトなどに同様の動画をアップしていた2人が逮捕されていたが、「まとめサイト」に関連した逮捕者が出るのは初めて。
芸能事務所で構成される業界団体「日本音楽事業者協会」（音事協）は11月19日、声明を発表。捜査に全面的に協力したとし、「タレントに対するインターネット上の違法行為が蔓延する現状に一石を投じるもの」と評価した。
音事協や報道によると、5人は警視庁、千葉県警、京都府警に逮捕された。それぞれ、自身が運営、管理する「まとめサイト」にディープフェイクのポルノ動画のリンクを複数掲載していたという。
ディープフェイクは、AIによる深層学習「ディープラーニング」と「フェイク」（偽物）を掛け合わせた造語だ。
サイバーセキュリティ会社「DeepTrace」の調査（2019年10月）によると、過去7か月で1万4678のディープフェイク動画が確認された。1年で倍増しているといい、その96％がポルノ動画だった。
ディープフェイクに特化した上位4つのポルノサイトでは、数百人の女性有名人のフェイク動画が、計1億3400万回以上も再生されており、世界中で問題視されている。
日本人女優やアイドルが被害に遭っているケースも多い。BuzzFeed Newsが2019年末に確認しただけでも10個以上は存在し、多いものでは300万回以上再生されていた。その後、多くは削除されている。
ディープフェイクをめぐっては10月2日、自らの有料サイトや海外サイトに同様の動画をアップロードしていたとして、今回の5人と同容疑で大学生とシステムエンジニアの男2人が逮捕されている。捜査当局がネット上に広がる動画の全面的な摘発に乗り出した格好だ。
違法まとめサイトが横行
音事協は、10月2日の声明で、ディープフェイクによるポルノ動画は「人格権を侵害するばかりか、SNS 等によっ て虚偽情報の流布を招き、謂れのない誹謗中傷を拡大させる」と指摘、「芸能界全体における問題としても看過できない事態」と強く批判していた。
今回の逮捕を受け、11月19日に新たな声明を発表。ディープフェイクのみならず、「まとめサイト」による「画像の無断転載によるパブリシティ権侵害や人格権侵害によるまとめ行為など」が横行しているとして、以下のように言及した。
違法コンテンツを収集し掲載する、いわゆる「違法まとめサイト」が刑事事件として摘発されたことは、インターネット上の違法なまとめ行為の蔓延に歯止めとなるものとして社会的に極めて重要な意義をもつものと認識しています。
また、音事協の錦織淳・顧問弁護士は声明で、ディープフェイクによる違法ポルノ動画が「これまでの類似物とは比較にならないほどの深刻な被害をもたらしています」と指摘。ネットの特性から「いったん拡散されてしまったら被害に対する原状回復は絶望的なほど困難」とした。
そのうえで、「まとめサイト」がこうした動画を直接作成しているわけではないにせよ、拡散を「一層加速・増大」させる起点になっていると批判。
今回の摘発が「極めて重大な意義」を持っているとして、「まとめサイトやリーチサイトによる権利侵害の助長行為が根絶されることを期待し、引き続きそのための努力を継続してまいります」と結んだ。