あるSNSユーザーが作成した一枚の画像。一見ただの新聞の切り抜き写真ですが、よく読むと……。
「誰もが日常だと思っているものが、AIによるフェイクにすり替わる近未来」を表現したという作品を紹介します。
12月4日、作品をX(旧Twitter)に投稿したのは、ゲーム制作や生成AIについて投稿しているkoguさん(@koguGameDev)。
koguさんはゲーム制作支援を行うWitchpotと協力し、ゲーム制作におけるAIの活用・研究に取り組んでいます。
AIを使った実験の一環として作成したという「偽の新聞」は新聞の投書欄を模したもので、実際には存在しない架空の人物をAIで作成し、「それっぽく」書いたというテキストが添えられたもの。
いい話っぽいのに、どこか不穏で嫌な雰囲気が伴うテキストがリアルさを引き立てています。「いい人なのかな?」と思ったけど、読み終わった後の「ヤバい人じゃん!」感がとてもリアル……。
この“ありそう”な作品には「これを何気なく手渡されたら絶対信じてしまうと思う」「凄すぎるな、いかにもありそう」など、たくさんのコメントと3万件を超えるいいねが寄せられ話題になっています。
作者のkoguさんに取材しました。
――使用したAI、ライブラリなどを教えていただますか?
画像生成AI「Stable Diffusion XL」と、違和感なく高画質化する「DeepShrink」を用いてリアルなおじさんを作成しました。また、枠外の文章などはChatGPTを利用しています。
――ご自分で執筆されたという、本文の「いい話風の記事なのに、どこか社会性が無く不穏」な文章も、“ありそう”な嫌さを演出していますね。こだわったポイントなどはありますか?
よく見ればフェイクと分かるよう、書体や組版、質感などは違和感を覚えるようにしています。本文も同様で、紙面構成とのギャップを出したものです。
――たくさんのコメントや反響がありますが、今のお気持ちを教えてください。
想定外に広まってしまいましたが、本来の意図は新聞のフェイクにはなく、誰もが信頼する日常的な要素までAIで生成されてしまうという、少し先の未来を想定した実験と淡い注意喚起です。
ちゃんと補足記事書かないとなと考えてます。
――今回自分で作ってみたことと、Xに投稿した反響などを踏まえて、今後どんなリスクや懸念がありそうだと思いましたか?
今後の懸念は、日常への疑念を社会が受容できるのかという点です。それが昨年からおじさんを生成してきた動機の一つでもあります。
生成AIで特別な何かを作ることは目立っても、何気ないありふれた日常を生成する人は少ないのが現状です。しかし十分な性能が備わったAIを利用すれば、誰もが気軽にこの偽新聞のような日常を生成し始めるはずです。
例えば遠方の親に嘘の写真を送り、友人には生成された動画を見せつける。そうした目的のある生成はまだマシで、嘘そのものが目的の利用も溢れる。見聞きする全てが疑わしくなってしまいます。
もちろんメディアの信頼性もその延長にはありますが、新聞は実験の一つに過ぎず、懸念しているのは日常を成立させる常識的な事物への信頼感の毀損です。
・・・・・
新聞というだけである程度の信頼感がありましたが、この作品を見た後だと「これもフェイクなのでは」と疑ってしまう。
そんな後を引く不気味さが残る作品ですね。
また、「気になるから全部読ませてくれ」と多くのコメントが寄せられていた、おじさんの上に書いてある『カビパラ市長の政策』。こちらもAIの「ChatGPT」を利用して作った文章を多少リライトしたものだそうです。