［ロイター］ネットに公開された選挙応援のサプライズ動画でヒラリー・クリントンが「実は（共和党大統領候補の）ロン・デサンティス（フロリダ州知事）がすごく好きです。この国が必要とするのは彼のような人です。心からそう思います」と明かせば、ジョー・バイデン大統領がついに仮面を取り、トランスジェンダーの人に向かって「本物の女性になんて一生なれない」と暴言を吐く――。
2024年のアメリカ大統領選へようこそ。そこでは「現実」がいとも簡単につくられる。バイデンの動画もクリントンの動画もディープフェイク、つまりネット上の膨大な映像から学習したAIアルゴリズが生成した、いかにも本物らしい偽物だ。ディープフェイクはSNS上に何千と存在し、アメリカ政治の分極化した世界で事実とフィクションの境目をいっそう不明瞭にしている。
AIやネット上の偽情報、政治活動に関する20人超の専門家に取材したところ、こうした合成メディアは数年前から存在したが、安く簡単に本物のような映像をつくり出すアプリ「ミッドジャーニー」のような「生成AI」が登場したことで、この1年の間にディープフェイクが急増しているという。
「有権者が本物と偽物を見分けるのは非常に難しくなっている。トランプ側にせよバイデン側にせよ、支持者がこの新しい技術を使って相手陣営を悪く見せようとすることは想像に難くない」と、ブルッキングス研究所の技術革新センター上級フェロー、ダレル・ウエストは言う。「投票直前に投稿されて、削除が間に合わないといった事態も起きうるだろう」。
テック企業がAI開発競争を繰り広げる中、ディープフェイクを生成するツールは、有害な偽情報を防止する策がほとんどないか、あったとしても不完全なまま次々に発表されている。テクノロジーが社会に与える影響を研究する非営利団体ヒューマン・テクノロジー・センターの共同設立者アザ・ラスキンはそう警告する。
ドナルド・トランプ前大統領は来年の大統領選挙でバイデンと戦うべく、デサンティスらと共和党の指名争いをすることになるが、彼自身、５月に自身が運営するSNS「トゥルース・ソーシャル」に加工された動画を投稿した。その動画では、CNNのアンカーであるアンダーソン・クーパーが、5月10日に中継した政治番組でのトランプの発言を口汚く罵っているが、口の動きとは一致していない。
CNNはこの映像がディープフェイクであると発表した。この映像は息子のドナルド・ジュニアの５月11日のツイートに残っていたが、この件についてトランプ陣営は取材に応じていない。
フェイスブック、ツイッター、ユーチューブといった大手SNSは、ディープフェイクを禁じ、削除する努力をしてきたが、効果はまちまちだ。
トランプはダメでもペンスはできる
人工的に合成されたメディアを検知しているディープメディア社によると、今年に入ってからネット上に投稿されたディープフェイクは、昨年同期比で動画が３倍、音声が８倍と、激増している。今年１年間では総計50万件の動画と音声のディープフェイクが世界中のSNS上に出回ることになると、同社は予測する。……
この続きは会員登録をすると読むことができます。「フォーサイト」は、月額800円のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。
