中間選挙でAIディープフェイクがますます異様で見破りにくくなっている
偽動画や偽広告の急増が情報操作への懸念を煽る（WSJ）
概要
ソーシャルメディアで共有されたディープフェイクは、2023年の50万件から昨年は800万件に増加し、誤報への懸念が高まっている。
トランプ大統領を含む共和党はAI生成コンテンツをより頻繁に利用しており、民主党もこの技術を活用している。
政治キャンペーンでは、候補者を宣伝し、対立候補を攻撃するために、様々な選挙広告に人工知能（AI）が活用されており、こうした偽コンテンツの氾濫が中間選挙の信頼性を損なうのではないかという懸念が高まっている。
　無料AIツールの進歩は、こうしたコンテンツの爆発的な増加を招き、ディープフェイクの被害に遭う選挙アナリストや政治家を不安にさせている。彼らは、あまりにもリアルな動画の中には、偽物だと見抜けない有権者もいると指摘する。
　ミネソタ州は、他の約30州と同様に、選挙関連のディープフェイクを禁止する法律を制定しているが、デジタルコンテンツ研究者らは、憲法修正第1条の保護があるため、こうした法律の執行は困難だと述べている。フラナガン副知事は、広告が法律に違反しているかどうかをチームが調査していると述べたが、たとえ違反していなくても、法律の精神に反していると主張している。クレイグ陣営の広報担当者は、クレイグ氏は政治広告におけるAIの利用を支持していないと述べた。
Instagramなどのソーシャルメディアプラットフォームにおけるコンテンツモデレーションの最近の緩和が、この傾向をさらに悪化させている。消費者は既存の信念を強化するディープフェイクを信じやすく、偽情報だと指摘するとサイバーセキュリティ企業DeepStrikeによると、ソーシャルメディア上で共有されるディープフェイクの数は、2023年の約50万件から昨年は約800万件へと爆発的に増加している。 NPR、PBSニュース、マリスト大学が実施した世論調査によると、アメリカ人の約85％が、AIが作成した政治コンテンツは中間選挙に関する誤解を招く情報を拡散すると考えている。
OpenAIは先日、AP通信と非営利団体Democracy Worksと協力し、ユーザーに正確な選挙情報を提供すると発表した。サイバー攻撃を実行できるAIモデルが最近登場したことで、同社をはじめとするテクノロジー企業は新たな懸念を抱いている。
AI生成広告を追跡している研究者によると、共和党はAI生成広告をより頻繁に利用しており、トランプ大統領はAI生成コンテンツを最も多く投稿している人物の一人だという。投稿の中には、トランプ氏をキリストのような人物として描いたものや、バラク・オバマ前大統領とミシェル・オバマ夫人を猿として描いたものがあり、批判を浴びた。トランプ氏は後にオバマ夫妻の動画を削除した。
2028年の大統領選候補であるカリフォルニア州知事ニューサム氏をはじめとする民主党の有力者たちも、この技術を活用している。
　ホワイトハウスの報道官ジャクソン氏は、「魅力的な投稿や話題のミームを通して、大統領の非常に人気のある政策を効果的に伝えています。多くの人が私たちのスタイルを真似しようとするのには理由があります。私たちのメッセージが人々の心に響いているからです」と述べた。