生成AIは選挙に悪影響を及ぼすのか、近年は悪用が当たり前に

Check Point Software Technologiesはこのほど、「Beyond Imagining – How AI is actively used in election campaigns around the world - Check Point Blog」において、AI(Artificial Intelligence)が世界中の選挙活動にどのように悪用され、どのような影響を及ぼしたか、その実例とともに解説した。

• Beyond Imagining – How AI is actively used in election campaigns around the world - Check Point Blog

2024年は選挙イヤー、AIの悪用が懸念されている

2024年は世界人口の約半数に影響する50カ国で、大統領選など重要な選挙が予定されている。そのため、世界中の民主主義にとって重要な一年になるとみられている。これまでに台湾、インドネシア、パキスタンなどで選挙が実施され、今後は米国、インド、メキシコ、欧州議会、南アフリカなどで実施が予定されている。

選挙では投票当日までの期間、有権者の投票行動に影響を与える情報が積極的に流布される傾向にある。その内容が真実であれば問題はないが、偽情報の拡散を試みる人物が存在し、度々問題となっている。この問題はインターネットの普及に伴い影響範囲が広がっており、偽情報の拡散速度も上昇している。しかしながら、多くの有権者はこのような状況を憂いており、正しい情報提供を試みる善意の知識人によりインターネット上では情報戦が繰り広げられている。

このような情勢の中、生成AIが登場したことで新しい不安要素が加わった。生成AIは比較的容易にもっともらしい偽情報を生成することが可能であり、文章、画像、音声、動画などさまざまな形で偽情報を発信することができる。そのため、生成AIを使用した偽情報(ディープフェイク)が選挙に悪影響を与えることを懸念する声が高まっており、Check Pointは実際に確認された事例があるとしてその詳細を解説している。

生成AIの選挙における悪用事例 - フランス、スロバキア

Check Pointは過去の選挙で確認された生成AIの悪用事例を複数取り上げて解説している。それらの概要は次のとおり。

フランス上院選挙

2023年9月24日、フランスで上院の選挙が行われた。この選挙ではAIを使用した事案が1件確認されている。フランスの政党「ヨーロッパ・エコロジー・エガリテ」に所属する議員がAIを使用して選挙ポスターを美しく加工しすぎたとして非難されている。

• 2023年の画像(左)と2022年の画像(右)の比較　引用：議員公式サイト

スロバキア総選挙

2023年9月30日、スロバキアで総選挙が行われ、ロシアに近いとされるSMER党と、欧州連合(EU: European Union)寄りとされるプログレッシブ・スロバキア党との間で接戦となった。投票日を2日後に控えたある日、有名ジャーナリストとプログレッシブ・スロバキア党の党首との会話を録音したとされる偽動画がソーシャルメディアに流布された。この動画では選挙結果を改ざんする戦略が議論されていたという。

この動画はソーシャルメディアやメールで急速に拡散したが、すぐに偽情報を指摘する専門家の情報提供がなされた。しかしながら、スロバキアには投票日の48時間前から政治家およびメディアによる選挙関連の情報発信を禁止する猶予期間が設けられており、大手メディアは拡散を防止することも内容を訂正することもできなかった。

この選挙では、最終的にSMER党が偽情報拡散前と比較して2ポイント以上票を伸ばし、22.9%の得票率を獲得し勝利している。対するプログレッシブ・スロバキア党は2ポイント近く減らし18%で第2党となっている。

上記の他、今年実施された台湾、インドネシア、パキスタンを含む複数の選挙における生成AIを悪用した偽情報の拡散とその影響が紹介している。近年の選挙では当たり前のように生成AIが悪用されるようになってきているが、実際の投票にどの程度影響しているかはわかっていない。このような悪用は必ずしも選挙を開催している国の人間が行うとは限らず、外国勢力による工作活動の一貫として行われる可能性がある。

いずれにせよ、生成AIの悪用は民主主義のプロセスに悪影響を及ぼすため、各国の選挙管理組織および法執行機関には偽情報へ積極的に対処することが望まれている。また、メディアにも正しい情報の拡散と、生成AIを使用した偽情報に対抗する取り組みが求められている。