選挙における生成AIの役割と影響

生成AIの導入とその意義

政治におけるAI: GenAIが選挙とキャンペーンを変革する方法

• 情報環境の変化: GenAIは、情報の生産コストを低下させ、ソーシャルメディアでのコンテンツ共有を促進しています。2024年の初めの8ヶ月間で、GenAIに関する会話は452%増加しました。
• 偽情報のリスク: GenAIは、特に音声やテキストコンテンツにおいて、誤解を招く情報の拡散を助長する可能性があります。例えば、アメリカでは、民主党候補者の声を模倣した偽のロボコールが使用されました。
• 公衆の認識: 一方で、一般市民はGenAIコンテンツを識別する能力が予想以上に高く、メディアや規制当局も偽情報を迅速に指摘しています。

GenAIの具体的な事例

• フランス: Marine Le Penの偽のディープフェイク動画が拡散されましたが、最終的にはそのアカウントが偽物であることが判明しました。
• インド: 選挙プロセスの整合性を疑問視するGenAIコンテンツが広まりました。
• 韓国: AIアバターを使用したキャンペーンが若年層に人気を博しました。
• 台湾: GenAIモデルの使用と信頼性を規制する新しい法律が提案され、他国の模範となる可能性があります。

リスク管理と今後の展望

• kroll.com
• mediaengagement.org
• rstreet.org
• trendmicro.com
• emory.edu
• captechu.edu
• www.pbs.org
• brennancenter.org
• mediarelations.gwu.edu
• cisecurity.org

多言語対応による有権者リーチの拡大

選挙における生成AIの利用と倫理的課題

• インドネシアのスハルト元大統領が生成AIを使って作成された動画で投票を呼びかけ、故人の「復活」が話題に。
• 世界各地で選挙活動に生成AIを利用する動きが広がっており、特にインドの総選挙では多言語対応が進んでいる。
• インドでは、候補者がAIを使って自分の演説を他の言語に変換し、SNSで配信。これにより、より多くの有権者にアプローチ可能に。

AIの利用事例

• インドの政権与党「インド人民党」は、AIを活用して有権者に個別のメッセージを送信し、親近感を高める戦略を採用。
• パキスタンでは、収監中のカーン元首相の演説がAIで生成され、SNSで広く拡散された。

倫理的な懸念

• スハルト元大統領の動画は、故人を利用することに対する倫理的な批判を呼び起こした。
• アメリカでは、バイデン大統領の声を模倣した偽音声が選挙妨害に利用され、法的な問題が浮上。

各国の規制状況

• 各国の政府は、生成AIの選挙利用に対して明確な規制を設けていないが、倫理的な問題に対する認識が高まっている。
• アメリカでは、AIを使った自動音声電話が「違法」とされ、規制が進められている。

日本の状況

• 日本では、生成AIの選挙利用に関する具体的なルールはまだ整備されていないが、徐々に政治活動において利用が始まっている。
• 総務省は、生成AIの利用が公職選挙法に基づいて適切かどうかを判断する必要があると述べている。

まとめ

• 生成AIの選挙利用は、効率的なコミュニケーション手段としての可能性を秘めているが、倫理的な問題や誤情報の拡散リスクも伴う。
• 各国の動向を注視しつつ、日本でも適切なルール作りが求められている。

記事の詳細はこちら

生成AIによる偽情報の生成とその影響

生成AIの影響と民主的プロセスへの脅威

• 選挙における脅威: ジェネレーティブAIによって生成されたコンテンツは、投票を妨害したり、候補者の偽情報を広めたりする手段として利用される可能性がある。特に、選挙直前に流布される偽情報は、メディアの報道を制限する「選挙前モラトリアム」によって、事実確認が困難になることがある。
• 具体的な事例:
  • スロバキアの選挙: 2023年9月、スロバキアの選挙前に生成された音声クリップが広まり、候補者の信用を損なう結果となった。事実確認が行われたが、選挙前の報道制限により、誤情報の拡散を防ぐことができなかった。
  • アルゼンチンの「メルコゲート」: 2023年の大統領選挙前に、候補者の不適切な発言を含む音声が流布され、候補者はこれをAI生成の偽情報として否定した。このような事例は、真実のスキャンダルを「偽情報」として片付ける「嘘の配当」を生む可能性がある。

生成AIの定義と技術的背景

情報空間におけるジェネレーティブAIの影響

対策と戦略

• 立法措置: 選挙特有の偽情報に対する新たな法律の制定が求められる。特に、候補者を描いた深層偽造コンテンツに対する規制が重要である。
• テクノロジー企業の役割: コンテンツの出所を特定するための技術的な解決策の実装が必要であり、情報の透明性を高めるための取り組みが求められる。
• 有権者教育: 市民が生成されたコンテンツを批判的に検討できるようにするための教育プログラムが重要である。

詳細な情報は、以下のリンクから確認できます：

cisa.gov

詳細な情報はこちらをご覧ください。

ディープフェイクのリスクと選挙の透明性

ディープフェイクのリスクと選挙の透明性に関する詳細情報

• 生成AIの進化と選挙への影響
  2024年のアメリカ合衆国の選挙が近づく中、政治キャンペーンや広告代理店は新たなパートナーとして人工知能（AI）に目を向けています。AIを活用したツールは、単一のプロンプトから新しいテキスト、画像、動画、音声を生成し、キャンペーンメッセージに組み込むことができます。これにより、パーソナライズされた広告を大規模に展開できるようになり、資源が限られたキャンペーンでも競争力を持つことができます。
  詳細は、Brennan Center for JusticeのAIと民主主義に関するシリーズを参照してください。
• 偽情報とその影響
  2024年は選挙が多く、偽情報キャンペーンの温床となる可能性があるため、生成AIが有権者操作のツールとしての役割を果たす懸念があります。特に、AI音声クローンツールが選挙の信頼性に深刻な脅威をもたらすことが示されています。
  詳細は、

  edmo.eu

  を参照してください。
• AIによるディープフェイクの具体例
  最近の調査によると、AI音声クローンツールが著名な政治家の声を模倣して選挙に関する偽情報を生成できることが明らかになりました。調査では、240回のテストのうち193回（約80%）で信じられる音声クローンが生成されました。
  詳細は、

  apnews.com

  を参照してください。
• 選挙管理者の懸念
  アメリカの選挙管理者は、AIの進化がもたらす新たな脅威に直面しています。特に、選挙日が近づく中で、AIを利用したディープフェイク技術が投票行動に影響を与える可能性が懸念されています。アリゾナ州の州務長官は、「私たちが直面する最大の懸念は、まだ経験していない課題です」と述べています。
  詳細は、

  abcnews.go.com

  を参照してください。
• AIと選挙の透明性
  生成AIの普及により、選挙の公正性が脅かされています。特に、ディープフェイク技術は、信じられないほどリアルな偽のコンテンツを作成する能力を持ち、選挙の整合性を脅かします。これにより、名声を傷つけたり、誤情報を広めたりすることが可能になります。
  詳細は、Trend Microのレポートを参照してください。
• 規制の必要性
  アメリカの議会や連邦選挙委員会は、AI技術に対する規制やモラトリアムの必要性を訴えていますが、国の立法者はこの新技術に対処するための具体的な行動をまだ取っていません。
  詳細は、

  technologyreview.jp

  を参照してください。

生成AIの利用に対する規制の必要性

AIの2024年選挙における利用と悪用の4つの方法

1. 有権者情報の提供
   • ChatGPTの登場により、生成AIが有権者に情報を提供する可能性が広がりました。人々はGoogleで情報を検索する代わりに、AIに質問をすることが増えています。
   • ただし、AIは誤った情報を生成することもあり、特に投票方法に関する情報が不正確である場合があります。例えば、ChatGPTはバトルグラウンド州での投票方法に関する不正確な回答を提供したことがあります。
2. ディープフェイク
   • ディープフェイクは、現実を模倣するために生成AIによって作成された画像、音声、動画です。これにより、有権者を欺く可能性が高まっています。
   • 2024年のニューハンプシャープライマリー前に、AIが生成したジョー・バイデンのロボコールが発生し、選挙管理委員会はAI生成のロボコールに対する規制を強化しました。
3. 戦略的な気を散らす行為
   • 一部の人々は、AIが選挙管理者を無駄な公的記録要求で圧倒するために使用されることを懸念しています。例えば、True the Voteという団体は、ボランティアとウェブアプリを使って数十万件の有権者挑戦を行っています。
4. 外国の選挙干渉
   • 2016年の選挙におけるロシアの干渉は、外国の介入がアメリカの政治において依然として重大な懸念であることを示しています。AIは、これらの干渉を助長する可能性があります。
   • 例えば、中国がAIを利用してアメリカに関する悪意のある情報を広めている事例があります。

AIが選挙に及ぼすリスクと必要な対策

• デジタル偽造の事例: シカゴ市長候補のポール・ヴァラスの声を模したAI生成のビデオが、選挙前に広まりました。このようなデジタル偽造は、選挙における情報の信頼性を脅かす新たな手段となっています。
• 偽情報のリスク: AIを利用した偽情報は、選挙の信頼性を損なうだけでなく、投票抑圧や選挙管理のバイアスを助長する可能性があります。特に、過去の選挙での偽情報がAIの学習データに含まれているため、同様の偽情報が再現されるリスクが高まっています。
• AIの進化と影響: AI技術の進化により、ユーザーは簡単にリアルな画像や音声を生成できるようになり、これが選挙における情報操作を一層容易にしています。例えば、AI生成のビデオが誤解を招く形で拡散され、数百万回の視聴を集める事例が報告されています。
• 信頼性の低下: AIによるコンテンツの増加は、選挙情報全体に対する信頼を低下させる恐れがあります。偽情報が氾濫することで、有権者は正確な情報を見極めることが難しくなり、民主主義の基盤が揺らぐ可能性があります。
• 必要な対策: 政府、民間企業、そして市民社会が協力して、AIが選挙に与えるリスクに対処するための包括的な対策が求められています。具体的には、AIによる偽情報に対する監視体制の強化や、選挙関連のAIコンテンツに対する透明性の確保が重要です。

出典: The Conversation