- 最近の報告によると、AI生成のアドルフ・ヒトラー深層偽装（ディープフェイク）動画が急増し、親ナチスのイメージやレトリックが広まっています。
- これらの動画は、X（旧Twitter）、YouTube、TikTok、Instagramなどの人気プラットフォームで大きな視聴回数を獲得しています。
- 戦略対話研究所（ISD）によると、AIツールがヒトラーの演説を英語で広めるために悪用されており、極端なコンテンツの拡散が強まっています。
AI生成のヒトラー深層偽装（ディープフェイク）の驚くべき増加とその社会的影響を発見してください。
AIツールによる極端主義の拡散
戦略対話研究所（ISD）は、最近、高度なAIツールを利用してアドルフ・ヒトラーを描いている動画を作成および拡散するという憂慮すべき傾向を報告しました。これらの動画は、ヒトラーの演説の翻訳版を含むことが多く、SNSプラットフォーム全体で5000万回以上の視聴回数を記録しています。使用されている戦術には、AI音声生成ツールを利用して、これらの演説をより広範な英語話者にアクセス可能にすることが含まれており、有害コンテンツの拡散について大きな懸念が生じています。
ソーシャルメディアプラットフォームへの影響
ソーシャルメディアプラットフォームは、これらの極端主義的なナラティブの増幅に苦しんでいます。ISDは、TikTokなどのプラットフォームが、反ユダヤ、反イスラム、反移民、白人至上主義のイデオロギーを広めるヒトラーの演説の20-30秒間のクリップを提供していると指摘しています。これらのコンテンツは、新ナチスのコンテンツの拡散を防ぐための継続的な戦いであり、プラットフォームはその対応に苦慮しています。さらに、データ分析によると、8月以来、ナチスのイメージを特徴とする動画や投稿は、XやTikTok、Instagramなどのプラットフォームで2,840万回以上の視聴回数を記録しています。
規制の難しさ
専門家は、このような広範なコンテンツを規制する難しさを強調しています。カリフォルニア大学ロサンゼルス校（UCLA）の教授であるラメシュ・スリニヴァサンは、ヘイトコンテンツの迅速な拡散に注意を喚起し、この現象は多くの場合、アルゴリズムがエンゲージメントの高いコンテンツを優先することが原因であるとしています。不幸にも、多くの場合、このアルゴリズムは最も有害なコンテンツを優先することがあります。プラットフォームはヘイトスピーチを抑制するためにポリシーを更新しましたが、Xのようなプラットフォームでは依然として頻繁に違反が発生しています。
コンテンツ拡散におけるアルゴリズムの役割
アルゴリズムは、ソーシャルメディア上のコンテンツの拡散において重要な役割を果たしています。これらのアルゴリズムは、広まる可能性の高いコンテンツをプッシュするよう設計されており、結果として有害で挑発的な素材を促進してしまうことがあります。スリニヴァサンは、アルゴリズムが共有可能なコンテンツを優先する訓練を受けているため、よりセンセーショナルで分裂的な投稿が可視性を獲得し、問題を悪化させることを説明しました。このダイナミクスにより、プラットフォームはエンゲージメントと有害なイデオロギーの拡散を抑制する責任の間でバランスを取ることが難しくなっています。
結論
AI生成のヒトラー深層偽装（ディープフェイク）の急増は、オンラインディスコースにとって重大な脅威であり、極端主義的なイデオロギーを焚き付け、そのようなコンテンツを規制する努力を複雑にしています。この憂慮すべき傾向は、ソーシャルメディアプラットフォーム、規制当局、およびユーザーがヘイトスピーチの拡散と戦うために協力する必要があることを示しています。関係者がこれらの課題に取り組む中で、洗練された対策と強力なポリシーが極端主義的なコンテンツの拡散を防ぐために不可欠であることが一層明らかになっています。
