文字サイズ

ケーススタディで学ぶ インターネット安心安全ガイド

インターネットに潜む危険Q&A インターネットに潜む「危険」と、その「危険」を避けるためにはどうすればいいのかを利用用途ごとにQ&Aでご紹介します。

声で人を騙すAIに注意!

投稿日時:2023/06/28

質問

動画サイトで、自国の政治家が不適切な発言を行っている動画を見つけました。

動画を再生してみると、話している場所は記者会見の会場らしく、そこで記者に対して特定の国と国民を馬鹿にするような内容を話していました。

テレビ番組に出演しているときと真逆の発言をしているこの動画は、たくさんの人に知ってほしいです!拡散してもいいですか!?

解説と対策

その動画は、もしかしたらAIで作られた偽の動画かもしれませんので安易に動画を拡散するのはやめましょう。

音声を合成することのできる【音声クローン技術】と、動画の中の顔の一部を入れ替えることのできる【ディープフェイク動画】を合わせると、実在しない動画を作成することが可能になります。

このように作成された動画は質が高く、本物か偽物かを見分けるのがとても難しくなっています。

衝撃的な動画を見つけたからと拡散した場合、デマ情報の拡散に加担する立場になってしまうかもしれません。

気になる動画を発見したとしても、誰かに被害が及ぶ可能性のある動画は拡散しないようにしましょう。

  • 誰かに被害が及ぶ可能性のある動画などは安易に拡散しない
  • 音声クローン技術やディープフェイク動画が存在することを知っておく

質問一覧