世界で発表されているさまざまなAIで作成できるものは、もはや文章だけではなく、元になる情報があれば画像、動画、音声すらも作り出すことができるようになってきました。
そして、その素晴らしい技術を利用して、より本物のように見せかけて行われる詐欺行為も後を絶たない状況です。

実在の人物へのなりすましや、実際には発生していない事件事故を表現することも可能なため、作成された動画や画像を見るだけでは、詐欺かどうかを判断するのが難しくなっています。

では、実際にAIが悪用されている行為にはどのようなものがあるのか、海外での事例を元に解説していきます。
有名ブランドのプレゼントキャンペーンの画像や動画を、有名人の画像や音声を利用してAIで生成することで、個人情報の登録へと誘導する事例がありました。
生成された動画や音声は、実在する人物の情報を利用しているため、見ただけでは偽物かどうかを判断することはかなり難しいでしょう。

また、内容の真偽を確認されていない情報から作成された、偽のニュースサイトなどもあります。こういったサイトは個人情報ではなく、広告収入を目的としているようです。

SNSや動画サイトで投稿されている動画からクローン音声を作成し、家族や友人、上司になりすまして金銭を要求する行為も確認されています。
その中には、子どものクローン音声を使い、誘拐したと見せかけて身代金を要求するパターンもあるようです。
ディープフェイク技術とクローン音声を組み合わせ、会社の責任者になりすまして金銭をだまし取る事例も発生しています。
技術を組み合わせることで、ビデオ通話の画面上には責任者の姿を移すことも、背景を偽装することも可能になっています。
また、同じような手段を使って、有名人になりすまし、偽のインタビュー動画を作成されてしまう事例も発生しています。
世界で大きな災害が発生した際に、AI作成された子供の画像を利用して、寄付金を集める詐欺が横行したこともあります。
画像を見ると、指の本数が異なっていたり、別の災害で撮影された子供の写真が利用されているなど、一部不審な点が確認されていましたが、ネット上での詐欺行為は複数確認されています。
昔からあるロマンス詐欺ですが、この詐欺にもAIが利用されています。
人物プロフィールの作成や、相手のプロフィールなどを学習して行われる会話の自動返答やメッセージの作成などに利用されています。

AIを利用した詐欺を見抜くためには、映像や音声での判断が難しい場合が多いため、まずは本当にその情報が正しいのか、公式サイトなど他の情報源を探す必要があります。
特に個人情報を入力を求められている場合は、一つの情報だけで判断するのは危険な好意であると考えたほうがいいでしょう。
また、個人情報を悪用されないためには、動画や音声をネット上に投稿する前に、加工などによってプライバシー情報の漏洩を減らすことも大切です。

今後も、AIは更に進化を続けていくと同時に、その技術が悪用される可能性も高いでしょう。
情報を得るときは、ひとつの情報だけで判断するのではなく、様々な角度から確認する必要があります。
そして、自身の身を守るために、セキュリティ対策アプリなどを活用するなど、基本的な対策も大事なことです。
基本的な対策とともに、新しい技術や詐欺行為についての情報も積極的に学んでいきましょう。

ただし、”AIで生成された情報は悪いものである”というわけではありません。技術を悪用することが問題なのです。
ひとびとの生活を豊かにするAI技術のことを理解し、正しく利用していくようにしましょう。