「ZAO」は、中国で開発されたディープフェイク作成アプリです。iPhone一つで、有名人の顔を入れ替えたフェイク動画が簡単に作成できることで人気になりました。
しかし、プライバシーに関わる重大な利用規約があると発覚し問題となりました。
利用規約の中に「アプリ上にアップロードした自分の顔写真は、運営会社で永久に再利用され、取り消すことができない」という内容があったのです。
現在はこの規約は改定されており、顔写真のデータはアプリの改善を目的とした場合のみに使用され、その他の目的で利用する場合は利用者の同意を取るように改善されたとのことです。さらに、利用者がアプリ上から画像を削除した時は、サバー上からも画像を削除することが誓約されています。
目次
ディープフェイクの問題点
ディープフェイク技術は非常に進化しており、専門的な知識がなくても簡単に高品質なディープフェイクを作成できるツールも出ています。
ただし、この技術は偽情報の拡散やプライバシーの侵害など、倫理的な問題も引き起こしているため、使用には注意が必要です。
そのリアルな映像生成能力によって、重大な問題を引き起こす可能性があります。
著名人や政治家のなりすまし
ディープフェイクは、偽情報やプロパガンダを拡散する目的にも利用できます。
政治家や有名人が実際には言っていないことを言っているかのような映像を作成し、多くの人を騙すことも可能です。
ディープフェイク技術を使って著名人や政治家のなりすましを行う問題は、深刻な社会的影響を及ぼす危険性があります。
詐欺行為全般
ディープフェイクは詐欺にも使われる可能性があります。
人工知能で生成した偽映像や偽音声を使用して、個人や組織をだましたり、金銭や情報を奪う行為です。たとえば自分の会社の社長の声や画像で命令を受けたように思わせ、重大な機密情報をもらしてしまう、などが考えられます。
実在の人物の信頼を利用して欺く方法で、、特に企業のセキュリティや個人のプライバシーにとって大きな脅威といえるでしょう。
ディープフェイクは犯罪？扱う際の注意点
デープフェイクは、使うツールやアプリによって、簡単に作成できることがわかりました。しかし、自分の作成したデーブフェイクを個人で楽しむ分には全く問題ありませんが、インターネット上などに公開することで悪意の有無に関わらず、誰かを傷つけてしまった場合は犯罪になることがあります。そのような使い方をしない方が大半ではあると思いますが、フェイク動画を取り扱う際には十分気をつけるようにしてください。
フェイク動画等に騙されないために、SNSなどにアップされている画像や動画を鵜呑みにしないことが大切です。知らなかったからと言って拡散することで犯罪に加担してしまい、拡散した人も罪に問われる可能性も十分にあります。
ディープフェイクの犯罪事例
フェイク動画で最も多いのが「フェイクポルノ」と呼ばれる、アダルト画像や動画です。既存のアダルト動画などに出演している女優さんの顔を有名人の顔と入れ替えたもので、海外だけではなく、日本の女優さんも被害に遭っています。
さらに、フェイクポルノ動画が簡単に作成できることで、有名人だけでなく、一般人もその被害に遭う可能性があります。脅迫やリベンジポルノに使用されることも考えられるほか、動画や画像のみならず、実際に音声の合成技術によってフェイクボイスが犯罪に利用されるケースも発生しています。
有名な犯罪事例では、海外の有名人であるテイラー・スウィフトなどの性行為をディープフェイクで作成した動画がRedditに投稿されたことが有名です。
他にも、FBIは、在宅でリモートで働く人が、ディープフェイクを利用していたという深刻が増加していると警告を出していたり、イギリスでは2019年にある企業の重役の人の声になりすまし、ディープフェイクを開くようして企業に入り込むといった可能性を危惧し、注意喚起しています。
XやYouTubeでも！ディープフェイクの実例紹介
よくできたディープフェイク動画は、SNSでも頻繁に話題に登るようになりました。
以前にYouTubeやTwitterなどで話題になった動画を紹介します。どれも有名人の顔や声を合成して作成された動画や音声です。
ここで紹介しているコンテンツは、冗談や面白さを目的で作られているので害はありません。しかし、これがシリアスな目的で作られたらと考えると、恐ろしさも感じます。
YouTubeでディープフェイク動画を見てみよう！
実際にYouTubeにアップロードされているフェイク動画をご紹介します。とてもクオリティの高い動画のため、ついつい見入ってしまいます。
映画『安倍ンジャーズ 』予告編！フェイク閲覧注意！ [DeepFake]
顔が綺麗にはまって馴染んでいるため、違和感がなく作られています。YouTubeでは、このようなフェイク動画を多数見ることができます。
Twitterで話題の「おしゃべりひろゆきメーカー voiced by CoeFont」
2022年9月5日に公開された「おしゃべりひろゆきメーカー」という音声の合成サービスが話題になっています。
匿名掲示板の「２ちゃんねる」を開設し、YouTubeでも有名なひろゆき（西村博之）さんの声をAIが再現する機能で、利用者が入力した文章をひろゆきさんの声で読み上げてくれます。また、ひろゆきさんの過去の配信動画などの音声をAIに学習させて、140文字以内の文章をひろゆきさんの写真を切り貼りした簡易的な動画とセットで出力することが可能です。
人気のひろゆきさんに自分の考えた文章を読み上げてもらうことができるため、Twitterでは大喜利のように楽しむ人も多く、大きな話題となりました。
Xでディープフェイクが流行？
X（旧Twitter）でもディープフェイクで作成された動画や画像が投稿されています。
その多くが「フェイクポルノ」つまり、女優やアイドルの顔をアダルト動画に合成したようなフェイク動画を投稿するアカウントです。
投稿されているフェイク画像や動画はとても巧妙に作成されていて、中には数万人のフォロワーがいるアカウントもあります。
また、ディープフェイクによる被害は、画像や動画が簡単に手に入る有名人だけではありません。SNSに自分の写真や動画をアップしている人でも、無断で悪用されてしまう危険性があります。
ディープフェイクの作成が手軽で簡単にできてしまうことから、誰もがディープフェイクを使った被害者になる可能性があることを認識し、悪用されないためにもSNSの投稿にも注意する必要があリます。
まとめ
ディープフェイクの技術は今でも日々進化しています。今はまだ「よく見れば顔を身体のバランスがおかしい」など偽物と気付けるものが多いですが、中には言われても分からないレベルのフェイク動画も存在します。
冗談や面白さ目的としたものならいいですが、政治的なプロバガンダや詐欺に使われる危険性あります。
それらの問題を理解してディープフェイクの動画を作成しましょう。