AI技術を使って作られた偽動画「ディープフェイク」は、今年初めの台湾総統選挙や、11月の米大統領選挙などに混乱をもたらす偽情報を流すことに使われるなど、問題視されている。
また、AIを使って女性の顔を性的な動画と合成・加工した画像や、映像の「ディープフェイク・ポルノ」も、ネット上で拡散する状況が起っており、スター歌手・テイラー・スウィフトやK-POPアイドルBLACKPINK、TWICE、NewJeansなども被害にあっている。
韓国は2023年のデータでは被害者が一番多く（韓国：53%、アメリカ：20％、日本：10％）、有名人以外に未成年者も被害にあっており、59.8％が10代というデータも報告されている。
拡散に使われることが多い「テレグラム（Telegram）」のドゥーロフCEOは、8月26日に「児童虐待画像の拡散」などの罪でフランスで逮捕・起訴されている。
Facebookやインスタグラムを運営するメタ、検索のグーグル、マイクロソフトなどはコンテンツの出所がどこで、誰が作成したかを知らせる「電子透かし」などの技術で有害な投稿を特定する防止策を開始、米カリフォルニア州とバージニア州は合意なしのディープフェイク・ポルノ作成を禁止する「親密画像のディープフェイク防止法（Preventing Deepfakes of Intimate Images Act）」で規制を行っている。
しかし、画像生成AIの技術の進歩は目覚ましく、短い映像サンプルから安価に比較的簡単に「ディープフェイク」を作ることができる。
1枚の写真を用意すれば、その顔でライブ配信できる「Deep-Live-Cam」も登場しているが、このような技術を使ったロマンス詐欺も既に行われている。
ビジネス活用
これまでもビデオやインターネットなどが登場した直後は、今回のディープフェイク同様にポルノなどの利用が多かったが、そこ後はいろいろな方面に利用されるようになる。
「ディープフェイク」技術も企業がビジネス活用を始めている。
大手会計事務所アーンスト・アンド・ヤングは、社員のディープフェイクによるプレゼンで契約を勝ち取り、AI関連株を牽引しているGPUのエヌビディアは、オンライン基調講演に出演したジェンスン・ファンCEOの映像の一部でディープフェイク技術を使用、社内研修ビデオに使用している企業もある。
このようなディープフェイクを利用したプレゼンや研修動画では、AIが多言語化をしてくれるメリットがあり、動画ではそれぞれの言語に対応するように話してくれる。
ファッション業界では「バーチャル試着」に応用しているし、お札になっている渋沢栄一やアインシュタインが先生となって、学校の授業をすることなども許可が降りれば可能だ。
法整備がまだまだ整っていないが、「ディープフェイク」技術を今後はビジネスに応用する企業が増えてくる。
======== DATA =========
●Deep-Live-Cam
http://deeplive.cam/ja
