指を“パチン”と鳴らしたらチャン・ウォニョン（IVE）、JENNIE（BLACKPINK）、KARINA（aespa）に変わった？
“AIベースのスワップ（ディープフェイクや顔交換技術を用いた画像・動画）”技術で多数のK-POPアイドル、俳優を合成したあるソーシャルメディアのアカウントが知られ、波紋を呼んでいる。
この投稿は、単純に顔を合成するディープフェイクを超えて、表情やジェスチャーまで実際の映像と区別することができないほどに具現化された。
AIでより精巧になった合成技術が、ともすれば犯罪に悪用される可能性があるという懸念も大きくなり、AIのディープフェイク対策が必要だという声が大きくなっている。
業界によると最近、有名人の顔を“AIベースのスワップ”で制作して作った映像が大挙掲示されたソーシャルメディアチャンネルが知られた。このチャンネルは、先月開設された。韓国国内の芸能人たちの顔を入れた60余りの投稿がアップされている。
映像は、ある男性が指を“パチン”と鳴らすとJENNIE、チャン・ウォニョン、歌手で女優のIU（アイユー）、KARINA、女優コ・ユンジョンら国内の有名芸能人の顔に瞬く間に変わる姿を収めている。
これは、“AIベースのスワップ”技術が適用されたものと推定される。この技術は、単純に顔をさらにかぶせるディープフェイクを超えて、ウィンクしたり、口をひくひくさせるなど、表情や身振りまで完璧に具現化される。
映像の制作者と推定される同アカウントの運営者は「まもなく発売するアプリをフォローしてほしい」と、技術を宣伝したりした。現在、アカウントに公開されている映像は、悪用された事例というより技術の具現レベルを見せるデモ映像と思われる。
ただ、高度化された“AIベースのスワップ”技術は、ともすればいつでも犯罪などに悪用され得るという点で、懸念が大きくなっている。
微細な表情と動きまで精巧に具現化されているせいで、最近はこの技術を悪用する事例も現れている。実際、世界的に問題になっている北朝鮮IT人材のビッグテック偽装就業にも、この技術が積極的に活用されていることが伝わる。これらは、画像面接時にこの技術を活用して、身分と顔を隠すのに悪用したりした。
K-コンテンツ人気で、“韓国”がディープフェイクなどの主な標的になっているという点も懸念を強めている。
過去、米サイバーセキュリティ企業ヒーローが発表した報告書によると、全世界のディープフェイク被害者の半分以上が韓国芸能人だという。英BBCは、「韓国がディープフェイクの非常事態に直面した」と言及したりした。
状況がこのようなため、政府レベルのディープフェイク対応策も、続々と用意されている。行政安全部と国立科学捜査研究院が共同で開発した“AIディープフェイク探知モデル”が代表的だ。
これは、映像の全体の流れを分析する“全域分析”や、顔など特定部位の操作跡を判別する“局所分析”を同時に遂行する方式で、探知精度を高めたモデルだ。政府は、当該モデルを近づく地方選挙のディープフェイク防止に活用するのを皮切りに、AIディープフェイク分析モデルの活用範囲を持続的に拡大する方針だ。
WOW!Korea提供
