韓国のゴルフ選手出身タレントのパク・セリと俳優のキム・スンスが結婚したというフェイクニュースがYouTubeで急速に広がり、論争が起きた。
昨年12月末から拡散された動画によると、二人はあるバラエティ番組の出演をきっかけに実際に恋人関係に発展し、SBSニュースを通じて結婚を報告した後、1月23日にソウルのある場所で家族と知人のみを招いて非公開の結婚式を挙げるという具体的な内容だった。
しかし、この動画は実際の人物の画像と音声をAIで生成したフェイクニュースで、今月28日時点で877万回以上の再生回数を記録した動画もある。虚偽の動画に騙されたネットユーザーの一部は「二人はとてもお似合いだ」、「幸せに暮らしてほしい」といったコメントを残した。
フェイクニュースが急速に広がると、パク・セリが直接釈明に乗り出した。パク・セリは今月27日、自身のSNSアカウントを通じて「交際説をパスして結婚説まで流れているのか？あまりにも驚きで笑えるけど…切ない気持ちもある」というコメントと共に心境を込めた動画を公開した。
彼女は「本当に私が交際して結婚する日にはフェイクニュースではなく本当のニュースでお伝えする」と述べ、「偽物をあまりにも本物らしく作った。AIをこんな用途に使うべきではない。どうやってこんなものを作るのか。相手の方もどれほど困惑しているだろう」と吐露した。
さらに「今後韓国の（ゴルフの道を夢見る）人材をもっと育成し発掘する方に力を注げるよう協力してほしい」と述べ、「私の恋愛なんてそれほど重要ではない。パートナーができたら皆さんに真っ先に紹介する。フェイクニュースを信じてはいけない」と重ねて強調した。
このようにAIで生成された虚偽の動画のことを「AIスロップ」と呼ぶ。AIスロップの特徴は完全な虚偽だが、本物のように見える点だ。既存の画像や動画、記事内容を切り貼りして文脈のある話に仕立て上げ、ユーザーの判断力を鈍らせる。特に有名人とニュース形式を組み合わせると、その影響力はさらに大きくなる。
AI動画編集プラットフォームの「Kapwing」によると、韓国はAIを利用して無分別で大量に複製された低品質のコンテンツである「AIスロップ」を最も多く消費する国だという。
