STARTO社が「AIに学習させて利用」を禁止、二宮和也・大野智がディープフェイク被害か

STARTO ENTERTAINMENT(旧ジャニーズ事務所)がサイトポリシーに「AIに学習させて利用することの禁止」を追加しました。最近では二宮和也さんにそっくりの動画が「ディープフェイクでは?」と話題に。2021年には大野智さんがディープフェイク動画の被害にあいました。

1859
0

STARTO社がサイトポリシーに「AIに学習させて利用することの禁止」を追加

2024.05.22
著作物やタレントの肖像、声、芸名等をAIに学習させて利用することの禁止を、サイトポリシーに追記しました。
引用元:starto.jp(引用元へはこちらから)
サイトポリシー
STARTO ENTERTAINMENT Official Site(「当ウェブサイト」といいます)に掲載されている全てのコンテンツ(文章、グラフィック、画像、音源等)の著作権は、株式会社STARTO ENTERTAINMENTまたは正当な権利を有する権利者(以下「著作権者」といいます)に帰属しています。

事前に著作権者の承諾がない限り、法律によって認められる私的使用の範囲を超えて、これらの情報を使用(複製、改ざん、頒布などを含む)すること、また、AIに学習させて利用することを禁止します。さらに、当ウェブサイトに掲載されているタレントの肖像(似顔絵、フィギュアを含む)、声、氏名・芸名、略歴等(「タレントのプロパティ」といいます)は、タレントの肖像権、パブリシティ権にかかわるもので、株式会社STARTO ENTERTAINMENTまたはタレントの所属会社もしくはタレントが管理しているものです。経済的利益を得る目的でタレントのプロパティを無断で利用し、また、AIに学習させて利用することを禁止します。また、著作権者は、当ウェブサイトの全てのコンテンツに関し、いかなる保証もするものではありません。万一、当ウェブサイト上のコンテンツに誤りがあった場合でも、著作権者は一切の責任を負いません。

また、記載されている事項は、予告なしに変更または中止されることがありますので、 あらかじめご承知おきください。
引用元:starto.jp(引用元へはこちらから)
AIに学習させて利用するものとしてよく問題になるのはディープフェイクです。
有名人になりすました詐欺事件が最近よくニュースになるので追加したんでしょうか。
ディープフェイクとは
フェイクの動画や音声をディープラーニング(深層学習)の技術を利用して高精度に作り出す技術の総称です。
実在しない人物の画像や音声を作り出すことだけでなく、特定の個人そっくりの画像や音声を生成することなども可能で、もはや人間では見分けがつかないレベルに技術が進化しています。他人へのなりすましや、証拠の捏造などの犯罪に利用されることが懸念されており、刑事事件に発展するケースが世界的に増加しています。
引用元:www.nablas.com(引用元へはこちらから)
ですが すでに嵐メンバーでもディープフェイクが疑われる動画があるんです!

ディープフェイク動画①二宮和也

スポンサーリンク

スポンサーリンク

2024年1月、インスタグラムに二宮和也さんそっくりの動画がアップされ話題に!
1月30日頃から、X(旧Twitter)上で、嵐・二宮和也にそっくりの男性の動画が、爆発的に拡散されている。一部ではディープフェイク説も浮上するなど、ファンは騒然となっているようだ。

この男性の動画が公開されているのは、某難関大学のスポーツ系サークルのOBからなる団体のインスタグラムアカウント。練習風景やメンバーの交流の様子を映した動画が複数アップされている。これら動画の一つに、二宮と瓜二つの男性が登場しているのだ。

「初めて見た時は驚きました。ベンチに座る男性が、撮影者からの質問に回答する……というショート動画なんですが、彼の顔はもう二宮さんそのもの。目元や鼻、口元、すべてが似ていて、声を聞いて初めて、二宮さんではないことがわかるというレベルです。現在の二宮さんより、少しだけ若い印象ですが、何も知らない人に静止画だけ見せたら、10人中10人が『二宮和也』と答えると思います」(エンタメ誌記者)
引用元:www.jprime.jp(引用元へはこちらから)
「当然、嵐ファンを中心に大騒ぎになっています。この動画が最初に投稿されたインスタアカウントには大量の人が押し寄せているようで、コメント欄には

≪めっちゃニノやん≫

≪ニノじゃないの?こんなに似てるのに??≫

≪第2のニノだ≫

≪さすがにニノ 過去一似てる≫

≪全てのパーツがニノ 雰囲気も横顔もニノ≫

といった驚きの声が飛び交っている状況です」(前・同)
引用元:www.jprime.jp(引用元へはこちらから)
一方で、この動画には、ディープフェイクの可能性も指摘されている。ディープフェイクとは、AIを用いて人物の動画や音声を人工的に合成する処理技術のこと。つまり、AI技術によって、この男性の顔を二宮の顔に差し替えているのではないかという疑惑を持たれているのだ。

「生成AIによる動画といわれれば、確かにあそこまで瓜二つなのも納得できます。実際、ファンの中には、口の動きが不自然に見えることから、ディープエフェクトに間違いないと指摘する者も散見される。最近はTikTokで、有名人の顔になれるエフェクトが大流行しているとあって、この発信者もそれに乗っかっただけかもしれません。もしそうであれば、一言、二宮さんのエフェクトを使用していると説明したほうがよかったのでは……。ネット上には、二宮さんのそっくりさんがいたと大喜びしている人も少なからずいるようなので」(前・同)
引用元:www.jprime.jp(引用元へはこちらから)

動画にディープフェイクの特徴が

はたして動画はディープフェイクなのか?!

ディープフェイクを見分ける方法のひとつが目の中の光!
以下は、本物の人の顔(左)と敵対的生成ネットワーク(GAN)により生成された架空の人物の顔(右)を並べたもの。一見しただけでは両方とも本物の顔写真にしか見えませんが、瞳を拡大した下の図をよく見ると、角膜に反射した光の形が本物では左右でほぼ同じなのに対して、ディープフェイクでは左右バラバラになっています。
引用元:gigazine.net(引用元へはこちらから)

スポンサーリンク

スポンサーリンク

両目は同じものを見ているため、本物の顔は左右の目の映り込みも一致するのが普通です。しかし、多くの場合GANはこの類似性を正確に再現することができません。そのため、目の位置をマッピングするとともに、両目に映り込んだ光を分析することで、顔写真が本物かディープフェイクかを高精度で見分けることが可能だと研究者らは説明しています。
引用元:gigazine.net(引用元へはこちらから)
出典:johnnys.jocee.jp
二宮和也そっくりさんの目も、目の中の光が左右で全然違います。
光のある位置が、左側の目は真ん中あたり、右側の目は左端です。

またこのテニスサークルOBのインスタアカウントには他にもそっくりさんの動画がありました。
出典:johnnys.jocee.jp
サーブを打つところの動画
出典:johnnys.jocee.jp
顔を上げたときに鼻がつぶれています

やはり生成AIで作られたディープフェイクの可能性が高そうです。

二宮和也さん本人になりすましたものではないし、ネタ的に軽い気持ちで作ったのかもしれませんが、無断でしかもディープフェイクと説明することなく動画をアップするのはどうかと思いますね。

ディープフェイク動画②大野智

大野智さんは2021年に3本のプライベート動画が流出したとされましたが、それらがディープフェイクであることがわかっています。

スポンサーリンク

スポンサーリンク

船の上で女性と会話する動画

出典:johnnys.jocee.jp
目の周辺が黒い長方形で隠されてましたが、動画をコマ送りにすると目隠しが外れる瞬間が2箇所ありました。
目の形・位置がおかしく、大野智さんの顔とは異なります。

これは明らかにディープフェイクです。
わざわざ手間をかけて顔の上半分を隠したのも、顔が全部見えるとすぐにフェイクとわかるシロモノだからでしょう。
引用元:real-fake.hatenablog.com(引用元へはこちらから)
また動画は最初 顔が隠されてないものがアップされるもすぐに削除され、のちに目隠しが追加された動画がアップされたとのこと。
顔が見える動画を保存していた人がYouTubeにアップしていましたが、変な顔がたくさんあったんです。
出典:johnnys.jocee.jp
・目の位置が高くて鼻と離れすぎている(左上)
・顔のパーツが中央に寄りすぎ(右上)
・大野智さんに見えない(下2つ)

ディープフェイクだとわからなくするために目隠しを追加したことが裏付けられました。

男女3人の食事会の動画

たった12秒の短い動画でしたが、こちらも3人とも黒い長方形で目隠しが追加されてました。

スポンサーリンク

スポンサーリンク

出典:johnnys.jocee.jp
・口を開けたときにアゴが変形し とんがる
出典:johnnys.jocee.jp
・コマ送りにすると目隠しがはずれるところがいくつかあったが、目がつぶれて形がおかしなものや判別できないものばかり

やはりフェイクだとバレないように目隠しを追加したようですね。

チワワを持つ動画

出典:johnnys.jocee.jp
こちらの動画は顔が隠されていませんが、顔が映っているのはたった3秒間でした
出典:johnnys.jocee.jp
・生気のない目や顔のパーツのバランスに違和感がある

・耳の見え方が違う

・動画は首が細い(三角形のように首の上が細くなっている)

・Tシャツの絵柄にピントが合っている瞬間でも顔はブレてぼやけている


この動画では手もはっきり映ってましたが、ディープフェイクは顔だけでなく体も別人に変えることが可能で、手にもフェイクの証拠があったんです。
「ディープフェイク」というと顔を変えるものが有名ですが、全身どこでも変えることができ、手を大野智さんのものに変えることも可能です。

(Youtubeでディープフェイクを検索すると、女性の腕が筋肉質な男性の腕に変わったり白いTシャツがグレーのパーカーなどに変わる動画がありました)
引用元:real-fake.hatenablog.com(引用元へはこちらから)
出典:johnnys.jocee.jp
・血管が複雑に絡み合う赤丸の部分:上のチワワ動画だと手首(黄色い線)のすぐ近くだが、下の実際の大野智さんだともっと手の甲の内側にある


形は似てるのに位置が違うというのは、画像データから映像を置き換えるディープフェイクゆえの現象とのこと。
出典:johnnys.jocee.jp
・2つの影が重なり人差し指と中指は影が濃いのに、親指の影が薄いままなのはおかしい
・実際に同じ状況を再現すると、やはり親指も濃い影になる
出典:johnnys.jocee.jp
・小指だけ肌の色が白い

・下の画像:小指の付け根の位置がズレていて、ブレや影を考慮してもさすがにおかしい

→小指だけ元の男性の指が見えている

このように流出した動画からはすべてディープフェイクの証拠が見つかりました。

フェイク動画を拡散させたユーチューバーは営利目的だった?

スポンサーリンク

スポンサーリンク

これらの動画はあるユーチューバーによって拡散されたものでした。
・2021年7月 だっすーチャンネルのYouTube生配信で 船や食事会の動画を流す
・2021年11月 ユーチューバー折原が「大野智また流出」とTikTokでチワワを持つ動画を流す

彼らユーチューバーは怪しい!という情報ががるちゃんにありました。
出典:johnnys.jocee.jp
フェイク動画を作ったのがユーチューバー自身かはわかりませんが、拡散したのは悪質な営利目的だった可能性が高そうですね。

またこれらのフェイク動画が作られたきっかけは、2020年11月週刊文春から出た大野智さんとシングルマザーの一般女性との熱愛記事でしたが、記事掲載写真はすぐに多くのファンから合成が指摘されていました。
出典:johnnys.jocee.jp
・大野くんの文春写真、かなり荒い合成っぽいけど…。シングルマザーの腕が変なとこで消えてるのは笑った
・大野智くんの文春砲、どこをどう見ても合成な気がする…しかもかなり雑
・あの写真大野さんじゃないよ。智くんもっと鼻とんがるくらい高いじゃん(なぜ団子鼻なんだ)耳の形も全然違う
・それにしてもあの「合成写真」のお粗末さね。大野智の脹脛はあんななまっちょろい脚ではございません
・件の写真、明らかに合成の痕跡あり。大野智はあんなに顔デカくない。後ろ姿はどう見ても別人(体型が全然違う)別人を使ってインパクトのある写真を撮り、顔を合成したよね
・智くんへの文春砲が噂通り合成すぎて笑った
大野智さんの過去の雑誌などの写真を使って、別人の体に大野智さんの顔や手足などパーツを合成したものだったとのこと。
文春が素人の作った合成写真を記事にすることは他にもあったようですね。
2023年1月には、文春がK―POPアイドルの熱愛を報じるもすぐにそれが合成写真による誤報だと判明する騒動がありました。

記事前日に文春が「世界的人気K―POPアイドルの〝熱愛写真〟入手」と予告しましたが、記事が出てみるとその写真は韓国のファンがインスタグラムにアップしていた合成写真だったんです。

文春が裏付けや取材もしないまま素人が作った合成写真を記事にする媒体だと証明されることとなりました。
引用元:real-fake.hatenablog.com(引用元へはこちらから)
ユーチューバーが拡散したのはフェイク動画の他に画像もありましたが、そちらも合成の証拠が見つかっています。
出典:johnnys.jocee.jp
・手首に不自然な直線

・腕に複数の色の境目

・ヒジがへこんでいる

・人差し指だけ赤味が強い
出典:johnnys.jocee.jp
・足首が細すぎる
・右の赤線:不自然な線がある

・おそらく赤線から上だけ大野智さんの脚を合成したと思うが、合成や影が描き加えられたせいでかなりおかしな形の脚になっている
出典:johnnys.jocee.jp
・右で赤線を引いたところに影とは違う不自然な線

スポンサーリンク

スポンサーリンク

流出画像は顔が小さかったり顔の一部が隠されたものばかりなので、こちらも過去の雑誌やテレビなど誰でも入手可能な画像を使って合成しても特定はできないでしょう。無関係な第三者でも作れるような合成画像なんです。
引用元:real-fake.hatenablog.com(引用元へはこちらから)
ただ流出画像やフェイク動画の女性は文春写真の女性とは別人で、記事のシングルマザー(芹澤レイラ)は関わっていないようだとのこと。
出典:johnnys.jocee.jp
流出画像と文春写真では足首のタトゥーが違う!
出典:johnnys.jocee.jp
ユーチューバー折原がボカシ加工のない文春写真を流出させたが、動画は顔がぜんぜん違う!
流出画像はすべて女性の顔が隠されていたので、別人の女性を記事のシングルマザーだと思わせるためタトゥーを描き加えたんでしょう。

大野智さんのフェイク動画でも、船とチワワの動画は女性は声と指先だけでした。

食事会の動画も、実は女性も目隠しがはずれる瞬間があり、芹澤レイラとは似ていなかったんです。

一般人のためかなりボカしましたが、それでも別人とわかるくらい顔が違います。

ユーチューバー折原と芹澤レイラは2021年4月に決裂しましたが、4月以降に出された大野智さんの合成画像やフェイク動画にレイラは関わっていなかったようです。
「レイラからもらった」というのも嘘だったことになります。
レイラから追加のネタをもらえなかった折原が自分で作ったか、他のユーチューバー仲間や名前の出てない第三者が作ったのかもしれません。
ボカシ加工のない文春の合成写真は折原には用意できないので、芹澤レイラが「文春の女性は自分」と証明するために折原に渡したんだと思います。
そうやって信じさせたかったのにその後に出された大野智さん関連のものはレイラじゃないとなると、本当に他に渡せるものが何もなかったんでしょう。
たとえ一緒に写ってなくても大野智さんのプライベート写真を持ってるだけで特別感が出たはずですが、それもないということはレイラは大野智さんの写真自体1枚も持っていなかったと考えられます。
芹澤レイラ(シングルマザーA子)は大野智さんとほぼ無関係だったと言えます。
引用元:real-fake.hatenablog.com(引用元へはこちらから)
次のリンク先記事ではすべての文春写真と流出画像について合成の説明がされていました。

STARTO社はディープフェイクに適切な対応を

STARTO ENTERTAINMENTがサイトポリシーに「AIに学習させて利用することの禁止」を記載しても、AI技術はどんどん発達しフェイク動画も作られてしまいます。
重要なのは悪質なディープフェイク被害が起きたときに法的措置などしっかり対応できるかどうかでしょう。
大野智さんのディープフェイク動画も、ジャニーズ事務所は肖像権侵害を訴えるべきだったと思います。
STARTO ENTERTAINMENTに変わり、トラブルに関する対処も変わっていくのでしょうか。

また嵐に関しては、2024年4月に「株式会社 嵐」を設立、二宮和也さんは個人ではすでに独立し、松本潤さんも5月30日で独立しました。
今後は「株式会社 嵐」やメンバーの個人事務所が直接対処することもできるかもしれません。

どこが対処することになるにせよ、ますます広まるディープフェイクへの対策は急務です。

スポンサーリンク

スポンサーリンク

まとめ作者