スポンサーリンク

1クリックで女性の写真を「裸」=ヌードに変換するアプリ「DeepNude」が批判を浴びて5日で削除

海外

女性の写真を1クリックするだけで、ヌード写真に変換できるというアプリが6月23日に公開され大きな話題になった。しかし、多くの批判を浴びて5日後に27日にはWebサイトごと削除された。

その名も「DeepNude」。文字通りの機能を持ったアプリなのである。

2017年末から2018年にかけてAIを用いて有名女優のポルノ映像を作成するという「フェイクポルノ」が大流行しました。これと同じようにAIやニューラルネットワークを用いることで、女性の写真から服だけを削除して裸にしてしまうというものだ。

スポンサーリンク

エストニアに拠点を置くDeepInstructionという企業が公開したWindowsおよびLinux向けのアプリである

既に削除されている同社のWebサイトのキャッシュによると、同社が目指しているのはAIによる画像処理サービスを手ごろな価格で提供することとしている。またDeepNudeを配布する前に、モノクロの写真を1クリックでカラーにする「DeepOld」というサービスを提供していた。

使ったデータセットはわずか「1万枚以上の女性のヌード写真」

このアプリについて最初に報じた米Motherboardによると、アプリは簡単にダウンロード、インストールできた。

お試し版は変換(脱衣)結果の大部分がぼかされて見えないが、50ドル支払うとこのぼかしが消える。画像の左上に赤い文字で「フェイク」と表示されるが、簡単に消せるものだったという。

Motherboardは、変換結果はそれほど精度の高いものではないが、どんな写真にも使えるため、リベンジポルノや嫌がらせに悪用される可能性があると指摘していた。

開発者は偽名でMotherboardからのメールインタビューに答え、このアプリはカリフォルニア大学が2017年にオープンソースで公開した「pix2pix」というGAN(敵対的生成ネットワーク)採用のディープラーニングアルゴリズムを使って開発したと説明した。使ったデータセットはわずか「1万枚以上の女性のヌード写真」。

アルベルトと名乗る開発者はMotherboardのインタビューの時点では、このアプリが物議を醸すとは思っていなかったようで、「今はレンダリングに時間がかかっているが、将来的にはもっと高速になる」と語っていた。

DeepNudeの開発者は告知文の最後を「世界はまだDeepNudeを受け入れる準備ができていない」と締めくくった。

DeepNudeのTwitterアカウントはアプリ公開の3日後、サーバーへのアクセス過多でダウンしたとツイート。27日にはWebサイトをオフラインにしたとツイートした。その理由を「われわれは小さなチームで、これほどのアクセスに対応できない」としていた。

アルベルトと名乗る開発者はMotherboardのインタビューの時点では、このアプリが物議を醸すとは思っていなかったようで、「今はレンダリングに時間がかかっているが、将来的にはもっと高速になる」と語っていた。

だがその数時間後、DeepNudeの終了をTwitterで告知した。

「このプロジェクトはユーザーに楽しんでもらおうと思って立ち上げたものです。(中略)正直なところ、これほどの反響があるとは思っていませんでした」という。

「もし50万人がこのアプリを使えば、悪用する人が出てくる可能性は高い」と認め、今後は同種のアプリを提供しないし、このアプリの使用を認めないとしている。DeepNudeをダウンロードして50ドル支払ったがまだ正式版にアップグレードしていないユーザーに対しては払い戻しをするという。

 

リベンジポルノや嫌がらせに悪用される可能性

だが、たとえアプリの提供を終了しても、既にダウンロードされたアプリのコピーは出回る可能性が残る。

リベンジポルノ活動団体であるBadassのカテリン・ボーデンCEOは、「これはとても恐ろしいことです。裸の写真を撮ったことがなくても、誰でもリベンジポルノの犠牲者になる可能性があります。このような技術は一般向けに公開されるべきではありません」と語っています。

メリーランド大学のロースクールに勤めるダニエレ・シトロン教授は、「(DeepFakeやDeepNudeのような技術は)性的プライバシーの侵害です」と語っています。加えて、「本物の陰部が写っているわけではありません。しかし、他の人たちは(DeepNudeが作った裸の写真を見て)あなたが裸になったのだと思うでしょう。DeepFakeの被害者たちは私に『何千人もの人々が自分の裸を見て、自分の体はもはや自分のものではないかのように感じた』と語りました」と述べています。

 

同様のアプリは必ず出るという前提で、今後の準備が必要である

同じようなアプリは、オープンソースで公開されているツールを使えば比較的簡単に作れそうだ。今後も、ツールが社会に与える影響について考慮せずに、知的好奇心やちょっとしたいたずら心で似たようなアプリを開発する人が出てくるだろう。

そうしたアプリの提供を禁じる法律は今のところない。近々、偽のヌード写真やフェイクポルノがネット上にあふれることになるのかもしれない。そうした事態にどういう対応が可能なのか、各方面で早急に準備する必要がありそうだ。

参考・出典:https://news.livedoor.com/

タイトルとURLをコピーしました