2020年10月21日 14:36 公開

パトリック・クラヘン、BBCニュース

女性10万人以上のフェイク・ヌード画像がソーシャルメディア上の画像から作られ、オンライン上で共有されていることが、オランダのインテリジェンス企業の最新報告書で明らかになった。

インテリジェンス企業「センシティ」の報告書によると、人工知能(AI)技術で服を消した女性の画像が、メッセージアプリ「テレグラム」上で拡散されている。

被害女性の中には「未成年のように見える」人もいたという。

しかし、このサービスを提供する人物は、「娯楽」に過ぎないと主張した。

センシティは「ディープフェイク・ボット」という技術が使われているとしている。

ディープフェイクとは、実際の画像や動画などをもとにコンピューターで生成されたリアルな画像などを指す。有名人のポルノ動画作成などに使われてきた。

しかし、センシティのジョルジオ・パトリーニ最高経営責任者(CEO)は、比較的最近では、一般個人の画像が使用されつつあると指摘した。

「ソーシャルメディアアカウントで画像を公開していれば、誰もが標的になりうる」と、パトリーニ氏は警告した。

テレグラム・ボット

テレグラムのユーザーが、プライベートメッセージ・チャンネルのAIボットに女性の画像を送ると、数分で服が削除されるという。料金はかからない。

BBCが了承を得た上で複数の画像を試したところ、いずれも本物っぽい仕上がりにはならなかった。へその位置がずれているものもあった。

同様のアプリは昨年停止されており、欠陥のあるソフトウェアが出回っているとみられる。

このサービスを管理する「P」という人物は、「そこまで気にしていない。これは暴力を伴わない娯楽だ」と述べた。

「こういう画像で脅迫される人は誰もいない。リアルなクオリティではないので」

また、共有されている画像をチームで監視しており、「未成年者の画像が見つかれば、ユーザーを永久にブロックするようにしている」と述べた。

一方で、画像を他人と共有するかどうかの判断は、最初にその画像をボットを使って作成した人次第だとした。

管理者「P」は、「世界には戦争や病気といった有害なものは数多く存在する」とし、同サービスが及ぼす影響について弁解した。また、すぐに全ての画像を削除すると主張した。

テレグラム側にもコメントを求めたが、返答はない。

「小児性愛的コンテンツ」

センシティは2019年7月から2020年にかけて、10万4852人ほどの女性が標的にされ、フェイク・ヌード画像が共有されていたと発表した。

同社の調査では、一部の画像に未成年と思われる人が含まれていたことが判明。「一部ユーザーが主に小児性愛的なコンテンツを生成して共有するためにボットを使用していることがうかがえる」と指摘した。

また、このボットはロシアのソーシャルメディアサイトVKに多数の広告を掲載しており、ほとんどのユーザーがロシアや旧ソ連構成国の出身者であることが、同プラットフォームの調査で明らかになったという。

しかしVK側は、「当該プラットフォームのそのようなコンテンツあるいはリンクは容認しておらず、それらを広めるコミュニティはブロックしている」とした。

テレグラムは今年初めまで、ロシア国内で正式に禁止されていた

「こういったウェブサイトやアプリの多くは厳密に違法とされてはいないため、隠れてこそこそ運営されているわけではない」と、センシティのパトリーニCEOは述べた。

「本当に取り締まりが行われない限り、事態は悪化の一途をたどることになると心配している」

報告書の著者たちは、テレグラムやVK、関連する法執行機関と全ての調査結果を共有したものの、回答が得られていないとしている。

「Deep Fakes and the Infocalypse」(ディープフェイクとインフォカリプス、情報の終焉)の著者ニナ・シック氏は、ディープフェイクを作る人たちは世界中におり、法的保護がテクノロジーからの「遅れを取り戻そうとしている」と述べた。

「(ディープフェイクを使った)コンテンツが高性能なものになるのは時間の問題だ。ディープフェイクのポルノ動画の数は、6カ月ごとに倍増しているようだ」

「この問題に関しては、我々の法制度は目的にかなっていない。技術の急激な進歩により、社会は想像以上に急変している。我々はこの状況をどう規制すればいいのか判断できずにいる」と、シック氏は述べた。

「フェイクポルノの被害者にとって悲劇的な状況だ。暴行され、屈辱的な気分になり、人生が一変してしまう可能性がある」

昨年7月、米ヴァージニア州はディープフェイクの画像や動画を禁止した。

フェイクヌード画像に関するイギリスの現行法は、「一貫性がなく」、「時代遅れで分かりにくい」と、英大学の教授らの報告書で批判を受けた。

リベンジポルノや盗撮といった問題が拡大する中、「法律には明らかな欠陥が依然として多く残っている」と、英慈善団体「Women's Aid」のルーシー・ハドリー氏は指摘する。

様々な統計が、ディープフェイク画像がいかに広まっているかを示しているものの、現状では具体的な防御策はない。

英政府はイングランドやウェールズにおける、この問題に関する法律の見直しを法務委員会に指示した。調査結果は2021年に公表される予定。

(英語記事 Thousands of women 'stripped naked' using AI