2020年07月25日 14:16 公開

ジェイムズ・クレイトン、北米テクノロジー記者

米オンライン販売大手アマゾンや米テクノロジー大手のグーグル、米通販アプリWish(ウィッシュ)で、ネオナチや白人至上主義者の商品が販売されていることが、BBCのテクノロジー番組「Click(クリック)」の調査で明らかになった。3社はBBCの指摘を受け、こうした商品を自社プラットフォームから取り下げた。

各社のプラットフォームでは、白人至上主義の旗やネオナチの書籍、アメリカの白人至上主義団体「クー・クラックス・クラン」(KKK)の商品などが販売されていた。

アマゾンとウィッシュのアルゴリズムは、他の白人至上主義者の商品も「おすすめ」していた。

3社はBBCに対し、人種差別的な商品の掲載を禁止していると述べた。

反ユダヤ主義と戦うことを目的にしている米名誉毀損防止同盟(ADL)のオレン・シーガル氏は、企業は「アルゴリズムが利用者にどういう商品を勧めているのか、常に把握しておく」必要があり、アルゴリズムには「責任ある行動」を学習させなくてはならないと述べた。

白人至上主義のシンボル

アマゾンで販売されていた商品の中には、ケルト十字があしらわれた白人至上主義者の旗があった。

ADLは、ケルト十字は「最も一般的な白人至上主義者のシンボルの1つ」だと指摘した。

今年6月には、「これはネオナチの旗だ。アマゾンはこういう商品から利益を得るべきではない」という「レビュー」の投稿があった。

しかし別の利用者は、この旗は「パレードで使うのに良い」とし、アマゾンに対して「実現してくれて」ありがとうと書いていた。

「よく購入される商品」と推奨

アマゾンのアルゴリズムは、「よく一緒に購入されている商品」として、別の物議を醸した旗を推奨していた。

いずれのシンボルも、2019年にニュージーランド・クライストチャーチで銃撃犯が51人を殺害した際に身につけていたものだ。

LGBT(性的少数者)を象徴する虹色の旗、レインボー・フラッグに似たものが燃えているデザインの商品も、アマゾンで複数見つかった。

こうした商品は現在、全てアマゾンから取り下げられている。

オンライン小売業者のウィッシュもまた、BBCが連絡した後、KKKがテーマになった商品を取り下げた。

KKKをテーマにしたカートゥーン(漫画)のページでは、ウィッシュは「関連商品」として頭巾やケルト十字などの商品を推奨していた。

過激主義運動の商品も

アメリカの過激主義運動ブーガルーに関連した商品も、アマゾンやグーグル、ウィッシュで見つかった。

ブーガルーはアメリカの極右のリバタリアン民兵組織。同組織と関係があると主張する複数の人物が、これまでにテロ犯罪や、アメリカの州当局者の殺害などで訴追されている。

BBCの指摘を受け、アマゾン、グーグル、ウィッシュはプラットフォームからブーガルー関連のコンテンツを削除した。

グーグルはさらに、グーグル・ブックスやグーグル・プレイ・ストアから人種差別的なコンテンツを削除した。

英シンクタンク「デモス」は、オンライン・アルゴリズムが買い物客を憎悪に満ちたコンテンツに誘導する可能性があるとの懸念を示している。

「アルゴリズムが人をこういう方向に誘導していると察知するには、人間による調査が必要な場合が多い」と、同シンクタンクのジョシュ・スミス氏は述べた。

各社の対応

アマゾンはBBCに対し、「問題の商品は購入できなくなった。こうした商品を提供し、当社の方針に違反した悪意ある当事者に対して、措置を講じている」と回答した。

グーグルはBBCに対し、「衝撃的なコンテンツを表示したり、憎悪を助長したりするような広告や商品の販売を、当社は認めていない。この方針を当社は徹底しており、違反していると判断した場合には対策をとっている」と回答した。

ウィッシュはBBCに対し、「これらの商品を削除しようと懸命に努力している。また、こうした商品が再び出品されないよう、追加措置を講じている」と回答した。

(英語記事 Amazon, Google and Wish remove neo-Nazi products