2019年 11月 29日
11月29日(金):健全なデジタルテクノロジーの活用に向けて |
先日の日経新聞には「『五つ星』ずらりそれ本物? 通販サイト「偽レビュー」横行」と題した記事がありました。
同記事内で触れていたのはECサイトにおけるユーザーの評価について、偽レビューが横行している状況と、その手口などについてです。
ECのプラットフォームで商品を販売する出品者と、偽レビューを書き込む人間を仲介するブローカーの存在などです。
具体的には1レビューに対する単価設定があって請け負っている状況や、書き込む側に対しては商品の購入とレビューの書き込みを促し、実際に高評価のレビューが確認できたら商品の購入代金を返金したり、報酬を入金する、といった具合です。
ここは商品を売るために高評価を得たい事業者側と、簡単にレビューを書き込むだけで小遣い稼ぎができるユーザーもどきの間で思惑が一致している面がありますからね。
ちょうど先月にはNHKの「クローズアップ現代」でも、この偽レビューについては特集をしていましたね。
そこでも前述したものと同様に偽レビューを仲介するブローカーの存在を取り上げていましたし、その他では自動でそれらを生成するレビュー工場にも触れていました。
以下が同番組でも放送されたレビュー工場の模様です。
人の手を介さずプログラミングに沿って自動的に販売するための大量の偽レビューを延々と生成し続けています。
その他、偽レビューを書くだけではなく、競合する商品を販売している事業者に対して低評価をつけるなど、より直接的、かつ攻撃的な手口も増えていると言います。
以前にECをメインの仕事にしている方からは、ある事業者から身に覚えのない通報をされ、一時的にプラットフォーム上で商品を販売できなくさせられた、といった話も聞きましたからね。
ECを利用するいちユーザーとして客観的に見ていても、そのレビューには半信半疑なものが数多く含まれているのは明らかで、誰しもが何となくそういった嘘の書き込みがあることは分かっていたとは思います。
そういったECサイト、ネットの世界におけるダークサイドの部分がオープンにされつつあります。
ここで少し話は飛びますが、これまた先般の日経新聞には「架空の顔『AI』が量産」と題した記事がありました。
そこで取り上げていたのはAIの深層学習技術を活かして人の顔画像を生成できる仕組みについてです。
以下はすべて実在しない人の顔画像だそうですが、前述した仕組みを使えば1秒で1人の画像を生成できるのだそうです。
この技術の活用領域としては広告のモデル画像やアニメのキャラクター生成といった部分としています。
アパレルなどでは1枚の洋服に対してモデルを使って何十枚、何百枚と大量の写真撮影をすることもあり、このような複数の顔画像が瞬時に生成できたら、今までそこに要していた撮影などの費用を大幅に圧縮できるとのことでした。
こうした領域に活用されている分には何の問題もないでしょうが、当然ながら技術というのがいつも開発者の思惑通りにのみ使われないことは過去の歴史を見ても明らかです。
例えば先のような偽レビューや自動生成のようなものとそれがヒモ付けば、架空の顔写真付きのコメントなどいくらでも大量生成できてしまいますね。
また、架空の顔画像とチャットボットを組み合わせれば、いかにも当人と対話をしているように錯覚をさせることができるし、出会い系をはじめとした領域では悪用の懸念もあるでしょう。
もちろん私は技術そのものに対して悲観的なわけではありません。
現在でもたくさんのものから恩恵を受けているし、それらを活用もしているからです。
ただ、デジタルテクノロジーの場合はブラックボックス化されている部分が多分にあるし、顔の見えるリアルな世界に比べて悪意や作為的な要素が入り込みやすいのは事実です。
同時に作為的な部分が傍目には分からないぐらい、巧妙にカモフラージュできるようになりつつもあります。
先のような偽レビューにしてもECのプラットフォームなどでも監視は強化しているものの、その対応が追い付いていないというのが現状だと思います。
それだけにデジタルテクノロジーに際しては活用領域に向けた開発だけではなく、負の側面に対する想定やそれに付随するリスクマネジメントもセットにしてリリースしていくことが開発責任になってくるような気はしますね。
健全なデジタル社会、それらとの共存のためにも、開発者やプラットフォーマーが適切にマネジメントをしていく必要性は高まっていると思います。
by biz-365
| 2019-11-29 17:53
|
Comments(0)