Googleはゴリラ画像を検索結果からブロックしている[GIGAZINE]

When It Comes to Gorillas, Google Photos Remains Blind | WIRED
https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind/

Google's solution to accidental algorithmic racism: ban gorillas | Technology | The Guardian
https://www.theguardian.com/technology/2018/jan/12/google-racism-ban-gorilla-black-people

Googleのフォトアプリ「Google Photos」がJacky Alcineさんとその友人に「ゴリラ」というラベル付けをしたという事件が起こったのは2015年7月のこと。Googleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんはこの件についてAlcineさんに謝罪し、許可を得てAlcineさんのアカウントにアクセスすることで、すぐにバグは修正されました。

画像認識アルゴリズムはまだ発展途中であり、Zungerさんによると「マシン自体にはバイアスはないが、彼らは私たちが注意しないと、簡単に人種差別を学んでしまう」とコメントしました。

事件から2年経過し、画像認識技術も進歩したということで、ニュースメディアのWiredはGoogleの画像認識性能がどれほどアップしたのかをGoogle Photosを使って調査。さまざまな動物の写真4万枚をGoogle Photosをに保存し、パンダやプードルといった動物の種類で検索したところ、「ゴリラ」「チンプ」「チンパンジー」「サル」といった単語には「No results」という検索結果が示されたとのこと。一方、ヒヒ、テナガザル、マーモセット、オランウータンについては検索ができたそうです。

Googleの広報によると、2015年の事件以降、「ゴリラ」という単語は検索や画像タグにおいて検閲対象になっているのだとのこと。また同様に、チンパンジーやサルについてもブロックされているそうです。「画像のラベリング技術はまだ初期の段階にあり、残念なことに完璧とはほど遠いものです」とGoogle広報は説明しています。