AIは、なぜ差別を生むのか？

AIがひき起こす間違いには、笑いを誘う程度のものもあれば、個人や社会、あるいはブランドに大きなダメージを与えるようなものもある。それでも、リスクよりメリットの方がはるかに大きいという考えが大勢を占めている。しかし筆者は、間違いが許容できる範囲のものか、修正するには本当にコストが高すぎるのかを検討もせず、リスクを軽視する現状には異議を唱えたい。システムに不具合があって、商用利用すべきではないとわかったときには、勇気を持ってそのことを指摘すべきだ。

では、なぜこのような間違いが起こるのか、なぜ往々にして間違いの修正が難しいと判断されるのか考えてみよう。

AIと総称されるアルゴリズムは、ごく簡単に言えば、過去のデータを数学的に解析して結果を導き出す処理のことだ。したがって、AIは私たちが入力するデータに依存している。しかし、過去のデータは膨大で整理されておらず、性差別や人種差別などを含む不適切な情報で溢れている。つまり、偏見に満ちているのだ。こうした状態は、そもそも私たちの社会自体がインクルーシブではない現状を反映しているとも言える。しかもAIの数学は複雑で扱いにくい。

過去を変えることはできないが、過去に囚われることなく、今下した決定やその結果が、どの程度インクルーシブであるかを判断することはできるはずだ。

AIから性差別をなくすには、まず、これから挙げるような行為を止める必要がある。

1、画像で女性をモノ扱いするのをやめよう。

最新の問題の1つは画像データベースに関するものだ。画像のラベル付けやデータセットの構成を原因としたこの手の問題は、人物の画像を生成するAIでよく見られる。たとえば、男性の上半身の画像をAIに入力すると、スーツとネクタイが追加されるのに対し、女性の米下院議員アレクサンドリア・オカシオ・コルテス氏の上半身画像を入力すると、ビキニを着た画像が生成されるといった具合だ。こうしたアルゴリズムは、ビデオを用いた採用応募者の評価など、さまざまな用途に使われている。また、マーケティングや広告などにも広く活用されている。

2、性差別的で人を蔑むようなステレオタイプをなくそう。

医師を検索するとたいてい男性が表示され、看護師を検索すると女性が表示される。校長なら男性、教師なら女性だ。また、女性はバラエティが乏しいらしい。よく使われる形容詞の上位200語のうち、76％が男性を表現するために使われていたという調査結果もある。女性はみな同じようなものだというわけだ。しかし、検索結果などのネットの世界での女性の扱われ方は社会に影響を与え、少年少女が世界をどう認識するかにも影響を及ぼす。そしてその結果、このサイクルが繰り返されることになる。

 3、女性も製品のユーザーであることを忘れてはならない。

AIは車載システムから家電製品、さらには玩具にまで利用が広がっている。しかし、音声認識技術は今でも女性の声を認識するのが苦手だ。私たち女性は、製品のユーザーとみなされていないようだ。テクノロジーの世界に女性が少ないことを考えると、この状況を是正するのはますます困難になる可能性が高い。

最後に、「男性」を標準とみなす傾向を積極的に変えていこう。

金融機関は顧客に融資する際、膨大なデータを利用して融資の種類や金利を決定する。住宅ローンや保険を申し込んだり、口座を開設したりするときに、夫婦のどちらが家計の主な担い手であろうと、申込書の氏名欄が、夫の方が妻より上に設けられていることに気づいた経験はないだろうか。たとえ申込書に性別の区別がなくても、融資のシステムは男性が主な働き手だという昔ながらの（そして今も続く）想定に基づいて作られていることが多いためだろう。この状況はAIによって増幅され、女性が得られる融資の金額、信用スコア、融資の選択肢はますます少なくなっている。

前進するためには、このような問題に十分注意を払う必要がある。

ネットの世界では、女性に対する偏見を含んだ表現がいくらでも見つかるが、アルゴリズム自体が女性に偏見を持っているわけではない。数学にジェンダー問題などないのだ。また、アルゴリズムを利用している人が故意に女性を差別しているわけでもないと思いたい。しかし、アルゴリズムの利用の仕方が問題を生み出す可能性については、常に頭に入れておくことが肝要だ。

データセットやアルゴリズムのシステムを設計するにあたっては、性別、人種、収入などが異なる、社会のあらゆる集団を考慮し、尊重するよう努める必要がある。さらに重要なことは、差別的な結果を考慮することなく取り組みを続けている企業に対して、業界の誰もがもっと大きな声を上げられるはずだということだ。勇気を持って異議を唱えることから、変化は始まるのだ。

レイラ・セイス・ハッサン（Leila Seith Hassan）氏は、ディジタスUK（Digitas UK）でデータサイエンスとアナリティクスの責任者を務める。