「マスター」「スレーブ」は“死語”に技術による偏見への向き合い方 - TechTargetジャパン

　機械学習などの人工知能（AI）技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。

　2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

併せて読みたいお薦め記事

AIのバイアス

説明可能なAIへ

　「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用（はんよう）の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。