「辱め」という視点で読み解く「個人攻撃マシーン」化した社会

Cathy O’neil『The Shame Machine』

執筆者:植田かもめ2022年4月24日
 

 「責任あるAI」という言葉をご存知だろうか。AI(人工知能)は既に社会の様々な場面で実装されているが、AIが下す判断の多くは人間にとってブラックボックスであり、その根拠を検証できない。結果的に、例えば特定の人種や性別の人間だけが企業の採用評価で低いスコアを受けるといった事態が起こり得る。差別や偏見が、AIのアルゴリズムによって温存され助長されるのだ。「責任あるAI」とはこうした問題を改善し、AIの透明性の向上を目指す概念である。

 こうしたAIの不公正の問題にいち早く警鐘を鳴らしていたのが、データサイエンティストであり数学者であるキャシー・オニールである。前著『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』(インターシフト刊)で彼女は上記の問題を指摘した。オニールは「有害なアルゴリズム」を第三者として監査する機関を設立し、CEO(最高経営責任者)も務めている。

 そんなオニールの最新作が本書『The Shame Machine』だ。扱うテーマは「シェイム」つまり「恥」である。SNSにおけるいわゆる「炎上」をイメージすると分かりやすいかもしれない。本書は、テクノロジーという専門分野を飛び越えて、オニール自身のパーソナルな体験談も交えながら社会や文化を広く論じる一冊だ。ただし、根底にあるテーマは前著と共通している。

記事全文を印刷するには、会員登録が必要になります。