キャシー・オニール著『あなたを支配し、社会を破壊する、ＡＩ・ビッグデータの罠』久保尚子訳、インターシフト、２０１８

リクルートのリクナビが、登録している学生の、ＨＰの閲覧履歴からＡＩが作成したデータを企業に販売していた件がニュースになっています。その内容は、就職に際して、学生が自分の知らないうちに不利益を被るかもしれないものでした。

この本は、ビッグデータによる様々な処理や、ＡＩが作り出す判定が持つ問題点を１０個の例について詳しく紹介したものです。リクルートの問題も、すでにここに指摘されていた問題事例と極めて類似しています。

例えば、アメリカの大学にランキングが付けられるようになって、各大学は、ランキングを上げるため、それに使われる評価の数字が上がるような部分にだけ集中的に資本を注ぐようになり、大学の質が変わり、学費も大幅に値上げされることになったという話題がありました。

実は、私たち教師が当たり前のように付けている評定（通知表の評価の数字）も、似た問題点を抱えています。私たちは、テストなどから得られる、極めて限られた指標となる数字から生徒の能力を推し量って成績を付けます。

ある主張の根拠が数字で示されると、説得力が大幅に増します。しかし、数字は注意深く取り扱わないと、この著者が紹介しているような問題を引き起こしてしまうのです。

リクナビの問題が大きく取り上げられたのは、こうした問題に注意を喚起するためにはよかったかもしれません。今後も似たような問題が必ず起こるでしょう。

ＡＩは、答を出すのは得意ですが、その答を出した理由については教えてくれません。そもそも理由など考えていないのです。

それに振り回されない世の中であってほしいと切に願います。