（霧山昴）
著者　　キャシー・オニール、　出版　　インターシフト

特権階級の人は対面で評価され、庶民は機械的に評価される。
数学破壊兵器の三大要素は、不透明であること、規模拡大が可能であること、有害であること。
大学ランキングが登場してから、大学の授業料は急騰している。ところが、この大学ランキングは操作できるもの。犠牲になるのは、アメリカ人の大多数を占める低所得層と中流階級の人々。彼らは受験コースやコンサルタントに大金を支払うことができない。内部事情に通じる人間のみが知りえる貴重な情報を得られない。
結果的に、特権階級が優遇される教育システムができあがる。貧困層の学生は厳しい現実を突きつけられ、教育の場から締め出され、貧困に向かう道へと追いやられる。社会を分断する溝は深まるばかりだ。
上昇志向を餌として、貧困層の人々をおびき寄せる大学がある。
大量のデータを高速に処理できるマシンは、徐々に私たちのデータを自力で選別するようになり、私たちの趣味、望み、不安そして欲望を検索するようになる。
広告プログラムは、数週間、数ヶ月もすると、自分が標的とすべき人々のパターンを学習しはじめ、対象者の次の行動を予測するようになる。広告プログラムは、彼らのことを知っているのだ。
有害なフィードバックが生まれるのは、次のようなメカニズムだ。警察が巡回すればするほど、新たなデータが発生し、その場所を重点的に巡回することが正当化される。すると、「犠牲者なき犯罪」で有罪となった大勢の人で刑務所はあふれる。そのほとんどは貧しい地区の住人であり、黒人とヒスパニックが大半を占める。貧しい人々ばかりが職務質問され、逮捕され、刑務所に送られる。
警察は、単に犯罪を撲滅しようとするのではなく、地域住民との信頼関係を築くために努力すべきだ。それこそが「割れ心理論」の本来の指針の一つなのだから、警察官は地域を歩いてまわり人々に話しかけ、その地域に特有の秩序基準が維持されるように力を貸せばいい。ところが、逮捕と安全とを同一視するようなモデルに押し切られると、そのような本来の目的は見失われがちとなる。
コールセンターでもっとも仕事が速く、もっとも効率の良いチームは、もっとも社交的なチームであることが分かった。そのチームのメンバーは、社内ルールを軽んじ、ほかのチームよりも多くおしゃべりをしていた。そこで、全チームにおしゃべりを激励したところ、コールセンターの生産性ははね上がった。
アメリカの10州では、雇用のとき、クレジットスコアをつかうのを禁止させていた。というのは、カードやスマホに頼り切りになっていると、とんだしっぺ返しをくらうことになるからだ。
手塚治虫のアニメにもあるように、ロボットやAIに頼りきっていると、とんでもないことになりうるのは間違いない。これには私もまったく同感です。人間の失敗を前提として世の中が動き、紛争解決のために弁護士が存在するわけです。このような泥臭いドロドロとした感情の対立についてAIが対応できるはずもありません。
（２０１８年７月刊。１８５０円＋税）

• URL
• Tweet