前回は，アルゴリズムの優秀性について見た。人の合理性や一貫性を欠く判断に比べて，アルゴリズムは，さまざまな領域で人よりも正しい判断をすることが多い。そうすると，アルゴリズムに対して人は全面的な信頼を寄せ，その判断に喜んで従うと考えたくなるが，人のアルゴリズムに対する態度はそんな単純なものではない。今回は，人がアルゴリズムよりも人の判断を好む場合があることについて取り上げよう。
アルゴリズム回避
どんなときにアルゴリズムは嫌われるのだろうか？
一つの答えが，ディエットヴォルストらが行なった実験から得られる。彼らは，アルゴリズムがちょっとした間違いを犯すだけで，人々のアルゴリズムに対する信頼は大きく損なわれることを明らかにした。
かれらが行なった実験を見てみよう。実験は2つのラウンドに分かれている。第1ラウンドでは，参加者は，過去のMBA学生の入学時の実際のデータから，その学生が入学後・卒業後に成功したかどうか（成功は，成績，仲間の評価，就職先，就職2年後の地位と給与で測る）を予測するよう求められた。データは8種類あり，学部の成績，GMAT（大学院レベルでの経営学を学ぶための能力を測る試験）の得点，小論文の評価，面接結果，職歴などである。
参加者は，入学者の成功度合いを予測するアルゴリズムは，過去の学生のデータに基づいて作成されたことを知らされた。次に参加者は，15人の応募者についての予測を行なうのであるが，彼らは条件により4つのグループに分けられた。第1グループは，アルゴリズムの予測の精度を知らされ（アルゴリズム条件），第2グループは自分自身の予測の精度（人間条件），第3グループは両方（両方条件）を知らされ，第4グループはどれも知らされない（コントロール条件）グループである。参加者は1人の予測をするたびに，第1グループでは，アルゴリズムの予測と実際の成功度合いが知らされる。第2グループでは自分の予測と実際の成功度合いが知らされる。第3グループは両方である。
実験の第2ラウンドとして，参加者は，予測値と実際の値との誤差が5％以下であれば賞金を獲得することができた。参加者は，賞金を賭ける予測値が，自分が見積もったものあるいはアルゴリズムが見積もったもののどちらかを選ぶことができた。
一連の実験の結果は，予想どおりアルゴリズムの方が人の予測よりはるかに正確な予測を行なった（人の予測はアルゴリズムより19～29％劣った）。したがって，賞金を賭けるときに，自分の予測ではなくアルゴリズムの予測を採用していれば賞金は大きくなったはずである。
面白いことに，参加者は第1ラウンドでたとえアルゴリズムの方がより正確な予測を行なっているのを知っているとしても，アルゴリズムが間違いをすることを知ると，第2ラウンドで人間の予測の方に賭けたのであった。
何の判断かによって信頼感は異なる
カステロらの研究（2019）によると，アルゴリズムに対する信頼感は，より客観的な課題では，そうではない（より主観的な）課題よりも，大きいことがわかった。客観的な課題とは，前述の成績の推定のように，測定可能で数値化できる課題のことであり，一方主観的な課題とは，解釈の余地が広くて，個人的な意見や直感に依存するような課題のことである。カステロらは，個人的な好みに対する意見や「おすすめ」は，アルゴリズムによるものよりも，親しい友人や家族から得られた方がより信頼感が大きいことを明らかにした。
なぜアルゴリズムは嫌われるのだろうか
人が，天然・自然のものを好み，それを売り物にした商品を選んだり，遺伝子組み替え食品などに対しては嫌悪を示すことはよく知られている。それと同様に，アルゴリズムに対しては不自然なものとして嫌うことがある。「私たちはいつだって心情的に人間の味方なのだ。人間に関わる決定を下すアルゴリズムに嫌悪感を抱くのは，多くの人が人工物や合成物よりも自然のものを好むからでもある」。ダニエル・カーネマンは著書『ファスト＆スロー』の中で（上巻p.398）このように述べている。
前回述べたように，ミールが1950年代にアルゴリズムの方が優れていることを示したときに，専門家はそれを拒否した。簡単な数式で表わされるアルゴリズムが，優れた経験や洞察を持つ専門家より優れているはずがないというのが，当時の反応であり，そのこたが原因で，人々はアルゴリズムを嫌い，そのアドバイスを信頼しないという考えに結びついたと主張する研究者もいる（ログ他）。
また，専門家は自分の専門性や専門知識に絶大な自信をもっており，専門家の「スキルの錯覚」と呼ばれることもある。人間は統計が苦手であって，直感の方が優れているという錯覚をもってしまうとよく言われる。統計データよりも，自分の経験や印象から自信を得た場合には，自身の判断にはるかに大きな影響を及ぼす。特に自分が長い間取り組んできて，それなりの成果を上げた領域に関しては，大きな自信を持っているのが普通だ。そこで，アルゴリズムの方が優れていると言われても，にわかには受け入れがたい。これがアルゴリズム回避の一因である。
アルゴリズム回避を軽減するためには
ディエットヴォルストらによる別の論文（2018）では，アルゴリズムの出した結論に，少しでも自分で修正を加えることができれば，アルゴリズムに対する信頼は上昇することが明らかにされた。
彼らが行なった実験では，参加者はいくつかの情報に基づき，高校生の成績を推測する課題が与えられ，その正確さに応じて賞金が得られた。同じ情報に基づいてアルゴリズムも推測をしたが，それは正確さに欠け，実際より平均して17.5点ずれており，そのことは参加者に知らされていた。コントロール条件の参加者は，自分自身の推測またはアルゴリズムの推測のどちらかを採用することができた。一方，調整条件の参加者は，自分の推測またはアルゴリズムの推測を採用することができたが，アルゴリズムの推測を自分の考えで調整することができた。調整条件のグループは3つに分けられ，第１グループは，アルゴリズムの推測値を10点の幅で調整できた。第2グループは5点の幅で，第3グループは2点の幅でそれぞれ調整できた。その結果，調整幅の大きさに関わらず，たとえ少しでも調整が可能なグループは，アルゴリズムの推測値を多く採用することがわかった。
AIの進展とアルゴリズム忌避
これからの社会は，ますますAIに依存するようになるだろう。それにもかかわらず，AIが用いているようなアルゴリズムに対する信頼は単純に増えるわけではない。
AIが使っているアルゴリズムに対して，顧客，取引相手さらには従業員まで忌避感をもっているとしたら，ビジネスのみならず社会にとっても大きな損失であろう。そういった事態を避けるためにもなぜ人はアルゴリズムに対して好感を抱けないのか，またそれを避けるためにどのような方策があるのかを考えることは，これからのビジネスや社会にとって重要であろう。
参考文献
Castelo,Noah, Maarten W. Bos and Donald R. Lehmann, 2019, Task-Dependent Algorithm Aversion, Journal of Marketing Research, vol. 56, no.5, pp.809-825.
Dietvorst, Berkeley J., Joseph P. Simmons and Cade Massey, 2014, Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err, Journal of Experimental Psychology: General, vol.144, pp.114-126.
Dietvorst, Berkeley J., Joseph P. Simmons and Cade Massey, 2018, Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them, Management Science, vol.64, pp.1155-1170.
カーネマン，ダニエル『ファスト＆スロー』早川書房
Logg, Jennifer M., Julia A. Minson and Don A. Moore, October 26, 2018, Do People Trust Algorithms More Than Companies Realize?, Harvard Business Review Home
カーネマン，ダニエル（村井章子訳），2012，『ファスト＆スロー』早川書房
