天の月

ソフトウェア開発をしていく上での悩み, 考えたこと, 学びを書いてきます

バイアスや偏見をなくす難しさ

毎週火曜日のお昼は分散アジャイルチームが主催している、下記イベントに参加しているのですが、今週読んだ箇所で、いつもに増して面白い学びがあったので、今日はこの学びについて書いてみようと思います。

平日の昼から学びがある楽しい場を作ってくれる、参加者の皆さんには(毎度毎度のことですが)感謝しかないです!

distributed-agile-team.connpass.com

結論から書いておくと、人間は自分自身が意識するよりも早く判断を下すことがあるため、いくらバイアスや偏見を減らそうと努力しても、それは難しいことだし、差別も中々なくらならないという話があり、これがとても面白かったです。
以下、もう少し詳しく書いてみます。

 

まず、印象的だった(面白い)箇所を以下に引用します。

私が不思議に思うのは、相手が自分の意識の中に登録される前にそのような判断*1を下す点だ。一審よりも長く相手の顔を見ても、すでに無意識のうちに形作られた結論を正当化する以上のことにはならない

ステレオタイプから逸脱する点があれば、それがその人の個性を測る尺度となる。有用な情報だとは思わないか?それでも私たちは、自分と同じ社会や民族に属する人についてだけ深く考察する

ここに書いてあるように、人は無意識に自分と異なるグループに属する人に対して拒絶反応を示している*2ようです。
本には衝撃的な例として、潜在連合テスト(IAT)というのも挙げられていて*3、平和主義者や人種差別に反対する人たちも無意識下では黒人への差別をしてしまっているという話もありました。

この話を聞いて、自分はここ最近、自分自身の偏見やバイアスといったものを如何になくすか、というのを考えて実践を試みたりしていたのですが、この道ははてしなく遠い道で、もしかしたらあまり意味がない努力なのかもしれないと感じました。
もちろんバイアスや偏見、ましてや差別をして良いという話にはなりませんが、努力をいくらしても、無意識で判断をする人間の脳の仕組みが変わらない限りは、人間の特徴に抗って相当高いコストを払わないといけないため、努力でどうにかバイアスや偏見を排除しようとするのは、本当に危険なバイアスや偏見に対象を絞った方が良いかもしれない、と思いました。

また、バイアスや偏見を必要以上に悪いものだと感じてしまうと、自分自身が自責の念に苛まれる機会が多くなってしまったり、他者が悪気なく考えていることに対して必要以上に嫌悪感を抱いてしまう可能性もあるので、この点も注意したいです。

最後に、読書会では認知的負荷研究の参考資料をきょんさんに教えてもらったので、リンク貼っておきます。

http://miwalab.cog.human.nagoya-u.ac.jp/database/resume/2016-10-25.pdf

*1:潜在的に脅威とみなすものに対してその場しのぎの反応という形で抵抗を示して、一般化して判断する

*2:そういえばファスト&スローにもシステム1とシステム2という形で、システム1は瞬発力がある分誤った判断をしやすいみたいな話がありました

*3:単語がポジティブがネガティブかを判断する際、黒人の横に「喜び」という単語がある場合は白人の横に「喜び」という単語がある場合よりも判断が遅くなり、「暴力」という単語は逆に黒人の方が反応が速い