バイアス初級

なぜ大事?

AIは人が作ったものを見て育つので、人の偏りをそのまま受け継ぎます。 採用や融資、病気の見立てにAIが使われはじめたいま、その偏りが「自分には不利な判断」になって返ってくることがあります。

やさしい解説

もとは「斜め」を意味する言葉で、布を斜めに切る「バイアステープ」と同じ語です。まっすぐのつもりが、少し斜めになっている。本人はまっすぐだと思っているのが厄介なところです。

AIのバイアスは、ほとんどが見せた例から来ます。過去10年の採用データで「合格した人」を覚えさせれば、その10年に多かった性別や学歴を「合格の条件」だと学びます。AIが差別を思いついたのではなく、過去の判断をそのまま真似しただけです。だから、正しく作っても偏ります。

人にもバイアスはあります。最初に見た数字に引きずられる、自分の考えに合う話ばかり信じる。AIリテラシーで大事なのは、AIの偏りと自分の偏りの両方を疑うことです。「なぜその答えになった?」と一度聞き返すだけで、かなり防げます。

例文

• 「AIが選んだんだから公平でしょ?」「バイアスがあるんだよ。過去のデータの偏りを、そのまま覚えてるだけなんだ」
• 「私は偏ってないと思う」「そう思ってるのがバイアスの怖いところなんだよね。自分にも掛かってる前提で見るといいよ」