知能爆発特級

なぜ大事?

「まだ人より下だから安心」が通じなくなる分かれ目を指しています。人と同じ水準に届いた瞬間が終点ではなく、そこが始まりだ、という見かたです。AIの安全が急がれる理由は、突きつめるとここにあります。

やさしい解説

いまAIを賢くしているのは人です。研究者が工夫し、試し、直す。だから進む速さは、人の数と時間で決まります。

ではAI自身が、その研究をできるようになったら。 賢くなったAIが、さらに賢いAIを設計する。できたAIはもっと速く設計する。この輪が回り始めると、進みかたが人の手を離れます。賢さが賢さを生むので、坂ではなく崖のような伸びかたになる、というわけです。

1965年に、アーヴィング・J・グッドという数学者がこの筋書きを述べています。AIがまだ何もできなかった時代の話で、当時は思考実験でした。

反対の見かたもあります。賢さがあっても、実験をするには現実の時間がかかる。電力にも材料にも限りがある。頭の中だけで世界は進まない、という指摘です。

起きるとしても、いつ、どれくらいの速さかは分かっていません。ただ起きたときに間に合わせるには、起きる前に備えるしかないという点で、多くの研究者の意見は一致しています。

例文

• 「AIが人を超えたらどうなるの?」「そこからが速いという見かたがあるよ。知能爆発っていうんだ」
• 「本当に起きるの?」「分からない。ただ起きてから備えるのでは間に合わない、とは言われているね」