アンソロピック初級

なぜ大事?

いまのAIは、賢さだけでなく「暴走しないこと」も同じくらい大事だと考えられています。この会社は、そこを正面から掲げて作られました。AIをどう安全にするかという話をするとき、必ず名前が出てきます。

やさしい解説

2021年に、OpenAIで研究をしていた人たちが独立して作りました。安全性についての考え方の違いが、独立のきっかけだったと言われています。

特徴的なのは、AIに守らせたい原則を文章で書いておき、それに沿って自分の答えを見直させる、という育てかたをしていることです。人が一つひとつ叱って直すのではなく、憲法のような文書を先に渡す形です。

日本語の書きかたが定まっていない名前で、「アンソロピック」のほか「アンスロピック」とも書かれます。新聞では「アンソロピック」がよく使われます。

例文

• 「Claudeってどこの?」「アンソロピックっていう会社。OpenAIから独立した人たちが作ったんだ」
• 「安全なAIを作るのが目標なんだって」「賢いだけじゃ困る、ってことだよね」