ハルシネーション中級

なぜ大事?

AIは間違えるときほど、堂々とした文章を書きます。迷いや言いよどみが出ないので、読む側から見て「これは怪しい」という手がかりがありません。存在しない本や、実在しない条文が、平気な顔で出てきます。

やさしい解説

AIは、意味を分かって答えているのではなく、次に来そうな言葉をつないでいます。うろ覚えのまま話し続ける人と似ていて、思い出せない部分を、それらしい言葉で埋めてしまいます。

とくに危ないのは、あなたが答えを知らない話題です。知っている話題なら間違いに気づけますが、知らない話題では気づけません。値段、法律、日付、人の名前は、必ず自分で確かめてください。

「ハルシネーション」は幻覚という意味の英語です。機械の不具合ではなく、いまの仕組みでは避けきれない性質として研究者も呼び分けています。減らす工夫は進んでいますが、ゼロにはなっていません。

例文

• 「AIが教えてくれた本、図書館になかったよ」「ハルシネーションかもね。題名ごと作っちゃうことがあるんだ」
• 「自信ありげに書いてあったのに」「自信の強さと正しさは関係ないの。数字と名前は自分で確かめよう」