「AIは事実確認を間違える」を前提に、僕がやっていること

AIは、平気で事実を間違える。しかも、一見もっともらしい顔をして間違える。この夏、僕はそれを立て続けに経験した。今回は、実際に何を間違えられ、どう対処するようになったかを書く。

01きっかけは、ひとつの医療ニュースだった

8月23日、X用の投稿を作る作業でAIに調べ物を頼んだ。テーマはアミロイドPET検査の保険適用についてだった。AIが最初に出してきた説明には、「対象は抗アミロイド薬治療の適応判定に限る」という条件が抜けていた。

読み返して違和感があったので、もう一度調べ直すよう頼んだ。すると「より正確な実態が分かったので訂正します」と返ってきて、条件付きの適用だったことが分かった。一度目の答えをそのまま使っていたら、不正確な情報を投稿するところだった。

02別の相談ごとでも、同じことが起きた

数日前、別の込み入った相談ごとを進めていたときにも、似たようなことがあった。AIは、すでに提出済みだった資料を「まだ提出されていない」と説明していた。指摘すると「不正確でした」とすぐに訂正した。

すでに確認したはずの情報を、もう一度確認させたら違う答えが出てきたことになる。

03ツールの開発中にも、思い込みで間違えた

8月8日には、CPR用のトレーニングツールを直していたときにも同じことがあった。AIは、ファイル名が同じだったので同じファイルだと思い込み、実際には古いバージョンのリンクを案内していた。あとから「私の確認不足でした」と説明した。

04共通しているのは、「確認済みのはず」が崩れたこと

3つの出来事に共通するのは、AIが一度は確認したはずのことを、もう一度確認させたら違う答えが返ってきた、という点だ。しかも訂正のきっかけは、ほとんどが僕からの指摘だった。指摘しなければ、間違ったまま話が進んでいたことになる。

これが8月に入ってから増えたのか、以前からあったのに僕が気づいていなかっただけなのかは分からない。モデルの更新時期が近いと精度が落ちるという話も見かけるが、それを裏付けるデータは僕の手元にはない。確かなのは、この夏、事実確認の甘さによる訂正が続けて起きたという事実だけだ。

05だから、二重に確認するようにした

原因が分からない以上、できることは限られている。今の僕がやっているのは、大事な数字や事実は一度で信じず、もう一度別の角度から確認させることだ。「本当にそれで合っている?」と聞き直すだけで、今回のように訂正が返ってくることがある。

面倒に感じるかもしれないが、間違った情報をそのまま人に伝えてしまうことに比べれば、確認の手間はずっと小さい。

06まとめ

AIは、確認したはずのことでも間違える。この夏、僕はそれを3つの場面で経験した。厄介なのは、間違っているときほど自信満々に見えることだ。パッと見て嘘っぽさがまったくない。

もし今、AIの答えをそのまま仕事や発信に使おうとしているなら、一度立ち止まって、別の角度からもう一度聞き直してみてほしい。今の僕の対策は単純で、大事なことは二回確認させる。それだけで、実際に間違いが見つかることがある。