AIが「食べられる」と答えたのに食中毒|誤判定から考えるAIとの付き合い方

AIと未来

AIに写真を見せれば、写っているものが何なのか教えてくれる。 そんな便利な時代になりました。 植物や動物の名前を調べるときにも、画像認識AIは役立ちます。 しかし、その答えが間違っていたらどうなるでしょうか。 実際に、AIが毒キノコを食用キノコと誤判定し、その回答を信じた男性が食中毒になる事故が起きています。

今回は、この事故を通して、AIが間違える仕組みと、私たちがAIを利用するときに気をつけたいことを考えてみましょう。

AIの回答を信じて毒キノコを食べた事故

2025年11月、和歌山市に住む70代の男性が、奈良県の山中でキノコを採取しました。 男性は食べられるキノコかどうか確認するため、植物園などに問い合わせようとしました。 しかし、連絡がつかなかったため、電子端末でキノコを撮影し、AIに判定させました。 するとAIは、シイタケかヒラタケで食べられるという趣旨の回答を出したのです。 男性はその回答を信じ、キノコを焼いて食べました。 ところが、約30分後から嘔吐の症状が現れ、一時入院することになりました。

その後の調査で、食べたキノコは有毒の「ツキヨタケ」だったことが判明しました。 ここで注目したいのは、男性が最初からAIだけを頼っていたわけではないという点です。 専門機関に確認しようとしたものの、連絡が取れず、代わりにAIを利用したのです。 慎重に確認しようとした人でも、AIの回答によって判断を誤る可能性がある。 この事故は、その危険性を示しています。

AIはなぜ毒キノコを見間違えたのか?

では、AIはなぜ間違った回答を出してしまったのでしょうか。 AIの誤りには、いくつかの仕組みがあります。 まず考えられるのが、画像認識による分類の間違いです。 画像認識AIは、写真に写っている色や形、模様などの特徴を分析し、学習した情報と照らし合わせて種類を推定します。 しかし、見た目が似ているものを正しく区別できるとは限りません。

今回のツキヨタケも、シイタケやヒラタケとよく似ています。 写真だけでは確認しにくい特徴もあり、AIが別の種類と取り違える可能性があります。 これは、人間が似た顔の人物を間違えることにも似ています。 AIの画像認識は便利ですが、万能な鑑定技術ではないのです。

もっともらしい答えを作る「ハルシネーション」

もう一つ知っておきたいのが、生成AIの「ハルシネーション」です。 これは、AIが事実と異なる情報を、もっともらしく回答してしまう現象です。 例えば、十分な情報がないにもかかわらず、「これは食用キノコです」と断定的に説明してしまう場合が考えられます。

画像認識による間違いと、ハルシネーションは同じものではありません。 前者は対象を別のものと取り違える誤りで、後者は根拠が不十分な内容を生成する問題です。 生成AIでは両方が重なることもあります。 ただし、今回使用されたAIの詳しい仕組みは公表されておらず、どちらが原因だったのかは断定できません。

重要なのは、AIが自信ありげに回答していても、その内容が正しいとは限らないということです。

「種類が分かる」と「安全に食べられる」は違う

ここには、もう一つ大切な問題があります。 仮にAIが「シイタケに似ています」と回答したとしても、それは食べても安全だという保証ではありません。 「何に見えるか」という推定と、「食べても問題ないか」という安全性の判断は別のものです。 特に野生のキノコには、外見がよく似た有毒種が存在します。 AIが種類を推定できたとしても、その結果だけで安全性を判断することはできません。

今回のように、命に関わる可能性がある場面では、この違いが非常に重要になります。

今回の事故は、どうすれば防げたのか?

今回、男性が専門機関に確認しようとした行動は、適切な方向だったと考えられます。 しかし、確認ができなかった時点で、食べないという判断が必要でした。 厚生労働省も、食用と確実に判断できない野生のキノコは、採らない、食べない、売らない、人にあげないよう呼びかけています。

一方、AIを提供する側にも課題があります。 例えば、安全性を保証できない場合には、「写真だけでは判断できません。食べないでください」と明確に伝える仕組みが重要です。 利用者の注意だけに頼るのではなく、AIが危険な断定を避けることも必要でしょう。

AIに聞いたことと、正しいと確認できたことは違う

今回の事故は、キノコだけの問題ではありません。 健康に関する相談、投資の判断、法律の情報、仕事での重要な意思決定など、AIの回答を信じた結果、大きな損失につながる場面はほかにもあります。 もちろん、AIは非常に便利な技術です。 調べ物をしたり、考えを整理したり、選択肢を比較したりするうえで、大きな力を発揮します。 だからこそ、私たちはAIの得意なことだけでなく、限界も理解する必要があります。 大切なのは、「AIに聞いたこと」と「正しいと確認できたこと」を混同しないことです。 間違えた場合の影響が大きいほど、信頼できる情報源や専門家による確認が必要になります。 そして、確実に確認できない場合には、判断を保留することも大切です。

AIを使わないことが正解なのではありません。 AIを参考にすることと、AIに最終判断を任せることは違う。 その違いを理解し、どこまでAIに任せてよいのかを見極めること。 それが、これからのAI社会を安全に生きていくために必要な力ではないでしょうか。

コメント

タイトルとURLをコピーしました