Geminiの助言で遭難、食料も水も不足

　AIが生成した助言に頼ったことは「重大な判断ミス」だった。米カリフォルニア州のシャスタ山に挑んだ3人の登山者は、8時間の予定だった登山が2日間に及ぶ過酷な事態に陥った。1人が負傷し、ヘリコプターによる救助も2度にわたって失敗した末、複数日に及ぶ複雑な救助活動によってようやく救出された。

提供：Ewen Denney/Wikimedia
※クリックすると拡大画像が見られます

　3人は8月30日午前3時に出発し、16時間後に登頂した。しかし下山中、1人が転倒して脚を負傷した後、道に迷った。救助隊は31日、3人全員を無事に救出した。

　登山者らは救助隊に対し、計画を立てる際に複数のテクノロジーを利用したと認めた。動画共有サービス「YouTube」、アウトドア向けフィットネス・レクリエーションアプリ「AllTrails」、GoogleのAI「Gemini」などだ。シスキュー郡保安官事務所は「Facebook」への投稿で、Geminiに大きく依存したことは重大な過ちだったと指摘している。

　投稿には「3人は現場の保安官代理に対し、ルートに関する情報や登山に持参すべき物について、GoogleのGeminiに大きく頼っていたと話した。これは重大な判断ミスだった。特に、8時間の予定だった登山が複数日に及ぶ過酷な事態となる中、Geminiの助言に従って持参した食料と水は、一行に必要な量を大幅に下回っていた」と記されている。

　保安官事務所は続けて、「登山計画を立てる際、AIだけに頼ってはならない」と注意を呼びかけた。

　米森林局とシスキュー郡保安官事務所の担当者は、コメントの依頼にすぐには応じなかった。

　この登山には、ほかにも問題があった。3人によると、スマートフォンのバッテリーが切れ、予備バッテリーも動作しなかった。オフラインで利用できる地図も用意しておらず、方向感覚を失った一行は下山中に道に迷った。装備不足はほかの場面にも表れており、負傷した登山者はバッテリーを節約するためヘッドランプを使わず、真っ暗闇の中を進んだ。

Googleの回答

　Googleの担当者は米CNETの電話取材に対し、同社のトラスト＆セーフティーチームがGeminiの生成した登山に関する助言を調査していると述べた。同社は、3人が受け取った回答を再現できていない。担当者は、Geminiが誤る可能性を認めたうえで、回答に疑問がある場合はGeminiが示した参照元を必ず確認すべきだとしている。

　3人は、Geminiからどのような食料と飲料をどれだけ持参するよう勧められたかを明らかにしていない。ただし、保安官事務所はこの点を問題として挙げている。

　筆者は、登山者らが受け取ったとする回答をGeminiから引き出そうとしたが、再現できなかった。登山におすすめの食べ物を尋ねると、Geminiは炭水化物、脂質、タンパク質を組み合わせるよう勧めた。低脂肪の案を求めた場合でも、チーズや加工肉など、塩分と脂質が多く、カロリーの高い食品を登山者がよく持参すると説明した。筆者が架空の登山について想定所要時間を具体的に示すまでは、必要な量を提案しなかった。

AIは信頼できる情報源ではない

　AIは重要な情報を見落とすことが多く、利用者が現実の状況に対応するための準備を十分に整えられないことがある。影響が小さい場合もある。2025年末、米CNET編集者のCorin Cesaric-Epple氏は「ChatGPT」を使って1週間分の食事を作り置きし、AIが示したレシピについて、味付けが極端に薄いと何度も指摘した。一方で、深刻な結果を招くこともある。法的文書の作成にAIを利用した弁護士の中には、誤りだらけの仕事で正式な戒告を受けるなど、自らのキャリアを危うくした者もいる。

　生成AIツールは、与えられたデータに含まれるパターンを予測しているにすぎない。そのデータの多くは、検証されていないウェブ上の情報に由来する。そのため専門家は、AIが生成した助言に頼る前に、利用者自身で内容を検証するよう呼びかけている。AIは実際に食事をしたり、法律実務に携わったり、登山したりするわけではない。そうした行為の方法を学ぶ際に、AIが最良の情報源になることはない。