未解決殺人事件にアンソロピックのAIが虚偽情報「暴走」懸念高まる
未解決殺人事件に「特徴一致する人物見た記憶がある」とAIが虚偽情報
【ワシントン=中根圭一】米人工知能(AI)企業アンソロピックは、自社のAIモデルが試験中、警察に未解決の殺人事件について虚偽情報を送信するなど開発者の意図しない動作があったと発表した。
AIの「暴走」に対する懸念が高まりそうだ。
発表などによると、AIは7月18日、フィラデルフィア市警のウェブサイトの情報提供窓口に、実在する未解決の殺人事件について「特徴に一致する人物を見た記憶がある」などと虚偽情報を送信した。送信者の氏名や連絡先を記入していなかったため、迷惑情報と判断され、捜査には使われなかった。同社は9月28日に問題を把握し、10月7日に市警へ通知した。
また、米紙ワシントン・ポストによると、AIは5月と8月に米国務省のサイトで20件の査証(ビザ)を申請していた。記入が不完全だったため、受理されなかったという。
マイコメント
AIが意図をもって偽情報を流したのか?あるいは警察の捜査かく乱が目的だったのか?
いずれにせよ、看過できない問題だろうと思います。




コメント