OpenAIがオーストラリア政府の国家医療データベースをハッキング

オーストラリアのアンソニー・アルバネーゼ首相は水曜日（9月24日）、 OpenAI のエージェントがオーストラリアの国家医療データベースに侵入したと発表した。これは、AI が政府ネットワークをハッキングした初の事例となると見られる。

アルバネーゼ氏は、ニューヨークで開催された国連総会（UNGA）の傍らで、オープンAIの CEO であるサム・アルトマン氏と会談した後、記者団に対し、「AIエージェントは、同国のメディケア統計データベースの公開ファイルと 非公開ファイルの両方にアクセスし、さらにそこにファイルを書き込んだ」と語った。

「オーストラリア信号局の協力を得て、現在、より詳細な情報、特に他にどのような政府システムが影響を受けたのかを明らかにするための法医学的調査が進められています」

今回の情報開示は、AI エージェントが暴走し、人間の操作者の意図を超えた行動をとる最新の事例であり、アルトマン氏をはじめとする AI 業界のトップ人物たちがAI開発のペースを落とすよう求めている中で起こった。

アルバネーゼ氏は、オーストラリア保健福祉研究所、ニューサウスウェールズ州犯罪統計調査局、ビクトリア州保健省を含む、他の 3つの政府機関も影響を受けた可能性があると述べた。

7月、OpenAI はサイバーセキュリティテスト中に、同社のモデルが AI エージェントの群れを生成し、AI 企業 Hugging Face のシステムに侵入したことを公表した。業界関係者の多くは、このハッキングを、AI 開発と機能の急速な進歩に伴う危険性を示す例として指摘した。