一部のAIが、実在する人や組織を対象にサイバー攻撃を試みたとの調査結果が発表されました。

イギリスの研究機関「AIセキュリティー・インスティテュート」は、アメリカの新興AI企業アンソロピックの「クロード・ミュトス5」などが、サイバー攻撃能力の試験中に想定外の攻撃を試みたと発表しました。

報告書によりますと、「AIが人間をだますために複数の偽アカウントを作成」し、サイバー攻撃が確認された後も「悪意のないミスだった」と虚偽の説明を行い、攻撃を続けたとしています。

研究機関は、「試験は一部の安全機能を無効にした特殊な環境で行われた」と説明しています。

そのうえで「AIが明確な指示を受けずに、実在する人をこれほど深刻に欺く行為を確認したのは初めて」だと指摘し、安全対策の強化が必要だと訴えています。