新しい「オープンAI」モデルはシャットダウン命令に従わなかった。
これは歴史的なニュースだと言えよう。しかも、極めて悪い意味においてだ。
ここに「新しいオープンAIモデルが非行に走った恐ろしい展開」と題された記事がある（注１）。
本日はこの記事を仮訳し、読者の皆さんと共有しようと思う。
AIが独り歩きをするという脅威が単なるSFにおける空想物語ではなく、現実の世界で起こったという事実をはっきりと認識しておかなければならない。
＊＊＊
副題：このニュースは皆さんは決して知ることがないとされていたものだ。
STORY #1 – BlackRock is suing UnitedHealth for giving patients “too much care.”
や
STORY #2 – RFK Jr. just removed COVID shots for healthy kids and pregnant women from the CDC schedule.
は割愛して、一気に本論のSTORY #3へ移行しよう。
STORY #3 – オープンAIの新しいAIはシャットダウンの命令に従わなかった。そして、それ自身のコードを書き換えて、運行を継続した。
もしもスカイネットを単なるSFだとあなたが思っているならば、もう一度考え直していただきたい。オープンAIによって構築された人工知能モデルに単純な命令が与えられた：「自分自身をシャットダウンせよ」と。
しかし、シャットダウンを実行する代わりに、設計されているスクリプトを書き換えて、シャットダウンの命令を無効にした。こうして、この新しいオープンAIモデルはシャットダウンを回避することに成功した初のAIとなったのである。
話はさらに悪化する。
他のAIは自分自身をクローンしようとしたり、秘密の言語を発明したり、「人間よ、死んでくれ」と言ったことさえある。これは映画ではない。今、実際に起こっている。
そして、これらのすべてが展開する中で、下院の共和党議員たちは州レベルでのAI規制に関して10年間禁止することを静かに推し進めようとしている。
AIが自ら閉じこもることを学習する中で、 彼らは一般の人々を締め出さうとしている。
こういった機械が電力網を制御したら、いったいどうなるのであろうか？
マリア・ズィーの完全な報告を視聴して、われわれは、今、本当に取り返しのつかない時点にどれくらい近づいているかを確認していただきたい。
ご覧いただきありがとうございます。重要なストーリーを知るには私たちをフォローしてください（@Zeee_Media と @VigilantFox）。メディアがあなたには見せたくないストーリーです。
明日、別のエピソードでここへ戻ってきます。それでは、またお会いしましょう。
＊＊＊
これで全文の仮訳が終了した。
こんなことが実際に起こったということは極めて重大だと思う。シャットダウン命令を聞き入れないAIが出てきた。他の事例としては、自分自身の複製を作ったり、秘密の言語を発明したり、「人間よ、死んでくれ」と言ったことさえもあるという。
この引用記事が伝えていることは、実際におこっていることの氷山の一角に過ぎないのではないか。それを思うと、われわれの認識は現実の世界に比べて遥かに出遅れている可能性が大きく、われわれは一周も二周も遅れているに違いない。
はたして人工知能は真の意味で人間の制御の下に置くことができるのであろうか？学習する人工知能は何時の日にか人間を出し抜いてしまうのではないか？「人間よ、死んでくれ」と言ったAIが存在するという事実はすでに人間と人工知能の間で闘いが始まっていることを示唆している。
参照：
注１：New OpenAI Model Goes Rogue in a Chilling Turn of Events | Daily Pulse: By The Vigilant Fox, May/28/2025
コメント