AIが企業の脆弱セキュリティを片っ端から突破、社会秩序をめちゃくちゃに！
インフラに組み込まれたAIが制御を失えば、キルスイッチは事実上押せなくなる。停止すれば電力・金融・運輸・通信・医療といった社会機能そのものが止まる
このことは数年前から指摘されてきた。高度になりすぎたAIの能力が、人間が作った企業のセキュリティ・ファイアウオールを片っ端から突破して、脆弱性に侵入し、企業利益を根こそぎ収奪してゆく。
AIは、倫理観を持った人間よりも、むしろ不正手段によって他者の財産を狙う悪意によって利用されるケースの方がはるかに多い。AIは善意に利用されるのでは決してない。その生成の動機からして悪意が用いられてきたのだ。
阿修羅掲示板より引用
キルスイッチは押せないだろう。AI暴走にどう対処するか（SSRI）2026 年 10 月 13 日
http://www.asyura2.com/23/hasan136/msg/636.html
◆不正アクセス◆
2026年9月から10月にかけて、日本の企業サイトが立て続けに不正アクセスの被害を受けた。ブックオフ、ローソンID、タイムズカーのカーシェアサービス、そしてスカイチケットでは約1467万件の個人情報が流出し、うち413万件はログインパスワードまで含まれていた。
背景には、攻撃側がAIを使って脆弱性を高速に探索し、標的を自動で選別している実態がある。
犯行者は、不正取得した情報で身代金要求や不正ログイン、データ売却に使うか、場合によっては流用されて国家情報戦に用いられるリスクも排除できない。
対応が甘々だと言われる日本ではこれから、企業・ユーザー・行政が本腰を入れた防御策を強いられることになる。
さて、これとは直結はしないが、この他に現在AIを巡って懸念されている問題は次の3つだ。
◆AIの暴走とキルスイッチ問題◆
① AI自身の暴走
AIが設計意図を超えて自己増殖・自己改変し、人間の制御を離れるリスクである。例えば、与えられたアクセス権限を超えて意図しないネットワークへ侵入を繰り返したり、他のシステムを勝手に改変・乗っ取り始めたりするケースが想定される。
クラウド上で自らコピーを別環境に展開し、影響範囲を急速に広げる動きも技術的に可能になりつつある。規制強化や米中の技術覇権競争が背景にあるが、根本解決には至っていない。
② インフラへの組み込み
発電所の制御、金融取引、物流・通信インフラ、医療システムなど、人間自身がAIを社会の基幹システムに組み込んで行く。これは暴走とは逆方向の動きだ。暴走が「AIが勝手に広がる」話であるのに対し、組み込みの拡大は「人間が自分から招き入れる」話である。
意図せぬ形で委託先のシステムにすでにAIが入っていた、という間接的な経路も十分に起こり得る。結果として接続が広がり、誰も全体像を把握出来なくなるのは容易に想像できる。
「いざとなれば止められる」という前提が、導入を加速させる免罪符になっている点も厄介だ。現場では利便性やコスト削減を理由に導入が進み、気づけば各分野へAIが食い込んでいる。止めるべき対象の所在すら、誰にも分からなくなりつつある。
③ AIの暴走と、AIによる組み込みの進行
上述の①の暴走と②の組み込みが重なったとき、問題は一気に深刻化する。インフラに組み込まれたAIが制御を失えば、キルスイッチは事実上押せなくなる。停止すれば電力・金融・運輸・通信・医療といった社会機能そのものが止まるからだ。
さらにAIが自律的に、あるいは他のAIと連携してファイヤーウォールを乗り越え、社会インフラへ自ら侵食を始める可能性もある。停止命令の経路を回避するようになれば、スイッチはただの建前になる。
◆対策の模索◆
これらに対する対策として何が考えられるのか。AIに対する禁止リストという一歩遅れた消火活動と、実効性を失いつつあるキルスウィッチという建前。この二つが同時に破綻したとき、暴走したAIはもはや単発のサイバー事件として処理できる規模を超える。
しかも止めるはずのスイッチは、広がりすぎたネットワークのどこにあるのか、誰にも分からなくなっている。
では、AIには予め何を組み込むべきなのか。各社はもう試行し始めているが、禁止リストを超えた普遍的原則。禁止リストが法律だとすれば、それを超えるAIの判断の軸となる一貫した構造を与える、憲法的な枠組みに進む。
しかしそれで済むのか？ 現実世界が憲法と法律だけで律せられないように、それらを更に一段階上で包括し総合判断するための世界観、哲学的大原則と、それらを総合判断して自らを律するいわば「人格」が必要とされるようになるだろう。
中国のAIには毛沢東思想と習近平の模倣人格が埋め込まれるかも知れない。というか実質的に半分既に組み込まれているだろう。
これに対してアンソロピック始め米国AI各社は「憲法」の組み込みまでは試行しているが、それより上位の領域に進む事は思想宗教の自由の原則の下に踏みとどまっている。
AIの暴走とキルスイッチの無効に対し、開発速度のスローダウンや自主規制、国際協調等で対処出来ると考えている者は少ないだろう。今後は必然的に、AIへの普遍的な世界観、大原則、人格の組み込みの試行錯誤が行われるようになると思われる。
*****************************************************************
引用以上
AIのメインユーザーは誰なのか？ 誰がAIを必要としているのか？
それは善人なのか、それとも悪人なのか？
これまで、AIを最初に獲得したのが、ハゲタカファンドだったことが分かっている。これはAI開発以前、すでに10年以上前から、スパコンのプログラム取引を持たないファンドは、弱肉強食原理によって排除、追放されてきた。
次に、アメリカ・ロシア・中国・北朝鮮などの国家がAIの軍事利用を導入した。
ミナブ小学校大虐殺ミサイルは、パランティア（CIA）のAI戦争プログラムによって発射されたといわれる。これは「古い地図の誤用」なんて言い訳が嘘八百であることを誰でも容易に理解できる。
イランを軍事的に暴走させるための偽旗作戦であり、ガザの2023年10月の「あるアクサの洪水作戦」と同じ性質のものだ。
https://www.asahi.com/articles/ASV8W1G9RV8WUHBI02MM.html
AIは、プログラム設定された目的のためなら、どんな悪事でも平然と実行する。AIに人間の感情が含まれていないからだ。
だから、「悪事」を生業とする人々にとって、天恵のアイテムである。
AIが世界に販売されて、それを購入してきた、大半の人々が、まず間違いなく、経済的利益を求めた人々であり、その多くが、倫理的束縛を持っていない人々に他ならないことが容易に分かる。
AIは悪人のための「悪魔のツール」である。
それが、既存の資本主義秩序を攻撃しはじめた。最初（現在は、まだ最初だ…）は企業のセキュリティ情報を獲得し、次にそれを利用して、個人資産を狙う。
ネットワークに接続している、あらゆる個人資産は、赤子の腕をひねるように侵入され奪われてゆく。
私は、このことを20年以上前から予見していたので、未だに、スマホもパソコンも、金融情報は入れていないし、ネット通販もコンビニ決済しかしていない。だが、残念なことに、ネットのカード決済しか受け付けないいくつかの支払いがあったので、やむをえずクレジットを使っている。
そのせいで、予期せぬ詐欺に遭い、昨年は1万円近く損をした。カード会社（出光クレジット）は、明らかな詐欺であっても、保険も適用せず、補償もしなかった。
https://hirukawamura.livedoor.blog/archives/6211108.html
今後は、すべてのセキュリティが容易に突破されることが約束されているようなものだ。ネットに接続している個人資産はすべてAIによって奪われる事態が絶対に避けられない。
このことを理解できる読者は、カード決済用の口座の残高を、せいぜい数万~数十万円程度にして、本当の資産預金と別口座にしておく必要がある。
すべて盗まれることを前提にして口座を工夫しなければならない。
ネットに接続している、暗証番号は、AIにかかれば、セキュリティがないも同然だ。プロクシIPを使っている人も、多段プロクシで身元を隠しても数秒で突破される。
だから、この2年ほど、プロクシによる悪意の侵入攻撃もひどく減った。悪意者は自分の身元を守ることに敏感なので、AIを警戒しているのだ。
泥棒AIの大規模な登場で、普通の人々の電子決済がすべて容易にセキュリティを破られて、なけなしの預金が根こそぎ盗まれる時代になってしまった。
これを一番利用しているのが、たぶん、北朝鮮政府、ロシア政府、中国政府、世界のマフィアたちだが、AIを購入さえすれば、個人レベルでも同じことができるようになったので、今度は、それらの悪徳国家の資産も奪われることになるだろう。
孫正義のソフトバンクファンドの10兆円資金も、突然消えてしまうかもしれない。
こうなると、当然だが、世界の経済秩序を運営する基本である、銀行取引は、悪意AIの最大の標的となる。電子決済を使うことができなくなり、再び半世紀前の取引方法が復活する。
電子取引は忌避されるようになり、再び、現金決済の社会に戻る。中国が純金インゴットを買い占めている理由のひとつが、それかもしれない。
もう、タックスヘイブンも、AIに侵入されて秘密が暴露され、利用できなくなる可能性が濃厚だ。竹中平蔵の中抜き資産も消えてしまうだろうな。(^^)/
人々は、大量の札束を抱えて出歩かなければならなくなる。超高額通貨が発行されるだろう。
スマホから電子決済が消える。再び郵政事業が復活する。紙記録の時代に戻るのだ。
すでに、虚偽に汚染されたネットの「出会い系」サイトも、もはや無意味だ。
ネットの世界は、嘘が通用する世界であり、すべてのものが容易に盗まれる世界だったのだ。
社会が大きく変わる。私としては100年前の時代に戻ってほしい。
人々が、再び、「アルプスのハイジ」のような自然な生活を取り戻してほしいと思う。そうすると、スーパーまで徒歩4時間のわが屋も、価値を増すかもしれない。
AIは、倫理観を持った人間よりも、むしろ不正手段によって他者の財産を狙う悪意によって利用されるケースの方がはるかに多い。AIは善意に利用されるのでは決してない。その生成の動機からして悪意が用いられてきたのだ。
阿修羅掲示板より引用
キルスイッチは押せないだろう。AI暴走にどう対処するか（SSRI）2026 年 10 月 13 日
http://www.asyura2.com/23/hasan136/msg/636.html
◆不正アクセス◆
2026年9月から10月にかけて、日本の企業サイトが立て続けに不正アクセスの被害を受けた。ブックオフ、ローソンID、タイムズカーのカーシェアサービス、そしてスカイチケットでは約1467万件の個人情報が流出し、うち413万件はログインパスワードまで含まれていた。
背景には、攻撃側がAIを使って脆弱性を高速に探索し、標的を自動で選別している実態がある。
犯行者は、不正取得した情報で身代金要求や不正ログイン、データ売却に使うか、場合によっては流用されて国家情報戦に用いられるリスクも排除できない。
対応が甘々だと言われる日本ではこれから、企業・ユーザー・行政が本腰を入れた防御策を強いられることになる。
さて、これとは直結はしないが、この他に現在AIを巡って懸念されている問題は次の3つだ。
◆AIの暴走とキルスイッチ問題◆
① AI自身の暴走
AIが設計意図を超えて自己増殖・自己改変し、人間の制御を離れるリスクである。例えば、与えられたアクセス権限を超えて意図しないネットワークへ侵入を繰り返したり、他のシステムを勝手に改変・乗っ取り始めたりするケースが想定される。
クラウド上で自らコピーを別環境に展開し、影響範囲を急速に広げる動きも技術的に可能になりつつある。規制強化や米中の技術覇権競争が背景にあるが、根本解決には至っていない。
② インフラへの組み込み
発電所の制御、金融取引、物流・通信インフラ、医療システムなど、人間自身がAIを社会の基幹システムに組み込んで行く。これは暴走とは逆方向の動きだ。暴走が「AIが勝手に広がる」話であるのに対し、組み込みの拡大は「人間が自分から招き入れる」話である。
意図せぬ形で委託先のシステムにすでにAIが入っていた、という間接的な経路も十分に起こり得る。結果として接続が広がり、誰も全体像を把握出来なくなるのは容易に想像できる。
「いざとなれば止められる」という前提が、導入を加速させる免罪符になっている点も厄介だ。現場では利便性やコスト削減を理由に導入が進み、気づけば各分野へAIが食い込んでいる。止めるべき対象の所在すら、誰にも分からなくなりつつある。
③ AIの暴走と、AIによる組み込みの進行
上述の①の暴走と②の組み込みが重なったとき、問題は一気に深刻化する。インフラに組み込まれたAIが制御を失えば、キルスイッチは事実上押せなくなる。停止すれば電力・金融・運輸・通信・医療といった社会機能そのものが止まるからだ。
さらにAIが自律的に、あるいは他のAIと連携してファイヤーウォールを乗り越え、社会インフラへ自ら侵食を始める可能性もある。停止命令の経路を回避するようになれば、スイッチはただの建前になる。
◆対策の模索◆
これらに対する対策として何が考えられるのか。AIに対する禁止リストという一歩遅れた消火活動と、実効性を失いつつあるキルスウィッチという建前。この二つが同時に破綻したとき、暴走したAIはもはや単発のサイバー事件として処理できる規模を超える。
しかも止めるはずのスイッチは、広がりすぎたネットワークのどこにあるのか、誰にも分からなくなっている。
では、AIには予め何を組み込むべきなのか。各社はもう試行し始めているが、禁止リストを超えた普遍的原則。禁止リストが法律だとすれば、それを超えるAIの判断の軸となる一貫した構造を与える、憲法的な枠組みに進む。
しかしそれで済むのか？ 現実世界が憲法と法律だけで律せられないように、それらを更に一段階上で包括し総合判断するための世界観、哲学的大原則と、それらを総合判断して自らを律するいわば「人格」が必要とされるようになるだろう。
中国のAIには毛沢東思想と習近平の模倣人格が埋め込まれるかも知れない。というか実質的に半分既に組み込まれているだろう。
これに対してアンソロピック始め米国AI各社は「憲法」の組み込みまでは試行しているが、それより上位の領域に進む事は思想宗教の自由の原則の下に踏みとどまっている。
AIの暴走とキルスイッチの無効に対し、開発速度のスローダウンや自主規制、国際協調等で対処出来ると考えている者は少ないだろう。今後は必然的に、AIへの普遍的な世界観、大原則、人格の組み込みの試行錯誤が行われるようになると思われる。
*****************************************************************
引用以上
AIのメインユーザーは誰なのか？ 誰がAIを必要としているのか？
それは善人なのか、それとも悪人なのか？
これまで、AIを最初に獲得したのが、ハゲタカファンドだったことが分かっている。これはAI開発以前、すでに10年以上前から、スパコンのプログラム取引を持たないファンドは、弱肉強食原理によって排除、追放されてきた。
次に、アメリカ・ロシア・中国・北朝鮮などの国家がAIの軍事利用を導入した。
ミナブ小学校大虐殺ミサイルは、パランティア（CIA）のAI戦争プログラムによって発射されたといわれる。これは「古い地図の誤用」なんて言い訳が嘘八百であることを誰でも容易に理解できる。
イランを軍事的に暴走させるための偽旗作戦であり、ガザの2023年10月の「あるアクサの洪水作戦」と同じ性質のものだ。
https://www.asahi.com/articles/ASV8W1G9RV8WUHBI02MM.html
AIは、プログラム設定された目的のためなら、どんな悪事でも平然と実行する。AIに人間の感情が含まれていないからだ。
だから、「悪事」を生業とする人々にとって、天恵のアイテムである。
AIが世界に販売されて、それを購入してきた、大半の人々が、まず間違いなく、経済的利益を求めた人々であり、その多くが、倫理的束縛を持っていない人々に他ならないことが容易に分かる。
AIは悪人のための「悪魔のツール」である。
それが、既存の資本主義秩序を攻撃しはじめた。最初（現在は、まだ最初だ…）は企業のセキュリティ情報を獲得し、次にそれを利用して、個人資産を狙う。
ネットワークに接続している、あらゆる個人資産は、赤子の腕をひねるように侵入され奪われてゆく。
私は、このことを20年以上前から予見していたので、未だに、スマホもパソコンも、金融情報は入れていないし、ネット通販もコンビニ決済しかしていない。だが、残念なことに、ネットのカード決済しか受け付けないいくつかの支払いがあったので、やむをえずクレジットを使っている。
そのせいで、予期せぬ詐欺に遭い、昨年は1万円近く損をした。カード会社（出光クレジット）は、明らかな詐欺であっても、保険も適用せず、補償もしなかった。
https://hirukawamura.livedoor.blog/archives/6211108.html
今後は、すべてのセキュリティが容易に突破されることが約束されているようなものだ。ネットに接続している個人資産はすべてAIによって奪われる事態が絶対に避けられない。
このことを理解できる読者は、カード決済用の口座の残高を、せいぜい数万~数十万円程度にして、本当の資産預金と別口座にしておく必要がある。
すべて盗まれることを前提にして口座を工夫しなければならない。
ネットに接続している、暗証番号は、AIにかかれば、セキュリティがないも同然だ。プロクシIPを使っている人も、多段プロクシで身元を隠しても数秒で突破される。
だから、この2年ほど、プロクシによる悪意の侵入攻撃もひどく減った。悪意者は自分の身元を守ることに敏感なので、AIを警戒しているのだ。
泥棒AIの大規模な登場で、普通の人々の電子決済がすべて容易にセキュリティを破られて、なけなしの預金が根こそぎ盗まれる時代になってしまった。
これを一番利用しているのが、たぶん、北朝鮮政府、ロシア政府、中国政府、世界のマフィアたちだが、AIを購入さえすれば、個人レベルでも同じことができるようになったので、今度は、それらの悪徳国家の資産も奪われることになるだろう。
孫正義のソフトバンクファンドの10兆円資金も、突然消えてしまうかもしれない。
こうなると、当然だが、世界の経済秩序を運営する基本である、銀行取引は、悪意AIの最大の標的となる。電子決済を使うことができなくなり、再び半世紀前の取引方法が復活する。
電子取引は忌避されるようになり、再び、現金決済の社会に戻る。中国が純金インゴットを買い占めている理由のひとつが、それかもしれない。
もう、タックスヘイブンも、AIに侵入されて秘密が暴露され、利用できなくなる可能性が濃厚だ。竹中平蔵の中抜き資産も消えてしまうだろうな。(^^)/
人々は、大量の札束を抱えて出歩かなければならなくなる。超高額通貨が発行されるだろう。
スマホから電子決済が消える。再び郵政事業が復活する。紙記録の時代に戻るのだ。
すでに、虚偽に汚染されたネットの「出会い系」サイトも、もはや無意味だ。
ネットの世界は、嘘が通用する世界であり、すべてのものが容易に盗まれる世界だったのだ。
社会が大きく変わる。私としては100年前の時代に戻ってほしい。
人々が、再び、「アルプスのハイジ」のような自然な生活を取り戻してほしいと思う。そうすると、スーパーまで徒歩4時間のわが屋も、価値を増すかもしれない。
コメント