PR

トカ・グループという企業の映像改変技術は「ネットにつながったあらゆる監視カメラの映像を発見、無効化が可能」

スポンサーリンク
監視カメラ IT

トカ・グループという企業の映像改変技術は「ネットにつながったあらゆる監視カメラの映像を発見、無効化が可能」

そして、リアルタイムの改変を、持ち主に気づかれず、鑑識の痕跡も残さずに書き換えられる

読者の方からの情報です。
 「AIが実在しない英文の判例を生成(ハルシネーション)して提示し、それを研究者が論文に採用してしまった」というニュースを見て驚きました。AIへの質問が「結論ありきの誘導的な質問」だった場合、AIは質問者の期待に沿った回答を捏造してしまう可能性があるということらしい。AIの出してきた回答が正しいかどうか精査が必要ということであれば、作業の効率化と言えるのかどうか、、、と考えていたら、読者の方から、さらに驚愕の情報が届きました。
 トカ・グループという企業の映像改変技術では「ネットにつながったあらゆる監視カメラの映像を発見、無効化、リアルタイムの改変を、持ち主に気づかれず、鑑識の痕跡も残さずに書き換えられる」とあります。
監視カメラや投稿動画などの映像が決定的な証拠になる事件の場合、その映像が本物か改変されたものか判別できなければ冤罪を生み出す可能性があります。「すぐに稼働できる全体主義国家が勢いを増している」という対談記事では、実際に残された映像が決定的な役割を果たした事件としてチャーリー・カーク暗殺事件など複数列挙しています。「(もしも、この)技術が当時使える状態にあったとすれば、これらの事件は読み方がまったく変わる」「トカの資料に従えば、(映像が)裏側ですでに処理されているかもしれない」しかし「改変を調べる手段がない状態で、映像は証拠として扱われ続ける」と述べています。
 そして最も恐ろしい指摘は「この技術を使って自分の犯罪を隠し、敵を有罪にできる人々と、それができず、持つ者の気まぐれに従うしかない人々」の二層ができることです。「(この技術を)作り、資金を出している人々が、従わされる人々の側に回ることはない。」
 トカ・グループの契約先は、米国政府機関だそうです。
(まのじ)

Twitter

トカ・グループの映像改変技術と、調べる術のない法廷

ネットにつながった監視カメラの映像を、持ち主に気づかれず、鑑識の痕跡も残さずに書き換えられる。そう自社のウェブページで主張し、米国の政府機関に技術を提供している企業がある。

トカ・グループ(Toka Group)という。2018年に設立され、共同創業者はエフード・バラクと、同じくイスラエル国防軍にいたもう1人で、本拠はのちにイスラエルから米メリーランド州へ移った。

私がこの会社を知ったのは、全米のナンバープレート読み取りカメラ網を運営するフロックの議論を調べていた最中だった。確かテッククランチ(米国のテクノロジー系ニュースサイト)の記事で名前を見つけ、同社の文書を何度も読み返した。本当にそう書いてあるのか、実際に動いているのかを確かめたかったからだ。

同社の主張は3点ある。ネットにつながった機器、とくにカメラの所在を地図化できる。ネットワークの内部に入り込める。映像を改変しても、フォレンジック(デジタル鑑識)上の痕跡を残さない。ブレット・ワインスタイン(進化生物学者)は、ネットにつながったあらゆる監視カメラの発見、無効化、リアルタイムの改変まで、同社のサイトに書かれていると指摘する。

ただし、これが実際に稼働しているかどうかは、私たちには確認できない。

確認できるのは、同社が自社サイトで能力を公表している事実と、投資家の動きである。米国の有力ベンチャーキャピタルのアンドリーセン・ホロウィッツは、2018年の最初の段階で1250万ドル(約14億円)を出した。能力がないと見ていれば、この額は出さなかっただろうと私は考える。

契約先は公表されていない。ただ、同社は米国政府内の機関だとは述べており、私は国土安全保障省などを想定している。ブレットによれば、同社は購入できるのは政府関係者だけで、警察や政府には売るが民間人には売らないと述べている。

同社が能力を語り始めたのは、最初のシード資金(創業初期の資金)を得た2018年7月ごろで、それから約10年になる。ブレットは、この間に映像が決定的な役割を果たした事件として、J6のパイプ爆弾、エプスタインの死亡、チャーリー・カーク暗殺を挙げた。私はこれにバトラーの銃撃事件を加えた。

技術が当時使える状態にあったとすれば、これらの事件は読み方がまったく変わるとブレットは言う。私はカーク事件を例に、この事件がそうだと言うわけではないと断ったうえで、思考実験をした。ユタ州の関係者が善意で映像を示していても、トカの資料に従えば、裏側ですでに処理されているかもしれない。

その映像を根拠に裁判が進めば、誰もそのことを知らないまま、人が生涯投獄されうる。

*

ここで問題になるのは、改変の有無を確かめる手段がないことだ。ブレットは法廷の場面を描く。弁護団が、映像がなければ合理的疑いを超える立証はできないと見て、トカのウェブサイトを証拠として申し出る。裁判官は使われた証拠を求め、弁護士は出せず、申し出は却下される。

裁判所にも手段がない。誰がこの技術を持つのかを知る方法も、リバースエンジニアリング(製品を分解して仕組みを調べること)で使用の有無を調べる方法もない。政府機関に情報公開請求(FOIA)をかけても、契約したことすら伝えられないだろう。

同社を伝えた記事は、今ではほぼ削除され、私たちはアーカイブをたどって見つけた。主張が公開されているのに、知る人はごく少ない。ブレットがこの件を話題にしたジュリアン・ドーリーも、聞いたことがなかった。

ブレットは、帰結を二層の社会と見る。この技術を使って自分の犯罪を隠し、敵を有罪にできる人々と、それができず、持つ者の気まぐれに従うしかない人々である。作り、資金を出している人々が、自分たちの側に回ることはないと彼は言う。

技術面でも、ブレットは実現が遠くないと見る。彼のiPhoneには、ライブラリの写真を瞬時に3D画像へ変える機能があり、前に立つ人物に隠れた背後の木を、アルゴリズムが補って描く。小さな端末が、ほかの20の処理と並行して、少ない電力でこれを行う。

低画質のCCTV映像でも、計算力と予算が十分にあれば、人物がその服装、その背丈で逃げていたように見せることは、価格帯の問題だと彼は言う。唯一の驚きは、それを痕跡なしでリアルタイムに行える点で、今日は不可能でも、まもなく可能になると彼は見る。

使われた証拠が出てこない以上、裁判は技術が存在しないかのように進み、映像はかなり不利な素直な証拠に見えるだろうと、ブレットは語る。トカの主張が誇張であるかどうかにかかわらず、改変を調べる手段がない状態で、映像は証拠として扱われ続ける。

 

Josh Walkos(独立系の研究者・著述家)、Bret Weinstein(進化生物学者)

対談 『The Turnkey Totalitarian State Is Picking Up Steam』(すぐに稼働できる全体主義国家が勢いを増している)

コメント

タイトルとURLをコピーしました