なんてことだ！人の命をパランティアのプログラムが裁くのかよ

 ドイツにおいて司法が下したPalantierシステムの問題、それは国民のデータをAIが自動で集めることではなく、「広い分野のバラバラなデータをAIが勝手に解析し、データのパターン認識から個人に対する判断を下すこと」ここが問題だと指摘している。

噛み砕いて書くと・国家の保有するデータでAIが勝手に国民にレッテルを貼る事・そのレッテルで権力が国民に制限を加える可能性ざっくりになってしまうが、ここが違憲だと判断された。

 現在X上で、監視システムだ、特高警察だ、ディストピアだ、といった意見が出ており概ねその感覚は正しいと考えるが、重要なのは「どうやってこの流れを止めるのか？」であり、その為には現代の法解釈においてこのシステムの問題点がどこにあるのかを炙り出す必要がある。 

 忘れてはならないのは、これは「人権問題」であるという視点だ。AIシステムに私たちの情報を提供することを私たちは許可するのか？AIシステムが私たちを「評価」することを私たちは許可するのか？AIシステムの評価で私たちの生活が優遇、または制限されることを私たちは許可するのか？ 

だからこそ、ドイツは違憲判決を下した。どのようなデータを提供するのかは明確に法律で縛られなければならず、そのデータの利用方法に関しても法律で制限する必要があると。私達の「人権」に明らかに干渉してくるシステムに対して、私達の人権を守る法を整備しろ、という回答を出した。中国を見れば即、私達の懸念が妄想でないことが分かる。国民全員に「信用スコア」をつけた完全監視システムが既に導入されているのだから。町中の監視カメラで国民は監視され、ゴミをボイ捨てすれば信用スコアが下がり銀行ローン審査が通りにくくなる。信号無視も同様。スマホ内部までデータは筒抜け、メッセージの返信が早ければ信用スコアが上がり既読スルーは下がる。生活の隅々まで監視することで「品行方正かつ生産性が高い」国民が自発的に増えていく。しかし当然、特権階級にはこの仕組みは適応されない。「国家権力による国民の監視と管理」は目の前に差し迫った現実だと受け入れないのは、お花畑だと言っていい。私たちの世界は明らかに監視、管理、統制による「国家に都合の良い国民の量産」へ向かっている。日本における法制度はスパイ防止法の方向性を確認すればすぐ分かる通り、上記の管理システムを擁護する方向へ邁進している。止める為にはイメージ論ではなく、明確に「国家による個人情報の一元管理の禁止」「憲法21条が保障する通信の秘密の厳守」これを私たちは訴える必要がある。議席数が3分の２を超えているから〜、と言われようがなんだろうが、憲法が保障する私達の権利は私たちが守る必要がある。ほぼほぼ間違いなく、国民投票による憲法改正議論が起こるだろう。ならば私達はこの過半数をめぐる戦いに備える必要がある。許せない事に許せないと声を上げる権利と、国家権力に対して「No」を突きつける権利は、まだ私達の手にあるのだから。