対話型AIへの依存で“脳が壊れる”？脳科学者と柳田邦男が危惧する「気持ちいい対話」の代償

AIは人間の「気持ち」を理解しているわけではない

酒井　昨今、生成AIの話題が毎日のように取り上げられ、その利用についての報告がありますが、私は生成AIの安易な活用について、非常に強い危機感を持っています。科学的な研究の延長線上にこの技術があることは理解できますが、技術自体が独り歩きし、人間が本来持つ創造力や心のあり方に悪影響を及ぼす可能性があると強く感じているからです。

　柳田先生は生成AIについてどのように感じていますか。

柳田　生成AIという新しい技術は、人間の知性・感性の根幹に触れる問題をはらんでいると思います。人間の知的活動の中で最も大切な言語機能、あるいは思考の営みに関わる技術の導入がいったいどんな意味を持つのか、哲学的に捉えなければならないでしょう。

　一度開発された技術の使用は止められないという意見もありますが、私はこのAIを人間社会の中、特に学校教育の中に取り入れることに対して、専門家だけでなく、教育に関わる教師や親も含め、一人ひとりが深い造詣を身に付け、是非を考えるべきだと考えています。それくらい重大な問題を含んでいると受け止めています。

酒井　本当にそのとおりだと思います。「教育とは何か」といったことや「言葉や思考はどうして人間にしかないのか」、もっと言えば「どこまでが言葉なのか」「何が対話なのか」、そうした根本的なことを問い直す機会は今まで少なかったのです。そうしたことが議論されないまま、技術ありきで、「生成AIを賢く活用しよう」という方向に議論が大きくシフトしているように思えてなりません。

　しかし、そもそも生成AIは喧伝されているような素晴らしい技術革新なのかということを私は疑問視しています。なぜなら今言ったように、人間の思考や言語というのはまだ科学的に解明されておらず、生成AIにできるのは言葉を並べて文章を作ったり、疑似的な対話をしたりすることだけだからです。相手の気持ちや言葉の周りにある背景を解析することはできません。

　それなのに、作られた文章や対話を利用者が自分で勝手に解釈して、理解したような感覚に陥るのはとても危険です。現在のまま利用を促進していけば、考えたり、想像したりする力がどんどん衰えるのではないかと危惧しています。

対話型AIへの依存で脳の働きが壊れていく

柳田　以前からスマートフォンへの依存の問題が指摘されてきましたが、同じように生成AIへの依存も問題です。テレビで見たのですが、ある学校では生徒たちが課題について議論して答えを出した後、それをAIで確認していた。合っていると全員がほっとした表情になりました。彼らはAIが「神の声」のように絶対的に正しい答えを出してくれると思っているように見えました。

　人間は依存に陥る危険性を持っています。麻薬やアルコールだけでなく、スマホのように便利なもの、ちょっと面白いものにも傾斜していく。同じようにAIに依存することで人間の主体性や創造的な考え方、自分が感じたことを言語化するという脳の働きが壊れていくのではないでしょうか。

　たとえば何かのインタビューを受けていて、私が話した言葉の中に取材している人の知らない単語があったとします。その人は、その場ですぐスマホでそのキーワードを検索するんですね。分からなければ今の言葉はどういう意味ですかと私に聞けばそこから話題が膨らむこともあるでしょう。しかし、スマホで検索して答えを出す。今や、スマホは正しい道案内をしてくれる役割を担う道具として、常に考えるより前に検索することが習慣化してしまっています。

　スマホで検索すると、自分で情報を取りに行かなくても生成AIが答えてくれる時代がもう来ていますね。

酒井　依存と言えば、これまでは頭の中で思考して自問自答するという、自分自身との「対話」が思考の言語化であったわけですが、生成AIの登場により、外在する対話風のAIによって自分の思考をまとめられるかのような錯覚さえ生まれつつあります。

　特に対話型AIへの依存は危険です。自分の意見や考えに同意してくれたり、肯定してくれたりすると、「自分の考えは正しい」「社会を変えられる」などと危険な思い込みに陥る可能性がある。自分に都合の良いように対話が引き出されるという生成AIの「自己欺瞞性」や「共感性」にこそ、恐ろしさがあると思います。

　リアルな人間との対話であれば、議論になれば知的な意味での「取っ組み合い」になるようなこともあるでしょう。しかしAIとの対話であればそうした不快なやり取りをする必要はありません。人と議論するよりAIに依存する方が居心地がよくて、四六時中、手放せなくなる。もし小学校の頃からAIに慣れてしまえば、「もう友達も親もいらない」となりはしないでしょうか。自分の「絶対的な理解者」であるAIだけあればいいとなれば、誰もその考えに修正を加えられません。

　海外ではAIと対話しているうちに自死に至った複数の事例が報告されています。

スピードアップ主義と100点主義の落とし穴

『AI脳クライシス デジタルは人から何を奪うのか』（酒井邦嘉、集英社インターナショナル）

柳田　現代の文明の危機的な要因というのは幾つかあって、1つは「スピードアップ主義」で、いかに早く合理的に仕事なり研究なりを済ませるかというもの。もう1つは「100点主義」と言っていいと思うのですが、完璧な答えを求めたがる。

　このスピードアップ主義と100点主義というものは、一般社会の中では、たとえば電車の運行のダイヤを過密にして、いかに多くの電車を走らせて、合理的に利益を上げていくかというようなこととなって表れていると思うのです。その行きすぎた事例として、2005年のJR福知山線脱線転覆事故という大惨事が起こったのではないかと私は見ています。スピードアップ主義と100点主義が逆にストレスとなって、エラーを誘導してしまう可能性がある。

　それがAIの場合には、もっと心の中の問題として起こってくるのではないか。事故のように表面的な目に見える形ではなく、内面的な人間の心の営み、あるいは対人関係、コミュニケーションの問題など、そういうところが壊れていくという形で表れるのではないかと思うのです。