ブラジル人女性が、AIを活用した病院管理システムによって「救命治療を受ける価値がない」と判断される
そのため、集中治療室への転院が遅れた結果、死亡した。この事件は、生死に関わる医療判断において人工知能の役割が拡大していることについて、深刻な疑問を投げかけている。
この悲劇的な事例は、患者が究極の代償を払わされる一方で、選任されていないアルゴリズムが医師の判断をますます覆しつつあるという懸念を強めている。
32歳のレベカ・カルドソ・テネンテ・モリーナさんは、容態が急速に悪化する中、集中治療室のベッドが空くのを5日間待った末に死亡したと報じられている。
医師たちは、彼女の症例を自ら検討する代わりに、モリーナさんの生死をAIシステムに委ねてしまった。
しかし、AIはモリーナさんの優先度を低いと判断し、緊急治療を遅らせた。
彼女の家族は現在、この遅れが彼女の命を奪ったと考えている。
家族はAI主導の病院システムを非難
モリーナさんは胆石の治療を求めて、当初サン・ジョアン・ネポムセーノ病院に入院していた。
彼女の容態が悪化するにつれ、医師たちは最終的に介入し、約186マイル離れたオリヴェイラにある集中治療室（ICU）への転院を試みた。
しかし、彼女の容態が緊急を要するにもかかわらず、AIシステムがその要請を却下したため、転院は間に合わなかった。
ブラジルのメディア「MG1」によると、モリーナさんの親族は転院を強制しようと、緊急の法的措置さえ講じたという。
しかし、その努力も即時の治療を確保するには至らなかった。
彼女の姉で弁護士のサメラ・カルドソ・テネンテ・フルタド氏は、この致命的な遅れにおいて、州が運営するAIシステムが中心的な役割を果たしたと述べている。
フルタド氏によると、州規制運営センター（Core-MG）は自動スコアリングシステムを使用しており、このシステムにより、モリーナさんの状態が本来受けるべきものよりも低い重症度ランクが割り当てられたという。
その結果、他の患者が彼女よりも優先的に治療を受けることになった。
「私たちが目にしたのは、患者が極めて重篤な状態にあるかどうかを判断する医師の裁量権が失われていたという事実でした」とフルタド氏は述べた。
「患者の病状が深刻かどうかを判断しなければならないのは、もはや患者と共にその現実を目の当たりにしている医師ではなく、『コア』である。」
アルゴリズムが病状の悪化を無視したとされる
フルタド氏によると、モリーナさんの病状が深刻化しているという証拠が積み重なっていたにもかかわらず、システムは彼女の優先度を引き上げようとする試みを繰り返し拒否していたという。
「彼女は本来なら10の評価だったはずなのに、システムは6.8しか認めなかった」とフルタド氏は説明した。
「そのため、8の評価の患者や6.9の評価の患者が彼女より先に進まれてしまい、システム内で適切な経過をたどることができなかったのです」
家族によると、この自動採点システムは、患者を直接治療していた医療専門家の判断を覆す、柔軟性を欠いた「門番」となってしまったという。
「システムは、絶えずデータを送り込み続ける検査結果のせいで、彼女の重症度レベルを引き上げることを認めなかったのです」とフルタド氏は語った。
批判派にとって、この事件は、限られた医療資源を配分する際、医療行政機関が医師ではなくアルゴリズムにますます依存しているという懸念の高まりを浮き彫りにしている。
「私の姉は単なる数字ではなかった」
モリーナさんの家族は、この悲劇が、患者を自動化されたシステム内のデータポイントに還元することの危険性を露呈していると述べている。
「私の姉も、他の人々も、単なる数字ではありません。単なるプロトコルでもありません。システムに投入されたCPF（ブラジルの国民識別番号）に過ぎないわけでもないのです」と、フルタド氏は語った。
「彼らには家族がいたし、夢もあった。これから先、長い人生が待っていたのです。」
この感情的な証言は、実世界での影響が十分に把握される前に、重要な分野でAIシステムが導入されていると警告する批判者たちの共感を呼んでいる。
当局がシステムを擁護
この論争は、州当局がAIを活用したシステムを大きな技術的進歩として宣伝してからわずか数週間後に発生した。
5月にこのプラットフォームが導入された際、ミナスジェライス州保健局次官のポリアナ・カルドーゾ・ロペス氏は、このシステムにより監視体制が強化され、患者管理が改善されると述べていた。
「Coreは1日3回更新される病床マップを提供します」と、ロペス氏は当時語った。
「これにより、プロセスをより厳密に管理できるようになり、病床を待つ一人ひとりの臨床状態やニーズに関するより質の高いデータを生成できるようになります。」
モリーナ氏の死亡を受け、州の保健当局者はこの対応を擁護し、転院は病床の空き状況と臨床上の要件に基づいて行われていると主張した。
当局者はまた、この新システムによって、病院間の患者転院に関する州のプロトコルが根本的に変更されたわけではないと主張した。
医療分野におけるAIへの懸念が高まる
この事件は、世界中の医療システム全体で急速に拡大している人工知能（AI）をめぐる議論をさらに激化させる可能性が高い。
AIの支持者は、AIが効率性を向上させ、事務負担を軽減できると主張する一方、批判派は、人間の判断が軽視されることで、自動化された意思決定が危険な盲点を生み出す恐れがあると警告している。
モリーナさんの家族にとって、この問題は痛ましいほど単純明快だ。
彼らは、アルゴリズムが愛する人の治療順番を決定し、そのシステムが誤った判断を下したと信じている。
今、一人の若い女性が亡くなり、人工知能に、誰が救命医療を受けられ、誰が受けられないかを決めるような判断を任せてよいのかという疑問が高まっている。
この悲劇的な事例は、患者が究極の代償を払わされる一方で、選任されていないアルゴリズムが医師の判断をますます覆しつつあるという懸念を強めている。
32歳のレベカ・カルドソ・テネンテ・モリーナさんは、容態が急速に悪化する中、集中治療室のベッドが空くのを5日間待った末に死亡したと報じられている。
医師たちは、彼女の症例を自ら検討する代わりに、モリーナさんの生死をAIシステムに委ねてしまった。
しかし、AIはモリーナさんの優先度を低いと判断し、緊急治療を遅らせた。
彼女の家族は現在、この遅れが彼女の命を奪ったと考えている。
家族はAI主導の病院システムを非難
モリーナさんは胆石の治療を求めて、当初サン・ジョアン・ネポムセーノ病院に入院していた。
彼女の容態が悪化するにつれ、医師たちは最終的に介入し、約186マイル離れたオリヴェイラにある集中治療室（ICU）への転院を試みた。
しかし、彼女の容態が緊急を要するにもかかわらず、AIシステムがその要請を却下したため、転院は間に合わなかった。
ブラジルのメディア「MG1」によると、モリーナさんの親族は転院を強制しようと、緊急の法的措置さえ講じたという。
しかし、その努力も即時の治療を確保するには至らなかった。
彼女の姉で弁護士のサメラ・カルドソ・テネンテ・フルタド氏は、この致命的な遅れにおいて、州が運営するAIシステムが中心的な役割を果たしたと述べている。
フルタド氏によると、州規制運営センター（Core-MG）は自動スコアリングシステムを使用しており、このシステムにより、モリーナさんの状態が本来受けるべきものよりも低い重症度ランクが割り当てられたという。
その結果、他の患者が彼女よりも優先的に治療を受けることになった。
「私たちが目にしたのは、患者が極めて重篤な状態にあるかどうかを判断する医師の裁量権が失われていたという事実でした」とフルタド氏は述べた。
「患者の病状が深刻かどうかを判断しなければならないのは、もはや患者と共にその現実を目の当たりにしている医師ではなく、『コア』である。」
アルゴリズムが病状の悪化を無視したとされる
フルタド氏によると、モリーナさんの病状が深刻化しているという証拠が積み重なっていたにもかかわらず、システムは彼女の優先度を引き上げようとする試みを繰り返し拒否していたという。
「彼女は本来なら10の評価だったはずなのに、システムは6.8しか認めなかった」とフルタド氏は説明した。
「そのため、8の評価の患者や6.9の評価の患者が彼女より先に進まれてしまい、システム内で適切な経過をたどることができなかったのです」
家族によると、この自動採点システムは、患者を直接治療していた医療専門家の判断を覆す、柔軟性を欠いた「門番」となってしまったという。
「システムは、絶えずデータを送り込み続ける検査結果のせいで、彼女の重症度レベルを引き上げることを認めなかったのです」とフルタド氏は語った。
批判派にとって、この事件は、限られた医療資源を配分する際、医療行政機関が医師ではなくアルゴリズムにますます依存しているという懸念の高まりを浮き彫りにしている。
「私の姉は単なる数字ではなかった」
モリーナさんの家族は、この悲劇が、患者を自動化されたシステム内のデータポイントに還元することの危険性を露呈していると述べている。
「私の姉も、他の人々も、単なる数字ではありません。単なるプロトコルでもありません。システムに投入されたCPF（ブラジルの国民識別番号）に過ぎないわけでもないのです」と、フルタド氏は語った。
「彼らには家族がいたし、夢もあった。これから先、長い人生が待っていたのです。」
この感情的な証言は、実世界での影響が十分に把握される前に、重要な分野でAIシステムが導入されていると警告する批判者たちの共感を呼んでいる。
当局がシステムを擁護
この論争は、州当局がAIを活用したシステムを大きな技術的進歩として宣伝してからわずか数週間後に発生した。
5月にこのプラットフォームが導入された際、ミナスジェライス州保健局次官のポリアナ・カルドーゾ・ロペス氏は、このシステムにより監視体制が強化され、患者管理が改善されると述べていた。
「Coreは1日3回更新される病床マップを提供します」と、ロペス氏は当時語った。
「これにより、プロセスをより厳密に管理できるようになり、病床を待つ一人ひとりの臨床状態やニーズに関するより質の高いデータを生成できるようになります。」
モリーナ氏の死亡を受け、州の保健当局者はこの対応を擁護し、転院は病床の空き状況と臨床上の要件に基づいて行われていると主張した。
当局者はまた、この新システムによって、病院間の患者転院に関する州のプロトコルが根本的に変更されたわけではないと主張した。
医療分野におけるAIへの懸念が高まる
この事件は、世界中の医療システム全体で急速に拡大している人工知能（AI）をめぐる議論をさらに激化させる可能性が高い。
AIの支持者は、AIが効率性を向上させ、事務負担を軽減できると主張する一方、批判派は、人間の判断が軽視されることで、自動化された意思決定が危険な盲点を生み出す恐れがあると警告している。
モリーナさんの家族にとって、この問題は痛ましいほど単純明快だ。
彼らは、アルゴリズムが愛する人の治療順番を決定し、そのシステムが誤った判断を下したと信じている。
今、一人の若い女性が亡くなり、人工知能に、誰が救命医療を受けられ、誰が受けられないかを決めるような判断を任せてよいのかという疑問が高まっている。
コメント