「AIは医療現場でどのような役割を果たすべきか？」
「美容とファッションの分野において、AIはどのような役割を果たすべきか？」
医療分野での機械学習の使用とUnited Healthcare AIスキャンダルについて
私は社会学の専門家であることを知っている人もいるかもしれません-具体的には、大学院で医療社会学を学びました。これは、人々やグループが病気、医学、医療機関、および健康に関連する概念やアイデアとの関わり方に焦点を当てたものです。
私は非常勤講師として、医療分野に進む予定の学部生にこれらの問題について教えていました。私たちの医療提供者になる人々が、社会的、経済的、人種的な地位がどのように私たちの健康と関わっているかを理解することは非常に重要です。すべての病人は同じではなく、それを認識することが、高品質のケアを提供する前提条件となります。
これらの文脈を説明するのは、本日のトピックに対する私の視点を示すためです-医療分野での機械学習の応用です。これは非常に大きなトピックなので、少し待ってからこの話題について話すことを決めました。おそらく、後日もこれについて話すことになるでしょう。
生と死について
私が医療領域で機械学習を使用することについて話すのが難しい理由の一つは、失敗のリスクが非常に重大であるためです。例えば、オンラインで注文した靴下の到着日を間違えて予測した場合、最悪の場合でも数日間足が冷えるだけです。しかし、医療の場では、機械学習モデルが間違いを comits した場合、リスクは生命の喪失や生活の質の喪失など非常に現実的なものになります。
医療の場で機械学習モデルが間違いを comits した場合、リスクは生命の喪失や生活の質の喪失など非常に現実的なものになります。
もちろん、私たちの医療提供者は、日常的な仕事の中で既にこのリスクについて認識しており、それに対処する方法を学んでいます。しかし、一般的にデータサイエンティストや機械学習モデル開発者は、この種のリスクを考えることに慣れていません。分類モデルの例としてモデリングする場合、タスクの重要な部分は、実際に発生しないイベントを予測したときにどのような悪いことが起こるか（FP）、またはイベントが起こらないと予測したが実際には起こる（FN）場合のコストを推定することです。他の種類のモデルでも、モデルが望ましい値または実際の値と大きく異なる予測をする場合のコストを考慮に入れる時間を費やします。共通する要素は、モデルには常に避けられない誤差があるということです。過去に何度も話してきたように、モデルの出力は何らかの形で確率に基づいており、これにより誤った行動（望ましくない行動）が生じる可能性があります。
しかし、健康状態の中で誤診か、他の種類のエラーのコストは何を意味するのでしょうか？既に明らかでない場合、お金はモデルの可能なエラーからの潜在的な損失の一部に過ぎません。医療分野や他の産業でも、お金の損失は「生命の喪失」や「自立生活の喪失」と比較して優先度が低いはずです。損害の評価が行われる裁判において法的システムがこれらのものに金額を割り当てようと試みても、それはまったく同じではありません、特にそれがあなた自身の生命または生活の質に関わる場合です。
United Healthcare
United Healthcareが機械学習を実践で利用している様子 は、「お金」が「生命」よりも医療の意思決定で優先されることがどれほど悪い結果をもたらすかということを浮き彫りにしています。モデルそのものとはあまり関係がありません。なぜなら、モデルに優れた医療結果を優先させることを教えることができます。
残念ながら、私たちの医療システムは2つの相反する優先事項、つまりケアの質と利益を抱えています。これらは常に緊張状態にあるため、平和に共存できるという考え方を断固として拒否しますが、アメリカのシステムはこれに基づいています。それがUHCが行っていた（している？）こととその理由を話し合う際に心に留めておくべき重要なことです。
UHC（アメリカ合衆国で最も支払いが行われていないとされている最悪の主要な健康保険会社）が行っていたことは次の通りです：
- 人は保険料を支払い、カバレッジが提供されるためにすべきことをすべて行います;
- 年配者および/または病気になり、入院治療が必要になります;
- UHCのモデルは、ケースと患者の一般特性を提供し、回復ケアにかかる時間を予測します。この予測は、医師がアドバイスする回復に必要なケア期間よりもはるかに短い期間です;
- UHCは、モデルを信頼して医師の代わりになり、回復までの長いケア期間の支払いを拒否し、患者を回復する前に治療施設から追放します。
多くの医師や医療システムの学者は、患者が必要とするケアについての医師の教養を持った意見を見くびるとき、健康保険会社が「医師免許を持たないで診療する」と話しています。これはまさにそのような行動です。UHCのスタッフ（モデルの支援を受けて）が患者のケアの進行を変えているとき、それをどう呼ぶべきですか？
しかし、これは新しいことではなく、実際には保険会社には医師の意見を疑問視するためのモデルを持つ必要はありません。これは当然のことであり、事前承認などの形で私たちの健康保険制度で毎日起こっています。保険会社は、最終的な選択を行っているスタッフ医師がいると主張しますので、「医師免許を持たないで診療する」ということは適用されないと主張しますが、これらの医師の明白なインセンティブは患者ではなく保険会社側にあります。これらの医師は、主治医よりも患者に対してより高額なケアを勧めることはありません。
機械学習の応用
では、なぜUHCの行動が今話題になっているのでしょうか？そして、これは実際には機械学習と何の関係があるのでしょうか？ UHCの高齢患者の後期ケアに必要な最適な期間を決定するモデルは、naviHealthという会社によって提供されました。この会社はまさにこのようなケースに特化しています。彼らのウェブサイトを読んだ限りでは、naviHealthは高齢患者のケア施設での滞在時間を短縮する方法を見つけています。彼らはまた、患者が帰宅する前に相談を受けるという事例管理の要素も提供しているようです。彼らのウェブサイトでは、彼らは保険会社に「大幅なコスト削減」を提供できると明言しています。
しかし、ポイントは、このモデル「nH Predict」が、ケアの結果ではなく、コスト削減のみに合致しているしきい値が設定されていたということです。
別の言い方をすれば：入院治療施設に滞在することを許可し、しかし、早く帰宅する準備ができている場合は、それは素晴らしいことです。誰もが必要以上に長く入院したくありません（食事を試したことがありますか？）。これは、高品質のケア、彼らが説明する事例管理、およびその他の支援サービスを提供し、患者が必要なケアを受ける間にコスト削減を実現できる可能性があります。しかし、UHCがしたことは、これらのサービスを提供して患者を早く退院させることによってコスト削減を実現したのではなく、患者が準備ができているかどうかにかかわらず、入院費用の支払いを拒否し、彼らを追い出して自宅に送り返したということです。
UHCがしたことは、これらのサービスを提供して患者を早く退院させることによってコスト削減を実現したのではなく、患者が準備ができているかどうかにかかわらず、入院費用の支払いを拒否し、彼らを追い出して自宅に送り返したということです。
モデルが健康について学ぶ方法
私が明確にしたいのは、「AIが尋常ではないことをしていた」というわけではなく、人間が倫理的でない決定をした上で機械学習を利用して責任を軽視していたということです。もし、あなたがアメリカの保険会社であれば、シニアを入院治療施設から追放することについて、彼らの生活や健康への結果について考慮せずに行うことができます。あなたはそのためにモデルの許可を得る必要はありません。しかし、UHCは、人間のレビュワーが承認するだけのモデルの推奨事項がある場合、モデルが独立した正確さを持っていると人々が想定するため、そのカバーが存在すると認識しました。つまり、このケアの価格タグを見ていないだろうということを確信できます。
ただし、モデルは数学的な言語にパターンを結集させる試みに過ぎず、何の情報を与えるか、どの問いに答えるように学習させるかは制御しません。入院治療の日数を予測するモデルを作成する場合、以下の手順で行います。
- けがや病気の過去の患者ファイルの大量のデータセットを収集します。入院治療を受け、治療結果（回復、再入院、死亡など）の情報が含まれるファイルです。
- これらのファイルを数値データに変換します。各患者をスプレッドシートの行と考え、患者の年齢、初期のけがの深刻さ、過去の医療歴の情報、糖尿病、心臓病、認知症などの他の病気の有無など、様々な要素を収集します。これがトレーニングデータとなります。最も重要なのは、A. どれくらいの日数のリハビリ入院治療を受けたか、およびB. 治療結果です。
- 次に、質問を明確にする必要があります。この場合、モデル学習を形成する一つの方法は、「良い結果を出した患者の中で、症例の特性をすべて考慮した場合、どれくらいの日数のリハビリを受けたか？」と設定することです。そして、「悪い結果を出した患者の中で、症例の特性をすべて考慮した場合、どれくらいの日数のリハビリを受けたか？」と比較するかもしれません。これはあくまで仮説的な質問の形式の一つであり、他にも質問やトレーニングデータの組み合わせ方はさまざまあります。
最終的に、各患者に対して、良い結果のために適切なリハビリの日数の推定値が得られます。範囲が得られる場合もありますし、特定の日数に基づく良い結果の確率が得られることもあります。また、一定の点まで日数を増やすと確率が上昇し、一定の点を超えると再び危険となる可能性もあります。
ただし、リハビリの日数は他の要素とは独立していないことを忘れないでください。感染症や合併症、他の病気など、長期の入院が必要な場合もありますが、それは快復ではなく、不幸な要因（追加の病気）によるものです。ですので、長すぎる入院も潜在的には良くありませんが、滞在日数とは関係のない理由によるものです。因果関係が考えられる場合、時間的な順序を考慮すると理解しやすくなります。
モデルの結果を活用する
モデルがあるので、患者に関する情報を教えると、良い結果を得るためにリハビリ入院が必要な期間の推定値を教えてくれます。ここで非常に重要な質問は、この情報をどのように利用するかです！
もしも私たちがUHCなら、自分たちのお金を節約することを目標にするでしょう。推奨される良い結果の期間よりもさらに低い最下限を採用し、その点での治療費支払いの意欲を打ち切るでしょう。報道に基づけば、このような対応がされているようです。
しかし、患者の結果を目指す場合は、一歩引いて考える必要があります。長期間にわたって患者が病院やリハビリ施設に滞在するのは非医学的な理由ではないでしょうか？医師が不適切な理由で患者をリハビリ施設に送っていると思いますか？それは一体どういった理由か？私は本当に考えつかないほど、医師の立場からするとそれが理にかなっているケースはほとんどないと感じています。先ほども述べたように、状態が改善された後に病院に滞在したいと思う人はいません。もしそうなる場合は、医師の行動を変える方法を模索すべきですが、患者のケアの質を損なうことはありません。おそらく、入院治療の高額な料金を請求している病院の経営陣が患者を長く滞在させたいのかもしれませんが、医師の給与は患者の滞在期間に結び付いていません。医師のインセンティブは、患者が回復することです。
私が言いたいのは、患者の回復を目指しているのであれば、このモデルを関与させること自体がほとんど意味がないと思うということです。現在の患者の健康に対する最も大きな危険は、リハビリ施設での過長な滞在ではないことを念頭に置いてください。
この記事は、ほとんどの読者がここに訪れる理由である機械学習についてですが、それだけでなく、医療の経済に関する問題についても触れています。これらの問題は、いずれのアメリカ人にとっても重要です。医療システムは早かれ遅かれ私たち全員に影響を与えるからです。データサイエンティストにとっても、モデルを実稼働状態に置くということが何を意味するか、再現率と適合率という観点だけでなく、実際の人間の生活に与える影響という観点から考えることは良いエクササイズだと思います。モデルの最適化の責任はあなたにあります。モデルを構築する際に、そのモデルが人々や社会に対してポジティブまたはネガティブな影響を与える効果を生み出す意思決定を行うことはできますが、「モデルがそうした」と手を上げて投げ出すことはできないのです。
モデルが人々の医療に関する選択をするわけではなくても、それは人々に影響を与えます。 (もし影響を与えないなら、なぜそれを作っているのですか？) 私はこの分野のすべての実践者に、私たちの仕事を進めるにあたって、これらすべてを心に留めておくことをお勧めします。
*医療社会学が関心を持つ可能性がある質問の例は次のようなものです：
- 持続的な病気を持つ人々は、自分自身や自分たちの社会での位置をどのように認識していますか？
- 人々が医療提供者であるとき、彼らの生活やアイデンティティはどのように異なりますか？
- 少数派や不利な立場にあるグループの長期的な健康結果はどうなっており、それが多数派グループとどのように異なるのですか？
- 環境問題は人々の健康にどのように影響し、これらは社会構造/特権とどのように相互作用しますか？
これはほんの一例です — この社会学の分野は、人々の生活と幸福に非常に重要な多くのテーマを扱っています。
www.stephaniekirmer.comで私の作品をもっと見ることができます。
参考文献
国会議員委員会、規制当局が、その医師が請求を拒否することを許可するCignaのシステムに疑問を呈す
調査企画とキャピトルフォーラムによると、Cignaはその医師に何百人もの拒否を許可しているとのことです。
www.propublica.org
UnitedHealthは不具合のあるAIを使用して、高齢患者の医療的に必要なカバレッジを拒否していると訴えています
元受益者の家族は、UnitedHealthのAIシステムが医療的に必要な請求を積極的に拒否していると主張しています。
www.cbsnews.com
ホーム – naviHealth
シニア中心のケアの未来はここにあります
navihealth.com
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
