私が生成AIに違和感を感じる理由

今回もちょっと脱線的な話題を取り上げたいと思います。

今、「Chat-GPT」を中心とした「生成AI」と呼ばれる領域が大変盛り上がっているように感じられます。

生成AIに自分が知りたいことを文字入力すると、ものの数十秒で膨大な資料を参照して意見をまとめてくれたり、

「こんな画像を作ってほしい」という指令を打ち込むと、その目的に沿った画像をこれまた瞬時に作成してくれる画像生成AIなんてのもあるそうです。

医療業界でも生成AIへの関心は高いように見えます。私が感じた現時点での医療界の最大公約数的な意見としては、

「まだ今は正確性が完璧ではないけれど、今後技術の進歩に従って、実際の医療現場での活用が期待できる」というものであるように私は思います。

で、私も「Chat-GTP」をちょこっと使ってみました。そして英語で質問文を書いた方がより正確になりやすいということだったので、翻訳ソフトを使いながら次のような質問をしてみました。

【質問】化学療法に感受性の高い悪性腫瘍を5つ挙げて下さい

【Chat-GPTの回答】
化学療法とは、がんを治療するために薬剤を使用することを指します。ここでは、一般的に化学療法に感受性が高いとされる5つの悪性腫瘍を紹介します：

白血病： 化学療法は、急性リンパ芽球性白血病（ALL）や急性骨髄性白血病（AML）など、多くの種類の白血病に対する主要な治療法です。

リンパ腫： ホジキンリンパ腫、非ホジキンリンパ腫ともに化学療法に感受性があり、化学療法はしばしば主要な治療手段として使用されます。

乳がん： 早期乳がんの手術後の補助療法として化学療法が行われることが多く、残存がん細胞を根絶させる効果が高い。

肺がん： 進行期の非小細胞肺がんの一次治療として行われることが多く、腫瘍の縮小や症状の改善に効果があります。

卵巣がん： 卵巣がんの一次治療として化学療法が行われ、腫瘍の縮小や再発リスクの低減に高い効果を発揮します。

なるほど、私の質問の仕方がざっくりとしているということもありますが、

だいたい内容的には大きな間違いはない回答が得られているように感じました（乳がんと肺がんについてはどうかと思う部分もありますが）。

でもとりあえず思考の手がかりとしてこのレベルの回答を数十秒で生成してくれるのであれば、確かに利用価値はあるように思います。

ただ私個人としては生成AIが進歩すれば医療の質が上がるのかと問われたら、そうではないと考えています。むしろ使い方によっては逆の結果をもたらす危険性さえあると考えています。

生成AIがやっている作業を一言で言えば、「最大公約数的意見の効率的な創出」だと私は思います。

これは答えがある程度定まっている課題だと非常に有益なツールになると思います。

例えば、ビジネスでの文章の作成、数学の問題の回答の導き方、結婚式での挨拶文の作成なんかにもとても使えると思います。

逆に言えば、医療の分野でも誤診のない正確な診断というものに対するニーズは以前から大きいです。

人間だと誤診をしてしまうところを、進歩した生成AIならそういうミスなく正確な診断へ最短距離で導いてくれるのであればと、そんなイメージが医療者の中にあるのかもしれません。

確かにそうした世界観の中では、生成AIに期待をかけるのは自然な流れです。

ただ私が現在悪性リンパ腫について行っているような主体的医療の視点から見た考察、これは生成AIにどんな問い方をしたところで決して出てくることはありません。

なぜならばそれは私が今初めて考え始めていることで、（おそらく）世界のどこにもその情報は落ちていないからです。

ましてや主体的医療では絶対的に正しい答えなど出るわけがありません。生成AIのもう一つの弊害は「意見の画一化」ですので、むしろ正しい答えが存在しないはずの世界に正しい答えがあるかのような幻想を抱かせる悪影響をもたらしかねません。

考えてみれば、医学論文の世界も、その中で最もエビデンスレベルが高いとされるRCT論文も、やっていることは「意見の画一化」なのです。

例えば糖質制限に対する反応も誰に対しても一様ではありません。基本的に世の中が糖質過剰文化になっている状況なので、多くの人にとって糖質制限は健康貢献的な影響をもたらしてくれるはずですが、

それとて、その人が生来どのような状態で生まれたのか、どこで育ち、どんなものを食べてきたのか、糖質に対してどんな価値観を抱いているかなどの多様性によって、糖質制限がどんな影響をもたらすかが変わってきます。

でも医学論文は「糖質制限とは○○である。なぜならばRCT論文で実証されたからだ」という意見の画一化を、科学的という雰囲気（実際は統計学的な雰囲気ですが）を帯びながら、あたかも絶対的な真実であるかのように伝える力を持っています。というかそういう文化の中に私たちは生きています。

生成AIがやっていることも、そうした医学論文がやっていることの延長線上にあるように思えます。

要するに病気には絶対的な原因があり、その原因に正確にアプローチすることでその病気はきっと解決するはずだという理念に基づいた固定観念です。

実際には人間の病気というものはそうシンプルではないし、そうなのに明確な原因があるという設定には間違いがないという前提で考え続けて文化を築き続けてきたために、今の病気が治らないのが当たり前でどんどん患者が増えていき、お金もどんどんかかっていく状態が導かれてしまったように私には思えています。

そういえば、原因探しにこだわること自体が新たな原因を作ってしまうこともあるような現象を以前にも学びました。

私が行っているのは、そうした「病気には明確な原因（特に外部原因）がある」という大前提から離れて世の中を見直し続ける作業なので、生成AIの精度の高さに関わらず、私の営みの本質的な助けにはなりません。

もちろん上述のように、「既存の医学では今どのように捉えられているのか」という最大公約数的な意見を確認する目的であれば生成AIは役に立つと私も思います。

その上で自分はどう考えるか、ここに私は新しい医療を作り出す希望を感じているのです。

くれぐれも生成AIの使い方を間違うことなく付き合っていければと思います。


たがしゅう

関連記事

• 変化に適応する力を鍛える (2014/01/24)