中国江蘇省徐州市の徐州医科大学附属医院で、医師が診察中に生成AIサービス「豆包」を使って薬の情報を調べ、血圧を下げる薬を処方したとして、患者の家族が安全性への懸念を訴えている。家族は医師がAIの回答を参照していたことに不安を抱き、処方された薬を受け取らなかったという。中国の医療現場における生成AIの利用と処方責任をめぐり、インターネット上で議論が起きている。
台湾の聯合報が10月27日、中国本土の海報新聞、新黄河、華商報などの報道を引用して伝えた。
患者の家族が25日、診察時の様子を撮影した映像をインターネット上に投稿した。
家族によると、高齢の患者は心臓や脳の血管に関係する病気で10日余り入院していた。退院後も血圧が十分に下がらなかったため、別の降圧薬への変更を希望して受診した。
医師が携帯電話で薬の情報を検索
診察中、家族は医師が携帯電話を取り出し、生成AIサービス「豆包」に薬の情報を問い合わせていることに気付いた。
豆包は中国のIT大手、字節跳動（バイトダンス）が開発した生成AIサービスだ。
家族は、医師が薬について調べること自体は理解できるものの、生成AIの回答を参照して処方することには不安があると訴えた。
また、処方された薬によって問題が起きた場合、医師とAIサービスのどちらが責任を負うのか疑問を示した。
家族は最終的に新たな薬を受け取らず、それまで処方されていた薬を使い続けたという。
医療現場でのAI利用に賛否
華商報によると、投稿された映像には、医師が診察中に携帯電話を操作し、豆包とのやり取りを確認する様子が映っていた。
画面には、重点的に検査すべき項目や、慎重に使用する必要がある薬についての情報が表示されていたという。
インターネット上では、医師が生成AIを利用することへの不安が示された一方、医師が薬の副作用や注意事項を確認する補助的な手段としてAIを使うことは問題ないとの意見も出た。
中国の国家衛生健康委員会の規定では、AIが自動的に処方箋を作成することは禁止されており、医師自身が処方を行い、法的責任を負う必要がある。
今回の事例について、医師がAIの回答をどの程度処方判断に反映させたのか、処方内容に医学的な問題があったのかは確認されていない。