Follow

昨日病院でちょっと気になることがあったんですが、

受診前に自宅で事前予約する際にWebフォームで問診票などの質問事項があって、それに症状とか細かく書いてから病院に行ったんですが(それ自体はいいことだと思います)、受診時には「その回答を元にAIが自動生成した文章」がカルテに掲載されていました。

でもその文章がかなり間違っているんです。むっちゃ正確な日付で「8月11日に○○の症状が出て」などと書いてあるんですがそういう回答はそもそもしてない。AIが独自解釈で生成してる。看護師と話がかみ合わないなと思って見せてもらって発覚しました。

これ、風邪程度の診察なら大した問題にはならないんですが、今後AIがどんどん導入されていく中で、手術の内容とかに関して、AIが手順を自動生成したりして、それが間違っていたりというような医療事故、出てくるんじゃないでしょうか。

今のAIの精度に見合った利用方法で活用していかないと大変なことになりそうです。

@tomoki 病歴は「要配慮個人情報」なので、それをAIに入力しているのは個人情報の取り扱いとしても危険なような気がします…

Sign in to participate in the conversation
Vocalodon

ボーカロイド好きが集うMastodonインスタンス、通称「ボカロ丼(ボカロドン)」です。 ** This server is for "Vocaloid" lovers. If you are not, please select other server. **

image/svg+xml