JSAI2024 2日目: AI応用：医療・ヘルスケア
from JSAI2024 2日目
AI診断支援システムはエビデンスと謙虚さを示せるか？ Surrogate modelによるXAIとUQとの融合（宮地先生）
代理モデル ≠ 主モデル
説明可能なAI（XAI）
CDSSに要求される説明性
予測データのエビデンス
不確実性の定量化
UQ: Uncertainty Quantification
本質的なランダム性と予測不可能性
知識または情報の欠如
医学的な診断
UQの手法
CP: Conformal Prediction
予測区間
予測困難度
k-NN Surrogate model
複数の予測データの取得
評価関数による主モデルの予測データの近傍処理
LLMs vs AI診断支援システム
現状の商用LLM
説明可能性なし、不確実性の定量化
医療データに基づくLLMs ＋ ベクトル近傍検索: こっちは期待できる
これと診断支援システムとk-NN Surrogate modelを組み合わせたい
ハイブリッド方式に期待
今後のアイデア
説明可能性: むしろk近傍法に戻ってもいいのではないかとも思っている
「データを増やして、ロジックは簡単に」
「マジ神AI」の活用が介護職の意識・行動に与える影響（福田先生）
介護ニーズ急増＋人材不足への対応策としての生産性向上
生産性向上推進体制加算
「マジ神」人材を育成したいが時間がかかる
快・不快の状態を判定する
日々の「不調と異常」を捉える
同じ日のデータをカレンダービューで見れる
長期の「変化」を捉える
毎日接していると長期の変化に気づきにくくなる
週、月の単位で長期のトレンドを把握する
食事の摂取量など
支援システム利用頻度による比較
マジ神AIの利用者
データによって情報を把握して、臨機応変な対応ができるようになった
客観的なデータで状態を把握できるようになった
同じデータを見て連携する各部署で議論できるようになった
昼夜逆転のような生活リズムが改善した
まずは使ってもらわないといけない
使いやすさも含めてシステムとしての完成度が大事
課題: 使い方の伝達
質疑応答
介護施設ごとに環境が大きく違うと思うが、実験への影響は？
環境のばらつきはある
まずは調査に取り組める施設を優先して選んだ
「記録を書くという行動変容につながった」
働き方改革にもつながっている？
時短につながる業務も見えてきた
時間の使い方が変わってきた
