生成AIを介護記録に使う前に決めておきたい入力ルールと確認の手順
「便利そうだから記録の下書きに使ってみたい」「職員がすでに個人のスマホで生成AIを使っている」——通所介護の現場でも、生成AIを業務に取り入れる話が増えてきました。ただし、何を入力してよいか、誰が確認するかを決めずに使い始めると、思わぬトラブルにつながります。今回は、事業所として最低限決めておきたいルールと、記録・書類にAIを使う際の確認の手順を整理します。
なぜ「決めてから使う」が必要なのか
生成AIサービスの多くは、入力した文章（プロンプト）をサービス改善や学習に使う場合があります。個人情報保護委員会は2023年6月、生成AIサービスの利用にあたって、個人情報を含む内容を入力する際は利用目的の範囲内であることを確認し、入力内容が機械学習等の目的外で扱われないかを事業者が十分に確認するよう注意喚起を出しています。ご本人やご家族の名前、ご自宅の状況、医療情報などを何気なく入力してしまうと、この注意喚起が指摘する問題にそのまま当てはまってしまいます。
「便利だから」で導入すると、入力してよい情報の範囲や、誰が最終確認するかが職員ごとに違ってしまいます。ルールを先に決めておくことが、結局は一番の近道です。
入力してよい情報・してはいけない情報を決める
最初に整理すべきは「何を入力してよいか」です。たとえば次のような切り分けが考えられます。
- 入力を避けたい情報：ご本人・ご家族の氏名、住所、既往歴、ケアマネジャーや主治医の氏名など、個人を特定できる情報
- 工夫すれば入力しやすい情報：年代や要介護度、症状の傾向など、個人が特定されない形に加工した状態
- 入力してよいことが多い情報：一般的な制度の仕組み、書類のひな形、文章表現の相談など個人情報を含まない内容
この切り分けは事業所ごとの契約や利用サービスの取り扱いによって変わるため、上記は一般的な考え方の例です。実際に使う生成AIサービスの利用規約・プライバシーポリシーを確認し、入力データを学習に使わない設定になっているか、保管場所がどこかを事務担当や管理者が事前に確認しておくと安心です。
誰が、どこまで確認するかを決める
生成AIは文章をもっともらしく作るのが得意な一方、内容の正しさまでは保証しません。AIが作った下書きは、次の点を人が確認する前提で使うことが大切です。
- 事実と違う記載が混ざっていないか（架空の様子や数値が紛れ込むことがあります）
- 個人情報が下書きの中に残っていないか
- 通所介護計画書や個別機能訓練計画書であれば、目標や支援内容がご本人の状態に合っているか
確認する人を「管理者」「機能訓練指導員」など役割で決めておくと、忙しい時期でも確認漏れが起きにくくなります。下書きをそのまま記録として確定させず、必ず人が目を通してから使う、という順番を崩さないことがポイントです。
小さく始めて、ルールを育てていく
いきなり全業務にAIを使うのではなく、最初は「文章表現の相談」「議事録の要約」など、個人情報が少ない範囲から始めるのも一つの方法です。たとえば、はなひろでは面談やサービス担当者会議の録音から文字起こしを作り、そこから会議記録や書類の下書きを作る仕組みを自社の事業所で運用しています。この場合も、下書きができた後に職員が内容を確かめてから会議記録として確定させる、という手順は変わりません。
使いながら「この情報は入力しない方がよかった」「この確認は毎回必要」といった気づきが出てくるはずです。最初に決めたルールを固定的なものにせず、現場の気づきに合わせて見直していく前提で運用すると、無理なく続けられます。
まとめ
生成AIを事業所で使い始める前に、入力してよい情報の範囲と、誰がどこまで確認するかを決めておくことが欠かせません。個人情報保護委員会の注意喚起にもある通り、個人情報を含む内容を入力する際は利用目的の範囲内かどうか、サービス側の取り扱いを確認する必要があります。ルールを決めたら、小さな範囲から使い始め、現場の気づきに合わせて見直していくとよいでしょう。制度や各サービスの利用規約は変更されることがあるため、実際に利用する際は最新の情報をご確認ください。
