AI·로봇 시대의 돌봄서비스 072. AI 기반 위험예측

AI 기반 위험예측은 이용자의 과거와 현재 자료에서 반복되는 특징을 찾아 앞으로 발생할 수 있는 건강·안전·돌봄 위험의 가능성을 추정하는 과정이다. 분석에는 건강기록, 기능평가, 서비스 이용 이력, 상담 내용, 생활 환경과 센서 자료 등이 사용되며, 결과는 위험점수, 위험등급 또는 일정 기간 안에 사건이 발생할 확률로 제시될 수 있다. 이러한 결과는 사건의 발생이나 이용자의 행동을 확정하는 판단이 아니라 추가 확인과 예방적 지원의 우선순위를 정하기 위한 정보이다. AI 예측모델은 자료 준비, 개발, 성능 검증, 프로그램 적용, 영향평가와 실제 사용에 이르는 전 과정에서 품질과 안전성을 점검해야 한다(de Hond et al., 2022).

건강위험 예측은 입원, 응급실 이용, 만성질환 악화, 감염, 영양 저하와 기능 감소 등이 발생할 가능성을 미리 파악하는 기능이다. AI 모델은 연령과 질환뿐 아니라 혈압·체온 등의 건강 측정값, 복약, 수면, 활동량, 식사, 최근 의료 이용과 돌봄 기록의 변화를 분석할 수 있다. 예측하려는 사건은 구체적으로 정해야 하며 입원 가능성, 질환 악화 또는 기능 저하처럼 예측 결과가 달라지면 필요한 자료와 지원도 달라진다. 여러 자료를 함께 분석하는 기계학습은 사람이 개별적으로 확인하기 어려운 관계를 발견할 수 있지만 자료에 기록되지 않은 상태까지 알아낼 수는 없다. 의료 분야의 AI는 다양한 자료를 결합하여 위험을 예측하고 환자 안전을 지원할 가능성이 있지만 실제 업무에서 나타나는 효과와 피해 가능성을 함께 평가해야 한다(Bates et al., 2021). 건강위험 모델은 개발기관의 자료뿐 아니라 다른 지역, 기관과 시기의 자료에서도 비슷한 성능을 보이는지 확인해야 한다. 이용자 집단에 따라 위험 수준과 오류가 다르게 나타날 수 있으므로 연령, 성별, 장애, 질환, 지역과 서비스 접근성에 따른 성능 차이도 살펴야 한다. 위험점수가 높게 나타나더라도 최근 측정값, 빠진 자료, 기기 상태와 이용자의 설명을 함께 확인한 뒤 전화 확인, 방문, 건강 상담, 복약 점검, 진료 연계와 응급대응 등의 필요한 조치를 결정해야 한다. 예측의 유용성은 통계적 성능뿐 아니라 건강 악화를 조기에 발견하고 적절한 서비스를 연결하여 이용자의 건강 결과가 실제로 개선되었는지를 중심으로 평가해야 한다.

낙상과 관련된 AI 기능은 앞으로 넘어질 가능성을 추정하는 낙상위험 예측과 실제로 발생한 낙상을 확인하는 낙상 감지로 구분된다. 낙상위험 예측에는 과거 낙상 경험, 보행과 균형, 복용 약물, 시력, 주거 환경과 활동량의 변화 등이 활용될 수 있다. 낙상 감지에는 몸의 움직임과 속도 변화를 측정하는 착용형 센서, 바닥·침대의 압력 센서, 실내 동작 센서와 음성·영상자료 등이 사용된다. 일상적인 앉기, 눕기와 물건 줍기 등의 동작은 낙상과 비슷한 신호를 만들 수 있으며 실제 낙상도 센서가 감지하지 못하는 위치나 기기 미착용으로 발견되지 않을 수 있다. 따라서 낙상 감지기술이 연구 환경에서 높은 성능을 보이더라도 이용자의 다양한 움직임과 실제 주거 환경에서는 오류가 늘어날 수 있다(Newaz et al., 2023). 고독사 위험 감지는 장시간 움직임이 없는 상태, 전력·수도 사용의 변화, 연락 두절, 서비스 미이용과 사회적 고립 신호를 종합하여 안부 확인이 필요한 상황을 찾는 기능이다. 하나의 센서 신호만으로 고독사나 사망을 판단해서는 안 되며 외출, 입원, 기기 고장과 생활 습관 변화 등의 가능성을 구분해야 한다. 국내에서도 사회적으로 고립된 가구를 대상으로 AI 안부 확인과 지방자치단체의 종합적인 상황 관리를 연계하는 사업이 운영된 바 있다(보건복지부, 2024g). 위험 신호가 발생하면 이용자에게 먼저 연락하고 응답이 없을 경우 미리 정한 순서와 기준에 따라 현장을 확인해야 하며, 위험 감지의 목적은 사망 여부를 원격으로 판단하는 것이 아니라 사회적 고립과 생활의 이상을 조기에 발견하여 관계 지원, 건강관리와 생활서비스로 연결하는 데 있다.

학대와 위기상황 탐지는 기록과 행동의 변화에서 신체적·정서적·경제적 학대, 방임, 자해와 가정폭력의 가능성을 찾는 기능이다. 분석자료에는 반복되는 부상과 응급실 이용, 설명과 맞지 않는 상처, 영양·위생 상태의 악화, 평소와 다른 금융 거래, 두려움을 나타내는 말과 갑작스러운 서비스 거부 등이 포함될 수 있다. 자연어 처리는 상담기록이나 대화에서 위험을 나타내는 표현을 찾을 수 있지만 비유적 표현, 사투리, 관계의 상황과 기록자의 해석을 놓칠 수 있다. 의료 이용 자료에 기계학습을 적용하여 노인학대가 의심되는 특징을 찾아낼 가능성이 제시되 었으나 확인된 사례자료가 부족하고 잘못 분류할 수 있다는 한계가 있다(Rosen et al., 2020). 따라서 위험 신호는 학대 사실이나 가해자를 확정하는 근거가 아니라 전문가의 추가 확인이 필요하다는 정보로 사용해야 한다. 학대가 의심될 때에는 이용자가 다른 사람의 방해 없이 말할 수 있는 안전한 환경에서 현재의 위험과 원하는 도움을 확인해야 한다. 시스템이 모든 위험 알림을 보호자에게 자동으로 보내면 학대가 의심되는 사람에게 상담 내용이나 신고 사실이 전달될 수 있다. AI가 제시한 근거자료도 기록되지 않은 가족관계와 생활 상황을 충분히 반영하지 못할 수 있으므로 면담, 관찰과 다른 자료를 함께 검토해야 한다. 모델의 점수만으로 가족관계를 제한하거나 서비스를 중단하고 신고나 강제조치를 자동으로 시행해서는 안 되며, 학대·위기 탐지 기능은 위험을 조기에 발견하면서 피해자의 안전과 의사를 확인하고 필요한 전문적 지원으로 연결하는 방향으로 활용해야 한다.

서비스 중단 위험 예측은 이용자가 예정된 방문, 상담, 치료나 돌봄서비스를 이용하지 못하거나 서비스 제공이 계속되지 않을 가능성을 찾는 기능이다. 분석에는 이전의 결석과 취소, 연락 두절, 건강 악화, 이동수단, 비용 부담, 이용자 불만, 기기 접속 중단, 대기기간과 담당자 변경 등이 활용될 수 있다. 서비스 중단은 이용자의 의지 부족뿐 아니라 기관의 인력 부족, 적절하지 않은 시간 배정, 복잡한 이용 절차와 이용자에게 맞지 않는 서비스 때문에도 발생할 수 있다. 따라서 예측모델은 개인의 특성뿐 아니라 제공기관과 지역의 자원, 업무량과 서비스 공급 여건을 함께 고려해야 한다. 실제 의료 현장에서도 과거 이용 자료를 활용하여 예약 불참 위험을 예측하고 예약과 안내 방식을 조정하려는 운영이 이루어지고 있다(NHS England, 2024). 중단 위험이 높게 나타나면 이용자에게 그 이유를 확인하고 서비스 시간 변경, 이동지원, 비용상담, 방문 방식 전환과 담당자 조정 등을 제안할 수 있다. 반복적인 미이용을 단순히 비협조적인 행동으로 해석하지 말고 서비스가 이용자의 욕구와 생활 조건에 적합한지 확인해야 한다. 중단 위험점수를 근거로 신청을 거절하거나 적은 자원으로 지원할 수 있는 사람을 우선하면 기존의 서비스 접근 불평등이 심해질 수 있다. 서비스가 불가피하게 종료될 때에도 다른 기관이나 지원 방법을 안내하여 돌봄 공백을 줄여야 하며, 예측의 성과는 중단할 사람을 정확히 가려낸 비율보다 예방할 수 있는 중단을 줄이고 이용자가 적절한 대안을 선택하도록 지원했는지를 중심으로 평가해야 한다.

오탐지는 실제 위험이 없는데 시스템이 위험하다고 판단하는 오류이고, 미탐지는 실제 위험을 시스템이 발견하지 못하는 오류이다. 위험한 사건이 드물게 발생하는 환경에서는 전체 정확도가 높더라도 시스템이 보낸 알림 가운데 실제 위험에 해당하는 비율이 낮을 수 있다. 위험으로 판단하는 기준을 낮추면 더 많은 사례를 발견할 수 있지만 오탐지가 늘어나고, 기준을 높이면 불필요한 경고는 줄지만 미탐지가 증가할 수 있다. 따라서 성능을 평가할 때에는 전체 정확도뿐 아니라 실제 위험을 발견하는 비율, 위험이 없는 사례를 정확히 구분하는 비율, 경고와 비경고가 맞을 가능성과 집단별 오류율을 함께 확인해야 한다. 낙상 감지 연구에서도 제한된 자료로 학습한 모델은 실제 환경에서 성능이 떨어지고 오탐지가 많이 발생할 수 있다는 문제가 지적되었다(Fula et al., 2024). 오탐지는 이용자의 불안, 불필요한 방문과 응급출동, 사생활 침해, 낙인과 종사자의 경보 피로를 일으킬 수 있는 반면, 미탐지는 건강 악화, 낙상, 학대와 고립에 대한 지원을 늦추어 더 심각한 피해로 이어질 수 있다. 위험의 유형마다 예상되는 피해와 대응 부담이 다르므로 모든 기능에 같은 판단 기준을 적용해서는 안 된다. 자동 알림이 발생한 뒤 이용자에게 다시 확인하고 다른 자료와 비교하며 전문가가 판단하도록 하면 한 번의 오류가 곧바로 부적절한 대응으로 이어질 가능성을 줄일 수 있다. 오류의 유형과 대응 결과를 정기적으로 검토하고 이용자와 종사자의 경험을 반영하여 AI 모델, 알림 기준과 대응 방식을 함께 개선해야 한다.