AI·로봇 시대의 돌봄서비스 074. AI 기반 돌봄서비스 운영 절차

AI 기반 돌봄서비스의 운영은 대상자 선정, 설명과 동의, 설치와 교육, 이용 상태 확인, 문제 대응과 서비스 종료의 단계로 이루어진다. 각 단계는 서로 분리된 행정 절차가 아니라 이용자의 안전과 서비스의 적절성을 지속적으로 확인하는 하나의 과정이다. AI가 정상적으로 작동하더라도 분석 결과를 확인할 담당자, 연락 체계와 현장 지원이 연결되지 않으면 실제 돌봄 성과로 이어지기 어렵다. 기관은 서비스를 시작하기 전에 목적, 적용 대상, AI와 담당자의 역할, 성과지표, 예상되는 위험과 중단 기준을 문서로 정리하고, 위험과 이익의 평가, 투명한 기록, 성능 검증과 도입 이후의 지속적인 점검을 실시해야 한다(WHO, 2023).

대상자 선정은 AI 기반 서비스의 목적과 기능이 누구의 어떤 돌봄 욕구에 적합한지를 확인하는 단계이다. 연령이나 혼자 사는지의 여부만으로 선정하지 말고 건강·기능 상태, 생활 환경, 위험 수준, 도움을 받을 수 있는 관계와 이용자의 필요를 함께 평가해야 한다. 낙상 감지, 안부 확인, 복약지원과 복지정보 제공 등 서비스가 해결하려는 문제에 따라 필요한 데이터와 선정 기준도 달라진다. 기기 사용 능력뿐 아니라 전기·통신 환경, 설치 공간, 언어, 청력, 인지 기능과 의사소통 지원의 필요성도 확인해야 한다. 기술 사용이 어렵다는 이유로 바로 제외하지 말고 교육, 보조기기, 접근성 기능과 다른 지원 방법을 통해 이용할 수 있는지를 먼저 검토해야 한다. 선정 기준은 공개하고 일관되게 적용해야 하며 예산이나 장비 수가 제한된 경우에는 우선순위를 정한 근거를 설명할 수 있어야 한다. 과거의 서비스 이용 기록이 적다는 이유만으로 욕구가 낮다고 판단하면 정보, 비용과 이동의 장벽이 큰 집단이 다시 배제될 수 있다. AI를 대상자 선정이나 우선순위 결정에 사용한다면 위험점수의 의미와 한계, 담당자가 다시 검토해야 하는 조건을 명확히 정해야 한다. 또한 선정모델의 오류가 특정 연령, 장애, 지역이나 생활 조건을 가진 집단에 집중되지 않는지 확인하고, 서비스가 적용되는 환경과 영향을 받는 사람을 파악하여 위험을 측정·관리하는 조직적인 절차를 마련해야 한다(NIST, 2023).

설명과 동의 단계에서는 이용자가 서비스의 기능과 데이터 처리방법을 이해하고 참여 여부를 스스로 결정하도록 지원해야 한다. 설명 내용에는 서비스의 목적, 기기와 센서의 기능, 수집하는 자료, AI가 분석하는 내용, 정보를 전달받는 사람과 예상되는 이익·위험이 포함되어야 한다. 위험 알림이 발생했을 때 누가 결과를 확인하고 어떤 조건에서 보호자, 담당자 또는 응급기관에 연락하는지도 알려야 한다. AI가 만든 위험점수나 추천은 확정적인 판단이 아니며 오류가 발생할 수 있다는 점도 설명해야 한다. 시스템이 모든 위험을 발견하거나 즉시 구조할 수 있는 것처럼 오해하게 하는 표현은 사용하지 않아야 한다(WHO, 2021a). 설명자료는 이해하기 쉬운 문장과 충분히 큰 글자로 작성하고 필요한 경우 그림, 음성, 수어와 통역 등을 활용해야 한다. 담당자는 이용자가 서비스의 주요 기능과 위험을 자신의 말로 설명하도록 하여 실제로 이해했는지 확인할 수 있다. 가족이나 보호자가 참여하더라도 의사결정 능력이 있는 이용자의 선택을 대신해서는 안 된다. 이용자가 특정 기능이나 정보 공유 범위를 선택할 수 있다면 선택 항목과 기능 제한에 따른 영향을 구체적으로 안내하고, 서비스 이용을 거부하거나 참여 의사를 철회하더라도 필요한 기본 돌봄과 안전지원이 중단되지 않도록 다른 방법을 제공해야 한다.

서비스 설치는 기기와 프로그램을 배치하는 데 그치지 않고 AI 기능과 대응체계가 실제 생활 환경에서 정상적으로 연결되는지 확인하는 과정이다. 설치자는 전원과 통신 상태, 센서가 감지하는 범위, 음량, 조명, 장애물과 이용자의 주요 이동 경로를 점검해야 한다. 이용자 계정, 접근 권한, 주소, 비상연락처와 담당기관을 정확히 등록하고 처음 설정된 비밀번호와 보안 설정도 변경해야 한다. 설치 후에는 정상적인 작동뿐 아니라 자료 누락, 무응답, 통신장애와 비상 호출 상황도 시험해야 한다. 특히 알림이 정해진 담당자에게 전달되고 담당자의 확인과 후속 조치가 기록되는지를 확인해야 한다. 교육은 이용자가 직접 기기를 호출하고 알림에 응답하며 도움을 요청하고 기능을 중지하는 과정을 연습하도록 구성해야 한다. 이용자에게는 AI 결과가 무엇을 의미하는지, 잘못된 알림이 발생했을 때 어떻게 신고하고 사람의 확인을 요청할 수 있는지도 알려야 한다. 한 번의 설명으로 끝내지 말고 간단한 안내자료와 연락 가능한 지원 창구를 제공하며 실제 이용 과정에서 반복적으로 교육해야 한다. 고령자의 건강기술 이용에는 사용의 편리성, 디지털 활용 능력, 비용, 신뢰, 주변 사람의 지원과 지속적인 기술지원이 중요한 영향을 미치므로(Bertolazzi et al., 2024), 교육 후에는 이용자가 혼자 할 수 있는 기능과 추가로 도움이 필요한 기능을 구분하여 지원 방법을 조정해야 한다.

이용 모니터링은 시스템의 작동 여부와 AI의 성능, 이용자의 서비스 경험과 알림 이후의 지원 결과를 지속적으로 확인하는 단계이다. 기술 점검 항목에는 전원·통신 상태, 데이터 누락, 응답 시간, 오류율, AI 모델과 소프트웨어 버전 등이 포함될 수 있다. 서비스 점검 항목에는 이용 빈도, 알림 확인, 실제 지원 연결, 이용자 만족도, 생활 변화와 종사자의 업무 부담 등이 포함된다. 이용이 줄었을 때에는 이용자의 무관심으로 단정하지 말고 기기 고장, 사용의 어려움, 반복되는 잘못된 경고, 건강 악화와 서비스에 대한 불신 등을 구분하여 살펴야 한다. 모니터링은 단순히 시스템 이용률을 높이는 것이 아니라 서비스가 이용자의 필요에 맞게 작동하는지를 확인하는 과정이어야 한다. AI 모델의 성능은 도입 당시의 검증 결과에만 의존하지 말고 실제 운영 과정에서도 정기적으로 확인해야 한다. 이용자 구성, 생활 환경, 데이터 입력 방식과 서비스 정책이 달라지면 모델의 정확도가 낮아지거나 집단별 오류 차이가 커질 수 있다. 기관은 잘못된 경고와 위험을 놓친 사례, 데이터 누락, 위험으로 판단하는 기준, 집단별 성능과 실제 지원 결과를 일정한 주기로 검토해야 한다. 성능 저하나 중대한 위험이 발견되면 판단 기준 조정, 추가 검증, 모델 교체, 기능 제한, 이전 버전으로 복귀하거나 일시적으로 사용을 중단할 수 있어야 하며, 모델이나 소프트웨어를 변경할 때에는 변경 내용, 검증 결과, 적용일, 승인자와 영향을 받는 기능을 기록하여 이전 버전과 비교해야 한다.

오류 대응은 시스템 장애나 잘못된 AI 결과가 발생했을 때 이용자의 안전을 확보하고 서비스를 복구하며 원인을 찾아 개선하는 과정이다. 오류에는 기기 고장과 통신 중단뿐 아니라 데이터 누락, 잘못된 위험점수, 반복되는 잘못된 경고, 중요한 위험을 감지하지 못한 상황과 응급기관 연결 실패 등이 포함된다. 위험이 큰 오류가 발생하면 AI 기능을 일시적으로 제한하고 전화, 방문과 사람의 판단을 이용한 대체 절차를 가동해야 한다. 오류가 발생한 시간, 관련 기능, 이용자에게 미친 영향, 임시조치, 원인과 복구 결과를 기록하면 같은 문제가 반복되는지 확인할 수 있다. 개발업체가 기술지원을 담당하더라도 이용자의 안전 확보와 실제 서비스 대응을 책임질 기관의 역할은 명확하게 유지해야 한다. 민원과 이의 제기 절차는 전화, 방문, 문자와 온라인 등 이용자가 접근할 수 있는 여러 방법으로 제공해야 한다. 이용자는 AI 결과에 관한 설명을 듣고 사실과 다른 입력자료의 정정과 담당자의 재검토를 요청할 수 있어야 한다. 특히 위험점수나 추천이 서비스 대상 선정, 우선순위 또는 제공 방법에 영향을 미쳤다면 결과뿐 아니라 결정에 사용된 주요 정보와 기준도 확인할 수 있어야 한다. 개인정보보호위원회의 개인정보 처리방침도 정보주체가 자신의 정보를 열람·정정·삭제하거나 처리 중지를 요구하고 자동화된 결정을 거부하거나 설명을 요구할 수 있는 절차를 제시하므로(개인정보보호위원회, n.d.), 민원과 오류 자료는 개별 사건의 처리로 끝내지 말고 반복되는 문제를 찾아 AI 모델, 사용자 화면과 업무 절차를 개선하는 데 활용해야 한다.

AI 기반 돌봄서비스는 이용자의 요청, 욕구 변화, 다른 서비스로의 전환, 장기 입원·이사, 계약 종료 또는 안전 문제 등으로 종료될 수 있다. 서비스를 종료하기 전에는 종료 이유와 시점, 남아 있는 돌봄 위험과 필요한 대체지원을 확인해야 한다. 기기를 갑자기 회수하여 안부 확인이나 응급대응에 공백이 생기지 않도록 다른 서비스나 사람의 지원을 먼저 연결해야 한다. 후속 돌봄에 필요한 기록을 다른 기관에 전달할 때에는 필요한 정보의 범위와 안전한 전달방법을 명확히 정해야 한다. 기기를 회수할 때에는 이용자 계정의 연결을 해제하고 음성, 위치, 연락처와 본인 확인 정보 등이 기기에 남아 있는지 확인해야 한다. 서비스를 종료할 때에는 데이터의 종류별 이용 목적과 보유 기간을 확인하여 삭제하거나 필요한 범위에서만 보존해야 한다. 보유 기간이 지났거나 처리 목적을 달성하여 불필요해진 개인정보는 복구하거나 다시 사용할 수 없는 방법으로 파기해야 한다(개인정보 보호법, 2025; 개인정보의 안전성 확보조치 기준, 2026). 다른 법령에 따라 일부 기록을 보존해야 하는 경우에는 일상적인 운영자료와 분리하고 접근 권한과 이용 목적을 제한해야 한다. 운영기관의 시스템뿐 아니라 온라인 저장공간, 위탁업체, 백업자료, 보호자 계정과 회수한 기기에 남은 자료까지 확인하고 삭제한 자료의 종류, 처리일, 방법과 확인 결과를 기록하여 서비스 종료 이후에도 데이터가 불필요하게 남거나 다시 사용되는 일을 방지해야 한다.