AI·로봇 시대의 돌봄서비스 075. AI 기반 돌봄서비스의 현장 과제

AI 기반 돌봄서비스가 현장에 정착하려면 기술적 성능뿐 아니라 이용자의 신뢰, 종사자의 전문성, 데이터 품질, 개인정보 보호, 비용과 인간 돌봄의 역할을 함께 고려해야 한다. 같은 시스템도 이용자 구성, 기관의 업무 환경, 지역자원과 종사자의 역량에 따라 다른 결과를 만들 수 있으므로 제한된 조건의 시범사업에서 기능이 작동했다는 사실만으로 일상적인 돌봄 과정에서도 안전하고 지속 가능하다고 판단하기는 어렵다. 기관은 이용자와 종사자의 경험, 서비스 성과, 오류, 집단별 영향과 조직의 업무 변화를 지속적으로 평가해야 한다. 이러한 현장 과제는 AI 도입을 늦추는 장애물이 아니라 기술이 사람 중심의 돌봄을 실제로 지원하기 위해 갖추어야 할 조건이다.

이용자의 신뢰는 AI 기반 서비스가 자신에게 도움이 되고 안전하며 본인의 의사에 따라 조절할 수 있다는 경험을 통해 형성된다. 수용성에는 사용의 편리성, 예상되는 도움, 시스템의 정확성, 사생활에 대한 우려, 비용과 주변 사람의 지원 등이 영향을 미친다. 같은 연령대에서도 디지털 이용 경험, 건강상태, 생활방식과 기술에 대한 태도가 다르므로 고령이라는 이유만으로 수용성을 판단해서는 안 된다. 장기돌봄을 받는 노인을 대상으로 한 연구검토에서도 AI 지원의 수용성과 효과는 기술의 유형, 이용 환경과 연구방법에 따라 다양하게 나타났다(Loveys et al., 2022). 서비스의 목적과 기능이 이용자가 실제로 해결하려는 문제와 연결될 때 지속적으로 사용할 가능성도 높아진다. 신뢰는 한 번의 설명이나 동의로 완성되는 것이 아니라 이용 과정에서 경험한 정확성, 편리성과 기관의 대응을 통해 높아지거나 낮아진다. 오류를 숨기거나 이용자의 사용 미숙으로만 돌리면 기술뿐 아니라 운영기관에 대한 신뢰도 약해질 수 있지만, 오류의 원인과 영향을 솔직하게 설명하고 신속히 수정하면 이용자는 시스템의 한계를 이해하면서 사용할 수 있다. 소규모 체험, 반복 교육과 다른 이용자의 경험 공유는 이용자가 자신의 속도에 맞게 기술이 적합한지를 판단하는 데 도움이 된다. 따라서 수용성은 단순한 이용률보다 사용하지 않거나 중단한 이유, 불안, 통제감, 만족도와 인간 접촉의 변화를 함께 고려하여 평가해야 한다.

사회복지사의 전문적 판단은 AI 결과를 이용자의 삶, 관계, 환경과 권리의 관점에서 해석하여 적절한 지원을 결정하는 과정이다. AI는 기록 요약, 위험 신호와 서비스 대안을 제시할 수 있지만 이용자의 침묵과 두려움, 관계의 변화와 자신의 경험에 부여하는 의미까지 완전하게 파악하기는 어렵다. 사회복지사는 데이터의 출처와 빠진 정보, 모델을 적용할 수 있는 범위, 이용자의 설명과 현장 관찰을 비교하여 결과를 검토해야 한다. AI의 점수와 전문적 판단이 다를 때에는 어느 한쪽을 자동으로 따르지 말고 차이가 생긴 이유와 추가로 확인할 정보를 찾아야 한다. 사회복지 분야의 생성형 AI 지침도 AI가 만든 결과를 주의 깊게 검토하고 전문적 판단과 사람의 감독을 유지해야 한다고 강조한다(BASW, 2025). AI 활용 역량은 프로그램을 조작하는 능력에 그치지 않고 데이터와 모델의 한계, 오류 가능성과 결과의 의미를 이해하는 능력을 포함한다. 실제 사례를 활용한 교육은 종사자가 AI의 권고를 비판적으로 검토하고 서로 다른 판단이 나온 이유를 논의하는 데 도움이 된다. 사회복지사는 부적절하거나 위험한 추천을 수정하고 필요할 때에는 AI 기능을 사용하지 않고 독립적으로 판단할 수 있어야 한다. AI 결과를 받아들이거나 수정·거부한 이유를 기록하면 판단 과정의 투명성을 높이고 반복되는 오류를 발견할 수 있지만, AI 사용에 따른 책임을 개별 종사자에게만 맡기지 말고 관리자의 감독, 여러 분야 전문가의 공동 검토와 운영기관의 책임체계를 함께 마련해야 한다.

AI 기반 돌봄서비스의 결과는 입력자료의 정확성, 빠짐없는 기록, 최신 상태와 기관 간에 자료의 의미가 일치하는지에 크게 영향을 받는다. 이름이 같은 항목이라도 기관마다 정의와 측정방법이 다르면 자료를 결합하는 과정에서 의미가 달라질 수 있다. 중복된 이용자 기록, 오래된 연락처, 빠진 서비스 이용 이력과 센서 고장은 위험예측과 알림의 신뢰성을 떨어뜨린다. 따라서 자료의 출처, 작성자, 측정 시점과 단위, 수정 기록과 현재의 품질 상태를 함께 관리해야 한다. 의료정보 교환표준인 FHIR은 대상자, 관찰자료, 돌봄 계획, 기관과 업무 흐름에 관한 정보를 일정한 형식으로 정리하여 시스템 간 교환을 지원한다(HL7, 2023). 기술표준만 적용한다고 기관 간 정보 연계가 완성되는 것은 아니므로 공통용어, 업무 기준과 책임에 관한 합의가 필요하다. 참여기관은 어떤 자료를 어떤 목적으로 공유하고 누가 수정하며 오류가 발견되면 원자료를 어떻게 바로잡을지를 정해야 한다. 여러 시스템에 같은 내용을 반복해서 입력하지 않도록 연계하되 자동으로 결합된 자료가 정확한지는 담당자가 확인할 수 있어야 한다. 데이터 품질, 시스템 간 원활한 정보 교환, 접근 권한과 보안을 관리하는 공동 운영체계를 마련해야 하며(OECD, 2022), 시스템 연계의 성과는 전송된 자료량보다 중복 업무의 감소, 정확한 사례 이해, 의뢰시간 단축과 서비스 연속성의 향상으로 평가해야 한다.

AI 기반 돌봄서비스는 건강, 장애, 소득, 가족관계, 위치, 음성, 영상과 생활 습관 등 개인의 사생활을 깊이 드러내는 정보를 처리할 수 있다. 각각은 일반적인 생활자료처럼 보여도 여러 정보를 결합하면 질환, 외출, 수면과 인간관계 등을 알아낼 수 있다. 따라서 서비스 목적에 필요한 최소한의 자료만 수집하고 더 많은 자료를 모으는 것이 반드시 더 좋은 돌봄으로 이어진다는 생각을 경계해야 한다. 센서의 종류, 자료를 수집하는 시간, 분석 항목과 정보를 전달받는 사람을 이용자가 이해할 수 있게 설명해야 한다. 개인 건강데이터 체계는 자료 활용과 시스템 간 정보 교환을 지원하면서도 개인정보 보호, 보안, 형평성과 이용자가 자신의 정보를 통제할 가능성을 보장해야 한다(OECD, 2025e). 정보 접근 권한은 담당 직무와 사례의 범위에 따라 제한하고 민감한 자료에는 추가 본인 확인과 접근 기록을 적용해야 한다. 자료를 전송하고 저장할 때에는 암호화하고 보안 갱신, 침해 발견, 백업과 복구 기능이 실제로 작동하는지를 정기적으로 확인해야 한다. 위탁업체나 온라인 저장·운영 사업자가 자료를 처리하는 경우에도 정해진 목적 밖의 이용과 승인 없는 재위탁을 막고 보안사고가 발생했을 때의 대응 역할을 명확히 정해야 한다. 돌봄 목적으로 수집한 정보를 이용자가 예상하기 어려운 광고, 보험, 고용평가나 상업적 AI 모델 개발에 사용해서는 안 되며, 정보 침해가 발생하면 시스템 복구뿐 아니라 영향을 받은 이용자의 보호와 추가 피해 예방도 함께 이루어져야 한다.

AI 기반 돌봄서비스의 비용에는 기기와 소프트웨어 구입비뿐 아니라 설치, 통신, 교육, 기술지원, 유지보수와 교체 비용이 포함된다. 데이터 연계, 보안, 성능 검증, 민원 대응, 현장 출동과 종사자에게 새로 생기는 업무도 전체 운영비용에 포함해야 한다. 서비스의 이익에는 응급상황 감소, 입원 예방, 서비스 연계, 이동 시간과 행정 부담의 감소, 이용자의 삶의 질 향상과 가족 돌봄 부담의 변화 등이 포함될 수 있다. 비용 대비 효과는 단순히 비용이 줄었는지를 보는 것이 아니라 추가로 투입한 비용과 건강·복지 성과의 관계를 기존 서비스와 비교하는 평가이다. 디지털 건강서비스의 경제성 연구에서는 비용 대비 효과가 있을 가능성이 나타났지만 대상, 기술, 평가방법과 결과가 다양하므로 개별 서비스에 대한 검증이 필요하다(Gentili et al., 2022). 시범사업에서는 무상 기기, 연구인력과 단기예산을 제공하는 경우가 많아 정규 사업으로 전환한 뒤에는 비용 구조가 달라질 수 있다. 이용자 수가 늘어나면 서버 용량뿐 아니라 상담, 출동, 교육, 오류 처리와 기기 교체에 필요한 자원도 함께 증가한다. 특정 업체의 데이터와 기능에 지나치게 의존하면 계약 종료나 서비스 중단 시 다른 시스템으로 바꾸는 비용이 커질 수 있으므로 자료를 안전하게 옮기고 다른 서비스로 전환할 수 있어야 한다. 비용을 줄이기 위해 대면 돌봄을 먼저 축소하면 기술을 사용하기 어려운 이용자에게 부담이 집중되고 서비스 격차가 커질 수 있으므로, 지속 가능성은 재원, 인력, 기술지원, 이용자 부담과 장기적인 돌봄 성과를 함께 고려하여 판단해야 한다.

AI는 반복적인 기록 정리, 일정 알림, 데이터 변화 발견과 이용 가능한 서비스 검색에 강점을 가질 수 있다. 인간 종사자는 관계 형성, 공감, 복합적인 생활 환경의 이해, 가치가 충돌하는 상황의 조정과 예상하지 못한 상황에서의 책임 있는 판단을 담당한다. 역할 분담은 사람이 AI 결과를 형식적으로 승인하는 것이 아니라 각 단계에서 누가 정보를 해석하고 결정하며 지원 결과를 확인할지를 구체적으로 정하는 것이다. 생명, 권리, 급여와 서비스 이용에 중대한 영향을 미치는 결정에는 사람이 충분한 정보와 시간을 가지고 실질적으로 검토해야 한다. 건강 AI는 인간의 자율성과 안전을 보호하고 공공·민간의 모든 참여자에게 적절한 책임을 부여하는 방향으로 운영해야 한다(WHO, 2021a). AI가 기록과 행정에 필요한 시간을 줄인다면 절약한 시간이 면담, 방문, 사례회의와 지역자원 연계에 실제로 사용되는지를 확인해야 한다. 안부 확인 기기를 설 치했다는 이유만으로 사람에 의한 정기적인 연락과 방문을 자동으로 줄여서는 안 된다. 또한 AI 도입으로 경고 확인, 데이터 수정과 시스템 장애 대응 같은 새로운 업무가 생길 가능성도 고려해야 한다. 서비스 성과는 처리 건수와 업무 속도뿐 아니라 관계의 연속성, 존중, 외로움, 이용자의 자기결정, 종사자의 전문성과 돌봄의 질을 포함하여 평가해야 하며, AI 기반 돌봄서비스는 인간을 대신하는 자동 돌봄보다 사람의 판단과 관계를 강화하여 이용자가 지역사회에서 더욱 안전하고 주체적으로 살아가도록 지원하는 방향으로 발전해야 한다.