AI·로봇 시대의 돌봄서비스 094. 인간 중심·권리 기반 돌봄

인간 중심·권리 기반 돌봄은 기술적 효율성보다 돌봄을 받는 사람의존엄성, 삶의 목표, 권리를 우선하는 접근이다. 이 접근은 이용자를 서비스의 수동적인 수혜자가 아니라 자신의 생활과 돌봄을 결정하는 권리의 주체로 본다. AI와 로봇은 인간의 선택, 관계, 사회 참여를 지원하는 수단이어야 하며 서비스의 목적이나 최종적인 판단 주체가 되어서는 안 된다. 따라서 기술 도입의 성과는 처리 속도나 비용 절감뿐만 아니라 자기 결정, 참여, 관계의 질, 평등한 접근이 향상되었는지를 기준으로 평가해야 한다(IFSW, 2018; UNESCO, 2021). 건강에 대한 인권적 접근도 보건 시설·재화·서비스의 이용 가능성, 접근 가능성, 수용 가능성, 적절한 질을 보장하고 차별 없이 사람의 필요에 대응할 것을 요구한다(CESCR, 2000).

인간 중심 돌봄은 이용자의 필요, 가치, 선호가 서비스의 목표와 제공 방식을 결정하도록 하는 원칙이다. 같은 건강 상태나 장애를 가진 사람이라도 생활 환경, 가족관계, 문화적 배경, 위험에 대한 태도, 원하는 삶의 방식은 서로 다르다. 사회복지사는 기술이 제공할 수 있는 기능을 먼저 제시하기보다 이용자가 중요하게 여기는 활동과 관계, 해결하고 싶은 문제, 원하지 않는 개입을 확인해야 한다. 서비스 계획은 전문가의 지식과 이용자의 경험을 대립시키지 않고 정보, 결정, 책임을 공유하는 관계에서 수립해야 한다. 통합적 사람 중심 돌봄은 이용자, 제공자, 서비스 체계가 지속적인 관계를 형성하면서 정보, 의사 결정, 서비스 제공을 공유하는 체계를 지향한다(WHO, 2016a). 인간 중심성은 서비스 선택 단계에만 적용되는 원칙이 아니라 기술 사용이 이용자의 일상, 관계, 정서에 미치는 영향을 지속적으로 확인하는 과정이다. 낙상 위험을 줄이는 센서가 외출을 제한하거나 정서 지원 로봇의 도입 이후 가족과의 접촉이 감소한다면 기능적 효과만으로 성공한 서비스라고 평가하기 어렵다. 사회복지사는 이용자에게 도움이 된 점과 불편해진 점을 반복적으로 확인하고 건강 상태나 선호가 달라지면 기기 설정과 서비스의 조합을 조정해야 한다. 디지털 이용이 어려운 사람을 배제하지 않도록 접근 가능한 화면과 보조 기술, 단순한 기기, 전화·대면 서비스, 오프라인 선택지를 마련해야 한다. 고령자를 위한 디지털 정보 체계도 이용자와 지역사회의 공동 설계, 다양한 문해 수준을 고려한 화면, 간단한 기술·오프라인 선택지를 갖출 필요가 있다(WHO & ITU, 2024).

이용자 중심 서비스 설계는 기관의 업무 편의나 기술의 기능이 아니라 이용자가 실제로 겪는 문제와 서비스 이용 환경에서 출발하는 방식이다. 개발자와 서비스 제공자는 면담, 관찰, 공동 설계를 통해 이용자가 서비스를 사용하는 장소와 시간, 행동, 관계, 제약을 파악해야 한다. 사회복지사는 이용자, 가족, 돌봄 노동자의 경험을 구체적인 기술·서비스 요구 사항으로 전환하고 이들이 시제품 시험과 운영 절차 설계에 참여하도록 연결할 수 있다. 시험 참여자는 디지털 기술에 익숙한 사람으로 한정하지 않고 고령자, 장애인, 문해력이 낮은 사람, 소수 언어 사용자, 다양한 주거 환경의 이용자를 포함해야 한다. 이용자 중심 설계는 서비스를 이용할 사람을 대화, 관찰, 공동 창작을 통해 이해하는 데서 시작한다(WHO, 2024c). 이용자 참여는 완성된 제품에 대한 의견을 한 번 묻는 절차가 아니라 문제 정의, 우선순위 결정, 설계, 시험, 도입, 평가에 걸쳐 이루어져야 한다. 참여자의 의견 가운데 무엇이 반영되었는지, 반영되지 않은 내용과 그 이유가 무엇인지를 설명해야 참여의 책임성과 신뢰를 확보할 수 있다. 의사소통, 이동, 디지털 접근에 지원이 필요한 사람에게는 적절한 편의와 충분한 숙고 시간을 제공하고 참여에 투입한 시간과 경험을 정당하게 보상해야 한다. 장애인 당사자와 대표 조직은 기술 접근성과 위험을 직접 경험하는 주체이므로 단순한 자문 대상이 아니라 공동 의사 결정자로 참여해야 한다. 포괄적 공동 설계는 신뢰, 책임성, ‘당사자 없이 당사자에 관한 결정을 하지 않는다’는 원칙에 기반해야 한다(UN DESA, 2026).

자기 결정은 이용자가 충분한 정보를 바탕으로 기술의 사용 여부, 방식, 범위를 스스로 선택할 권리이다. 이용자는 센서나 로봇의 설치, AI 평가의 적용, 정보 공유를 거부할 수 있어야 하며, 사용 중에도 특정 기능을 끄거나 서비스를 일시 중지하고 동의를 철회할 수 있어야 한다. 기술 사용에 대한 거부를 비협조나 무책 임한 선택으로 낙인찍지 말고 거부의 이유, 과거의 경험, 우려를 확인하여 다른 지원 방법을 함께 찾아야 한다. 장애나 인지 기능 저하가 있다는 이유만으로 당사자의 의사를 배제하지 않고 정보를 이해하고 선택을 표현하는 데 필요한 지원을 제공해야 한다. 장애인권리협약은 개인의 자율성과 선택의 자유를 일반 원칙으로 제시하고 법적 능력을 행사하는 데 필요한 지원을 받을 권리를 보장한다(UN, 2006). 거부권이 실질적으로 보장되려면 기술을 사용하지 않는다는 이유로 필수 서비스, 급여, 주거, 다른 지원에서 불이익을 받지 않아야 한다. 기관이 인력 부족이나 비용 절감을 이유로 디지털 방식만을 제공한다면 이용자가 동의서에 서명하더라도 자유로운 선택이라고 보기 어렵다. 사회복지사는 비기술적 대안, 사생활과 자율성을 덜 침해하는 기술, 전화·대면 서비스, 사람이 직접 제공하는 지원의 이용 가능성을 함께 설명해야 한다. 안전에 관한 중대한 우려가 있더라도 이용자의 관점, 위험을 감수하려는 의사, 가능한 대안을 확인하고 목적 달성에 필요한 최소한의 제한만을 공동으로 결정해야 한다(CRPD Committee, 2017). 이용자는 AI나 로봇과의 상호 작용을 거부하고 인간 담당자의 개입을 요청할 수 있어야 한다. 또한 AI는 유효한 동의 없이 개인정보를 분석하거나 이용자의 인지적·정서적 취약성을 이용하여 선택을 조작하는 방식으로 사용되어서는 안 된다(UNESCO, 2021).

충분한 설명은 이용자가 기술의 목적과 기능, 예상되는 편익과 위험, 오류 가능성, 이용 가능한 대안을 이해할 수 있도록 정보를 제공하는 과정이다. 설명에는 수집되는 자료, 수집 빈도, 자료를 처리·분석하는 주체, 공유 대상, 보유 기간, 사람이 결과를 검토하는 단계가 포함되어야 한다. 복잡한 알고리즘의 수학적 구조를 모두 전달하기보다 어떤 정보가 어떤 판단에 사용되는지, 결과가 서비스에 어떤 영향을 미치는지, 그 결과에 어느 정도의 불확실성이 있는지를 일상적인 언어로 설명해야 한다. 사회복지사는 쉬운 문장, 그림, 시범, 음성, 번역, 반복적인 설명을 활용하고 이용자가 이해한 내용을 자신의 말이나 다른 의사소통 방식으로 표현할 수 있는지 확인해야 한다(NASW et al., 2017). AI 기반 보건 서비스에서도 개인정보 보호, 기밀성 유지, 충분한 설명에 근거한 사전 동의는 인간의 자율성과 권리를 보호하는 핵심 원칙이다(WHO, 2021a). 동의는 서명된 문서를 한 번 확보하는 행정 행위가 아니라 서비스 전 과정에서 이용자의 의사를 계속 확인하는 의사소통이다. 기술의 기능, 자료 이용 목적, 제3 자 제공 범위, 위험 수준이 달라지면 변경 내용을 설명하고 필요한 동의를 다시 받아야 한다. 이용자의 침묵이나 무응답, 기기의 계속 사용을 새로운 자료 처리에 대한 동의로 간주해서는 안 된다. 의사 결정 능력이 시간이나 상황에 따라 달라지는 경우에는 이해와 표현이 가능한 시간과 환경을 마련하고 신뢰하는 사람의 지원을 활용하되, 당사자의 현재 의사와 거부 표현을 최대한 존중해야 한다. 이용자는 자동화된 처리의존재와 영향, 자신의 자료를 열람·정정·삭제할 수 있는 권리, 인간의 검토와 개입을 요청하는 방법을 안내받아야 한다. 이러한 정보와 권리 보장 절차는 정보에 근거한 동의를 실질적으로 보호하는 수단이다(Council of Europe, 2018).

인간 돌봄을 요청할 권리는 자동화된 안내, 로봇, 비대면 서비스만으로 이용자의 필요를 충분히 충족하기 어려울 때 사람의 판단과 접촉을 요구할 수 있다는 원칙이다. 정서적 고통, 학대 의심, 복합적인 가족 갈등, 삶의 중대한 결정은 표준화된 응답만으로 다루기 어려우며, 신뢰 관계 속에서 이용자의 경험과 맥락을 이해해야 한다. 이용자는 서비스의 어느 단계에서 사람에게 연결될 수 있는지, 요청 방법과 예상 응답 시간, 긴급한 경우 사용할 경로를 사전에 안내받아야 한다. 기관은 사람이 제공하는 상담이나 현장 지원으로 전환하는 기준, 절차, 책임자를 정하고 기술적 오류나 이용자의 요청을 정당한 이유 없이 거절해서는 안 된다.

관계 기반 사회복지에서는 AI가 인간의 실천을 대체해서는 안 되며, 인간적 접촉과 디지털 방식의 선택 가능성을 이용자와 함께 논의해야 한다(BASW, 2024). 인간 돌봄의 보장은 모든 기술을 배제하는 원칙이 아니라 기술과 인간의 장점을 이용자의 필요에 맞게 결합하기 위한 권리이자 안전장치이다. 반복적인 정보 제공과 행정 업무는 기술이 지원할 수 있지만, 공감, 가치 갈등의 조정, 예외 상황의 판단, 중대한 결정에 대한 최종 책임은 적절한 권한을 가진 사람이 담당해야 한다. 디지털 기술에 접근하기 어려운 사람에게 전화나 대면 서비스를 제공하지 않으면 인간 돌봄의 부재가 곧 서비스 배제로 이어질 수 있다. 기관은 인간 개입 요청의 건수만을 부담으로 보지 말고 전환 요청의 처리 시간, 해결 결과, 반복 요청의 원인, 이용자의 관계 만족도를 평가해야 한다. 권리 기반 디지털 돌봄은 효율성을 추구하면서도 존엄성, 자율성, 보편적 접근, 인간적 연결을 보호하는 방향으로 운영되어야 한다(IFSW, 2026).