AI·로봇 시대의 돌봄서비스 095. AI·로봇 돌봄의 윤리적 쟁점

AI·로봇 돌봄의 윤리적 쟁점은 기술 자체가 선하거나 악한지보다 기술이 어떤 관계, 권력 구조, 제도적 조건 속에서 사용되는지에 관한 문제이다. 같은 로봇도 이용자의 선택과 활동을 지원하면 자율성을 높일 수 있지만, 인력 감축이나 행동 통제를 위해 사용하면 의존과 배제를 강화할 수 있다. 따라서 윤리적 평가는 기능적 편익뿐만 아니라 인간관계, 사생활, 자기 결정, 공정성, 책임에 미치는 영향을 함께 살펴야 한다. 특히 돌봄을 많이 필요로 하는 사람은 가족, 서비스 제공자, 기관에 대한 의존도가 높기 때문에 형식적인 동의만으로 권리가 충분히 보호 되었다고 보기 어렵다. 스마트 돌봄 기술에 관한 체계적 검토에서도 사생활, 자율성, 책임, 인간과 기술의 상호 작용, 신뢰, 연령 차별이 주요 윤리 범주로 확인되었다(Felber et al., 2023).

정서 지원 로봇과 대화형 AI는 외로움을 완화하고 활동을 유도하며 일정한 상호 작용을 제공할 가능성이 있다. 그러나 기술이 표현하는 공감은 감정을 실제로 경험하고 상대방의 삶과 관계에 책임을 지는 인간의 공감과 동일하지 않다. 이용자가 로봇의 반응을 진정한 이해나 애정으로 받아들이면 일시적인 위안을 얻을 수 있지만, 관계의 성격과 기술의 능력을 오해할 가능성도 있다. 또한 기관이 로봇의 도입을 이유로 가족이나 돌봄 종사자의 방문과 대화를 줄이면 기술의 보완적 효과가 인간적 접촉의 감소로 상쇄될 수 있다. 돌봄 로봇이 인간의 사회적 상호 작용을 대체할 경우 고령자의 인간 접촉과 정서적 복지가 약화될 수 있다는 우려가 제기되어 왔다(Yew, 2020). 정서적 돌봄의 핵심 쟁점은 이용자를 속이지 않으면서 유익한 상호 작용을 제공할 수 있는가에 있다. 로봇이 감정이나 의식, 실제 이해 능력이 있는 것처럼 표 현되면 이용자는 기계의 능력과 의도를 실제보다 높게 평가할 수 있다. 특히 인지 기능이 저하된 사람에게는 로봇이 기계이며 입력된 정보와 알고리즘에 따라 반응한다는 사실을 이해하기 쉬운 방식으로 반복하여 알려야 한다. 로봇과의 애착이 이용자의 안정과 즐거움에 기여하는지, 불안이나 과도한 의존, 인간관계의 회피를 초래하는지를 지속적으로 관찰할 필요가 있다. 이용자가 로봇의 고장이나 회수에 강한 상실감을 보이는 경우에도 이를 단순한 기기 이용 문제로 처리하지 않고 정서적 지원과 인간관계의 보완이 필요한지 살펴야 한다. 현장 연구에서도 사회적 로봇의 정서적 기만과 애착은 설계와 이용 과정에서 다루어야 할 주요 윤리 문제로 확인되었다(van Maris et al., 2020).

돌봄 기술은 이동, 복약, 의사소통을 지원하여 이용자가 다른 사람의 도움 없이 생활할 수 있는 범위를 넓힐 수 있다. 반면 시스템의 추천과 경보가 일상의 선택을 지속적으로 지시하면 이용자가 자신의 판단을 신뢰하고 스스로 선택하거나 일정한 위험을 감수할 기회가 줄어들 수 있다. 자동화된 편의에 익숙해져 기존의 생활 기술을 사용하지 않거나 인간관계와 지역사회 지원을 덜 이용하게 되는 기능적·관계적 의존도 고려해야 한다. 사회복지사는 기술 도입 전후의 독립성뿐만 아니라 이용자가 설정을 변경하고 권고를 거부하며 필요할 때 사람의 도움을 요청할 수 있는 통제력을 평가해야 한다. 가정용 보조 로봇에 대한 윤리적 분석은 자율성을 고립된 개인의 선택이 아니라 관계와 적절한 지원 속에서 실현되는 능력으로 이해할 필요성을 강조한다(Liedo, 2025). 자율성과 안전이 충돌할 때 가족이나 기관이 모든 위험을 제거하려는 태도는 이용자의 활동과 생활을 과도하게 제한할 수 있다. 로봇이나 스마트 홈이 외출, 식사, 수면 시간을 강하게 유도하거나 위험을 이유로 이용자의 명령을 거부한다면그 권한의 범위, 적용 기준, 해제 방법이 명확해야 한다. 이용자가 사전에 선택한 설정과 현재의 의사가 다르면 현재 상황, 의사 결정 능력, 예상되는 피해를 사람이 다시 검토해야 한다. 기술은 이용자의 결정을 대신하기보다 선택할 수 있는 대안과 예상 결과를 설명하고 필요한 지원을 연결하는 방식으로 작동해야 한다. 고령자와 돌봄 제공자의 가치 갈등을 조사한 연구에서도 자율성은 중요한 우선 가치로 나타났으며, 안전과 충돌하는 경우에는 일방적인 통제보다 타협, 설득, 협 상을 통해 조정할 필요가 있었다(Draper et al., 2017).

스마트 홈 센서, 카메라, 음성 기기, 웨어러블 기기는 위험을 조기에 발견할 수 있지만 생활 전반을 상시 관찰하는 감시 체계가 될 수 있다. 개별 자료는 단순해 보여도 여러 자료를 결합하면 수면, 배변, 외출, 방문자, 가족관계, 건강 상태의 변화를 추론할 수 있다. 이용자는 안전을 위해 사생활을 포기해야 한다는 압력을 느끼거나 누가 언제 자신의 정보를 보고 있는지 알지 못할 수 있다. 감시받는다는 인식은 집에서의 자유로운 행동과 의사 표현을 위축시키고 사적인 주거 공간을 기관의 관리 장소처럼 변화시킬 수 있다. 재택 모니터링에 관한 연구는 기술이 제공하는 안전상의 편익과 함께 감시가 집의 의미, 자율성, 개인정보에 미치는 영향을 검토해야 함을 보여 준다(Mortenson et al., 2016). 사생활 침해를 줄이려면 서비스 목적에 비례하여 가장 덜 침해적인 장치와 정보 유형을 선택해야 한다. 영상이나 음성이 없어도 목적을 달성할 수 있다면 움직임이나 문 열림과 같은 최소한의 신호를 사용하고, 가능한 경우 기기 내부에서 자료를 처리해야 한다. 이용자는 현재 작동 중인 센서, 수집되는 정보, 열람자, 보유 기간을 쉽게 확인할 수 있어야 하며, 특정 공간이나 시간대의 관찰을 중지할 수 있어야 한다. 다만 관찰 기능을 중지하면 위험 대응에 어떤 변화가 생기는지도 함께 설명해야 한다. 가족, 돌봄 노동자, 방문자의 모습이나 음성도 수집될 수 있으므로 이들에게도 적절한 고지와 권리 보호 절차를 마련해야 한다. 건강 모니터링의 사생활 장벽에 관한 검토는 투명성, 동의, 자료 통제, 보안, 신뢰를 함께 다루는 설계가 필요함을 제시한다(Sun et al., 2024).

기술 강요는 직접적인 명령뿐만 아니라 다른 선택지가 없거나 거부할 경우 서비스와 생활상의 불이익이 발생하는 상황에서도 나타난다. 기관이 인력 부족이나 비용 절감을 이유로 로봇이나 원격 모니터링만 제공하면 기술 사용에 대한 동의가 사실상 서비스 이용의 조건이 될 수 있다. 가족이 안전에 대한 불안을 이유로 당사자의 반대에도 센서를 설치하거나 기관이 충분한 설명 없이 기술을 기본 설정으로 적용하는 경우도 이에 해당할 수 있다. 사회복지사는 기술을 거부했을 때 이용할 수 있는 대체 서비스, 추가 비용, 급여나 서비스 자격, 생활상의 불이익을 확인하여 선택이 실질적으로 보장되는지 평가해야 한다. 고령자 돌봄 기술의 윤리적 근거에 관한 검토에서도 돌봄의 필요성이 인정된다는 이유로 기술 수용을 압 박하는 것은 자율성에 대한 중대한 위험으로 지적되었다(ARIIA, 2023). 강요의 위험은 의사 표현이 어렵거나 시설에서 생활하는 사람, 가족이나 서비스 기관에 크게 의존하는 사람에게 더 크게 나타날 수 있다. 당사자가 침묵하거나 저항하지 않는 것, 기기를 계속 사용하는 것을 동의로 간주하지 말고 말, 행동, 표정, 반복되는 반응을 통해 현재의 선호를 확인해야 한다. 설명과 시범, 제한적인 시험 사용, 충분한 숙고 기간을 제공하고 원할 때 쉽게 중단할 수 있는 물리적·제도적 수단을 마련해야 한다. 이용자와 가족 또는 기관의 의견이 충돌하면 독립적인 권리 옹호자나 윤리 자문 기구가 권력 관계, 위험, 가능한 대안을 함께 검토할 수 있어야 한다. 치매가 있는 사람의 사회적 로봇 사용에 관한 윤리 분석도 동의, 자율성, 기만, 인간 돌봄의 대체 가능성을 지속적으로 살펴야 한다고 강조한다(Deusdad, 2024).

존엄성은 사람이 능력, 연령, 생산성과 관계없이 고유한 가치를 가진 존재로 존 중받아야 한다는 원칙이다. 돌봄을 받는 사람을 위험 점수, 업무 목록, 신체 기능의 집합으로만 다루면 개인의 역사, 관계, 정체성, 삶의 의미가 서비스에서 지워질 수 있다. 어린아이를 대하는 듯한 말투나 외형의 로봇을 일률적으로 사용하거나 성인의 의사를 무시한 채 칭찬과 보상을 제공하면 고령자와 장애인을 유아화할 위험이 있다. 기술이 씻기, 식사, 배설 같은 친밀한 돌봄을 지원할 때도 신체 노출, 수치심, 성별, 문화적 선호를 고려하지 않으면 이용자가 자신을 돌봄의 주체가 아니라 처리 대상으로 느낄 수 있다. 로봇 돌봄의 사회적 존엄성에 관한 연구는 기술이 개인을 사회의 동등한 구성원으로 인정하는 관계와 관행을 훼손하는지를 윤리적 기준으로 살펴야 한다고 제안한다(Felber et al., 2021). 비인간화를 예방하려면 기술의 외형, 언어, 행동, 배치 목적을 이용자와 함께 결정하고 가능한 범위에서 개인별로 설정할 수 있어야 한다. 로봇이 담당하기에 부적절한 정서적 위기, 가치 판단, 친밀한 돌봄의 범위를 정하고 이용자가 원하거나 위험이 발생하면 즉시 사람에게 전환하는 경로를 마련해야 한다. 나이, 장애, 질환에 관한 고정관념이 대화, 위험 평가, 서비스 추천에 포함되지 않는지도 정기적으로 점검해야 한다. 이용자를 존중한다는 이유로 기술의 오류나 한계를 숨기거나 로봇을 인간처럼 가장하는 것 역시 존엄성과 자기 결정을 약화할 수 있다. 성과 평가에는 업무 시간 절감뿐만 아니라 존중받는 경험, 선택권, 인간적 접촉, 사회 참여, 낙인의 변화를 포함해야 한다. 사회적 로봇의 윤리 연구도 존엄성 훼손, 대상화, 기만, 유아화, 인간 돌봄의 대체를 구체적인 운영 위험으로 관리할 필요가 있음을 보여 준다(Hung et al., 2025).