AI·로봇 시대의 돌봄서비스 098. AI·로봇 돌봄의 법과 제도

AI·로봇 돌봄은 인공지능, 개인정보 보호, 의료기기, 사회서비스, 소비자 보호, 민사책임에 관한 여러 법제가 중첩되는 영역이다. 같은 로봇이라도 말벗이나 생활 편의 기능을 제공하는지, 건강 상태를 분석하는지, 진단·치료·재활을 목적으로 하는지 또는 신체를 직접 보조하는지에 따라 적용되는 규제가 달라질 수 있다. 따라서 기관은 제품의 명칭이나 외형보다 실제 사용 목적, 처리하는 데이터, 이용자의 권리와 안전에 미치는 영향, 사고 가능성을 기준으로 법적 의무를 확인해야 한다. 법과제도는 시장 진입 단계의 허가에 그치지 않고 조달, 설치, 운영, 업데이트, 감독, 서비스 종료, 피해 구제까지 기술의 전 생애 주기를 포괄해야 한다. 규제의 목적은 혁신 자체를 억제하는 것이 아니라 돌봄 기술이 인간의존엄과 권리를 해치지 않도록 공적 책임의 기준과 경계를 정하는 데 있다(WHO, 2021a; Council of Europe, 2024).

우리나라의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1 월 22일부터 시행되어 인공지능 산업의 발전과 신뢰 기반 조성을 위한 기본적인 규율 체계를 제시하고 있다. 이 법은 사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능을 고영향 인공지능으로 규율한다. 돌봄 현장에서 사용하는 모든 AI가 자동으로 고영향 인공지능에 해당하는 것은 아니며, 법령에서 정한 분야, 사용 목적, 기능, 실제 영향을 기준으로 해당 여부를 판단해야 한다. 또한 고영향 인공지능과 생성형 인공지능을 이용한 제품·서비스에는 이용자가 인공지능에 기반하여 운용된다는 사실을 알 수 있도록 하는 투명성 관련 의무가 적용될 수 있다. 사회복지기관은 공급자의 홍보 자료에만 의존하지 말고 도입하려는 기능의 법적 분류, 적용되는 의무, 공급자의 이행 자료를 계약 전에 확인해야 한다(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 2026). 고영향 인공지능의 안전성과 신뢰성을 확보하기 위해서는 위험 관리, 결과에 대한 설명, 이용자 보호, 인간의 관리·감독, 관련 문서의 작성·보존이 중요하다. 관련 법정 의무의 직접적인 주체와 범위는 법률과 시행령에 따라 판단해야 하지만, 돌봄 기관도 실제 운영자로서 오류 대응, 담당자 지정, 인간의 검토, 이의 제기 절차를 마련해야 한다. 공공기관이 AI를 복지 급여, 대상자 선정, 서비스 배분에 활용하는 경우에는 인공지능 기본법뿐만 아니라 해당 급여와 서비스의 근거 법률, 행정 절차, 평등 원칙, 이유 제시에 관한 의무도 함께 검토해야 한다. 조달 계약에는 성능·검증 자료의 제공, 모형과 기능의 변경 통지, 감사 협조, 사고 보고, 서비스 종료 시 데이터 반환·삭제, 책임 분담을 포함할 필요가 있다. 법률이 정한 기준은 최소한의 출발점이며, 기관은 이용자의 특성과 돌봄 위험에 비례하여 더 엄격한 내부 통제 기준을 적용할 수 있어야 한다(NIST, 2023; 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령, 2026).

AI·로봇 돌봄은 생활 습관, 건강 상태, 장애, 음성, 영상, 생체정보를 지속적으로 처리할 수 있으므로 개인정보 보호 법제가 핵심적으로 적용된다. 개인정보처리자는 수집·이용의 법적 근거를 확인하고 서비스 목적에 필요한 최소한의 정보만 처리해야 한다. 건강 정보와 생체인식정보 등 민감정보를 처리할 때는 일반적인 개인정보보다 엄격한 요건과 보호 조치를 적용해야 하며, 동의를 근거로 처리하는 경우에는 정보 항목, 목적, 보유 기간 등을 명확하게 구분하여 알려야 한다. 클라우드 분석, 시스템 운영, 유지 보수를 외부 업체가 담당한다면 업무 위탁과제3자 제공을 구분하고 접근 권한, 재위탁, 국외 이전, 사고 통지, 파기 절차를 계약과 공개 문서에 반영해야 한다. 개인정보 보호는 동의서를 한 번 받는 절차가 아니라 설계 단계부터 최소 수집, 접근 통제, 암호화, 접속 기록, 침해 사고 대응을 내재화하는 과정이다(개인정보 보호법, 2025). 「개인정보 보호법」은 완전히 자동화된 시스템으로 개인정보를 처리하여 이루어진 결정이 정보주체의 권리나 의무에 중대한 영향을 미치는 경우 일정한 요건에 따라 거부할 권리를 보장한다. 정보주체는 자동화된 결정에 관한 설명이나 의견 반영 여부의 검토도 요구할 수 있으며, 개인정보처리자는 정당한 사유가 없으면 해당 결정을 적용하지 않거나 인적 개입에 의한 재처리, 설명, 검토 등 필요한 조치를 해야 한다. 또한 자동화된 결정의 목적, 주요 개인정보의 유형, 기준, 처리 절차, 권리 행사 방법을 정보주체가 쉽게 확인할 수 있도록 공개해야 한다. 다만 동의, 계약, 법률에 명확한 근거를 두고 이루어진 자동화된 결정 등에서는 거부권이 제한될 수 있으므로 모든 AI 결과에 동일한 권리가 적용되는 것처럼 설명해서는 안 된다. 기관은 권리 행사의 신청 방법, 담당 부서, 처리 기한, 재검토, 이의 제기 절차를 접근 가능한 형태로 마련해야 한다. 이러한 권리는 사회복지사의 친 절한 설명으로 대체되는 것이 아니라 법적으로 보장되는 정보주체의 통제권으로 운영되어야 한다(개인정보보호위원회, 2024c).

돌봄 로봇의 법적 분류는 외형이나 판매 명칭이 아니라 제조자가 정한 사용 목적, 기능, 효능·효과에 따라 판단해야 한다. 단순한 대화, 안내, 생활 편의를 제공하는 로봇은 일반적인 제품일 수 있지만, 질병이나 장애의 진단, 치료, 경감, 처치 또는 예방을 목적으로 하면 의료기기 관련 규제의 적용 여부를 확인해야 한다. 디지털 기술이 적용되었다는 이유만으로 모두 디지털의료기기가 되는 것은 아니며, 「디지털의료제품법」에서 정한 디지털의료제품과 디지털의료기기의 정의 및 사용 목적에 해당하는지를 개별적으로 판단해야 한다. 해당 제품은 위험도와 품목에 따라 허가·인증·신고 등 필요한 절차와 품질 관리 요건을 충족하고 승인된 사용 목적과 방법에 따라 사용해야 한다. 의료기기에 해당하지 않는 돌봄 로봇도 전기·기계적 안전, 전파, 개인정보 보호, 소비자 보호, 제조물책임 등에 관한 규율에서 제외되는 것은 아니다(디지털의료제품법, 2025; 의료기기법, 2026). AI 의료기기와 로봇은 소프트웨어 업데이트, 알고리즘, 입력 자료의 변화가 성능과 안전성에 영향을 줄 수 있으므로 최초의 허가만으로 지속적인 안전이 보장되지 않는다. 허가·심사와 운영 관리에서는 임상적 성능뿐만 아니라 사용적합성, 사이버보안, 전자적 침해행위 대응, 변경 관리도 중요하게 다루어야 한다. 식품의약품안전처도 의료기기의 사이버보안과 독립형 디지털의료기기소프트웨어의 사용적합성에 관한 허가·심사 지침을 제시하고 있다(식품의약품안전처 사이버보안 지침, 사용적합성 지침). 도입 기관은 제품의 허가·인증·신고 여부, 승인된 사용 목적, 소프트웨어 버전, 유지 보수 주체, 사용상 주의 사항을 확인해야 한다. 중대한 기능 변경이나 업데이트가 이루어지면 현장 적용 전에 성능과 안전에 미치는 영향을 평가하고 필요한 교육과 규제 절차가 이행되었는지 점검해야 한다. 이상 사례나 보안 취약점이 발견된 경우에는 관련 법령과 기관 절차에 따라 사용 제한, 보고, 회수, 이용자 통지를 시행할 수 있어야 한다(식품의약품안전처, 2025).

「사회서비스 이용 및 이용권 관리에 관한 법률」은 사회서비스 이용자의 권익을 보호하고 서비스의 품질을 높이기 위한 품질 관리와 평가의 근거를 두고 있다. 사회서비스 품질 관리에서는 이용자 보호와 참여, 제공 환경, 기관의 운영 체계, 제공 인력의 확보·관리 등을 종합적으로 살펴야 한다. AI와 로봇이 서비스 과정에 포함되면 기존 평가 항목에 기술의 안전성과 정확성, 접근성, 개인정보 보호, 장애 발생 시 대체 서비스, 인간의 검토와 접촉이 적절하게 보장되는지를 포함할 필요가 있다. 기기 사용률, 자동화율, 업무 시간의 절감만으로 품질을 평가하면 이용자의 만족, 관계의 연속성, 실제 돌봄 결과가 가려질 수 있다. 따라서 기술 기반 사회서비스의 품질은 기기의 성능과 사회복지 실천의 과정을 분리하지 않고 하나의 서비스 결과로 평가해야 한다(WHO, 2023; 사회서비스 이용 및 이용권 관리에 관한 법률, 2025). 품질 평가는 기관이 제출한 서류뿐만 아니라 이용자의 경험, 현장 관찰, 기술 로그, 사고·민원 기록, 서비스 결과를 함께 확인해야 한다. 고령자, 장애인, 디지털 취약 계층, 가족이 평가 지표의 개발과 현장 검증에 참여하면 기술의 실제 불편, 차별, 배제 위험을 발견하는 데 도움이 된다. 평가 항목에는 집단별 이용과 성과의 격차, 오류와 중단, 인간 서비스로의 전환 시간, 민원 처리, 재발 방지 조치를 포함할 수 있다. 공공 조달과 재정 지원은 품질 평가 결과와 연계할 수 있지만, 낮은 평가가 곧바로 이용자의 서비스 중단으로 이어지지 않도록 개선 계획, 교육, 기술 지원도 함께 제공해야 한다. 사회서비스 품질 평가는 제공 기관을 제 재하는 데 그치지 않고 기관의 역량 강화, 이용자 보호, 선택권 확대에 기여하는 방향으로 운영해야 한다(NIST, 2023; 사회서비스 이용 및 이용권 관리에 관한 법률, 2025).

AI·로봇 돌봄에 관한 인증은 제품이나 시스템이 정해진 시점과 시험 조건에서 일정한 기준을 충족했는지를 확인하는 절차이다. 따라서 인증은 실제 돌봄 현장에서의 안전과 품질을 영구적으로 보증하는 표지로 해석해서는 안 된다. 인증과 평가 기준에는 전체적인 성능뿐만 아니라 주요 이용자 집단별 성능, 보안, 개인정보 보호, 접근성, 사용적합성, 상호 운용성, 고장 시 안전한 전환 기능을 포함할 필요가 있다. 위험이 큰 기능은 공급자의 자체 시험에만 의존하지 않고 독립된 전문 기관의 검증과 실제 또는 이에 가까운 돌봄 환경에서의 실증을 거치는 것이 바람직하다. 인증의 대상, 범위, 시험 조건, 유효 기간, 제외 사항을 공개하여 기관과 이용자가 그 의미를 과대평가하지 않도록 해야 한다. 인증은 도입 기관의 자체 위험 평가와 전문가의 주의 의무를 대신하거나 사고 책임을 면제하는 수단이 아니라 검증을 보완하는 장치이다(NIST, 2023). 감독 체계에서는 인공지능, 개인정보 보호, 의료기기, 사회서비스, 소비자 보호를 담당하는 기관 사이의 역할과 정보 공유 절차를 명확히 해야 한다. 중앙정부는 분야별 법정 권한에 따라 공통적인 안전 원칙과 보고 체계를 마련하고, 지방자치단체와 전문 기관은 현장 점검, 민원 분석, 개선 이행을 담당할 수 있다. 정기 평가 외에도 중대한 사고, 급격한 성능 저하, 반복적인 민원, 보안 침해, 승인되지 않은 기능 변경이 발생하면 특별 점검을 실시할 수 있어야 한다. 감독 기관이 알고리즘 관련 문서, 집단별 성능 자료, 계약, 로그, 사고 기록에 접근하고 시정·개선, 사용 제한, 회수 등 필요한 조치를 요구할 권한은 개별 법률에 따라 구체적으로 정해져야 한다. 여러 기관에 흩어진 이상 사례와 민원을 연계하여 분석하면 개별 시설에서는 발견하기 어려운 반복적·구조적 위험을 조기에 파악할 수 있다(WHO, 2023).

AI·로봇 돌봄 사고가 발생하면 기관은 이용자의 생명과 신체의 안전을 우선 확보하고 문제가 된 기기나 기능의 사용을 제한해야 한다. 이후 원인 조사와 권리 구제를 위해 로그, 영상, 모형과 소프트웨어 버전, 계약, 점검·교육 기록, 당시의 업무 절차를 적법한 범위에서 보존해야 한다. 이용자는 어느 사업자나 기관에 법적 책임이 있는지를 먼저 규명하지 않더라도 하나의 창구를 통해 사고를 신고하고 안전 조치와 필요한 지원을 받을 수 있어야 한다. 피해의 성격에 따라 기관의 고충 처리, 개인정보 분쟁 조정, 소비자 피해 구제, 의료 분쟁 조정, 행정적 불복, 민사 소송 등 서로 다른 절차를 이용할 수 있다. 접수 기관은 관할이 다르다는 이유로 이용자를 반복해서 돌려보내지 말고 적절한 기관으로 연계하며 처리 상황을 안내해야 한다. 소비자 피해 구제는 상담과 피해 구제 신청, 사실 조사, 합의 권고를 거치고 합의되지 않는 경우 소비자 분쟁 조정으로 이어질 수 있는 절차를 제공한다(한국소비자원, n.d.). 피해 구제에는 금전적 배상뿐만 아니라 잘못된 기록과 AI 결과의 정정, 서비스의 신속한 복구, 대체 돌봄, 적절한 사과, 재발 방지 조치가 포함될 수 있다. 기관과 공급자는 위험과 책임 범위에 맞는 보험이나 배상 재원을 마련하여 책임 주체의 도산이나 계약 분쟁으로 이용자가 적절한 구제를 받지 못하는 상황을 예방할 필요가 있다. 핵심적인 기술 자료와 로그를 사업자가 보유하는 사고의 특성을 고려하여 관련 기록의 보존과제출, 이용자의 입증 부담을 합리적으로 조정하는 제도도 검토할 수 있다. 동일하거나 유사한 결함으로 여러 이용자가 피해를 입었 다면 공동 조사와 집단 분쟁 조정 등 적용 가능한 절차를 활용하여 일관되고 신속한 해결을 지원해야 한다. 구제 결과와 사고 원인은 감독 기관과 서비스 현장에 환류하여 품질 기준, 인증, 조달 조건, 운영 절차를 개선하는 근거로 사용해야 한다(한국소비자원, n.d.; NIST, 2023; 개인정보 보호법, 2025).