사회서비스의 디지털 전환 032. 기술윤리와 인간 중심 복지

디지털 전환이 가속화되는 환경에서도 사회복지서비스 설계의 출발점은 기술이 아니라 인간의 존엄과 관계, 그리고 삶의 맥락이어야 한다. 공 공복지 영역에서 기술은 효율성을 높이는 수단일 수 있으나, 그 자체가 목적이 될 수는 없으며, 서비스는 언제나 이용자의 요구와 경험을 중심으로 구성되어야 한다. 특히 사회복지 실천은 관계를 기반으로 이루어지는 활동인 만큼, 디지털 환경에서도 인간과 인간 사이의 신뢰와 책임이 유지될 수 있도록 설계 원칙이 분명히 제시될 필요가 있다.

이러한 맥락에서 인간 중심(human-centric)·참여적(participatory) 설계 원칙은 디지털 복지서비스의 핵심 윤리 기준으로 자리 잡고 있다. 사회복지 현장에서는 기술 전문가 중심의 일방적 시스템 도입이 아니라, 현장 종사자와 이용자가 함께 문제를 정의하고 해결 과정에 참여하는 구조가 서비스의 수용성과 신뢰를 높이는 데 기여한다. 인공지능과 자동화 기술 역시 인간을 대체하는 도구가 아니라, 사회복지사의 전문적 판단과 공감적 관계 형성을 보완하는 수단으로 활용되어야 하며, 기술 활용의 범위와 방식은 관계의 질을 훼손하지 않는 방향으로 통제되어야 한다.

한편 자동화와 인공지능이 복지행정과 사례관리 과정에 활용되는 경우에도 윤리적 판단의 중심은 인간에게 있어야 한다. AI가 의사결정 과정에 관여하더라도, 그 판단 기준과 과정은 설명 가능해야 하며, 오류나 부 당한 결과가 발생할 경우 인간이 개입할 수 있는 구조가 전제되어야 한다. 이는 효율성보다 이용자의 권리와 안전을 우선하는 공공서비스의 기본 원칙에 해당한다. 자동화된 판단은 행정 편의를 위한 수단이 아니라, 추가적인 책임성과 보호 장치가 요구되는 영역으로 인식될 필요가 있다.

특히 데이터 처리가 ‘정당한 이익’을 근거로 이루어지는 경우에도, 그 과정에서 개인의 권리와 자유가 침해되지 않도록 사전에 위험 평가와 이익 형량이 이루어져야 한다. 생성형 AI나 자동화 시스템이 기록 작성, 대상자 분류, 서비스 추천과 같은 업무를 수행하더라도, 최종적인 판단과 책임은 사회복지사에게 있음을 명확히 해야 한다. 자동화가 전문직의 책임성을 약화시키거나, 이용자와의 관계를 단절시키는 방향으로 작동하지 않도록 제도적 기준과 운영 원칙이 함께 마련되어야 한다.

아울러 디지털 복지의 자동화는 취약계층 보호라는 사회복지의 기본 목적과 충돌할 가능성도 내포하고 있다. 자격 심사 강화나 데이터 기반 감시가 과도하게 적용될 경우, 오히려 사회적 약자의 권리 제한이나 차별을 심화시킬 위험이 존재한다. 이러한 문제를 예방하기 위해서는 인권 영향평가, 오류 및 편향에 대한 구제 절차, 이의 제기와 설명 요구가 가능한 제도적 장치가 필수적이다. 데이터 윤리는 공정성, 투명성, 책임성을 중심으로 수집·분석·활용 전 과정에 내재화되어야 하며, 이는 인간의 존엄을 보호하기 위한 최소한의 기준으로 작동해야 한다.

결국 사회복지 영역에서의 기술윤리는 기술 활용의 범위를 제한하는 규범이 아니라, 기술이 인간의 권리와 존엄을 증진하는 방향으로 작동하도록 이끄는 기준이다. 디지털 전환 속에서도 사회복지서비스는 효율성보다 인간의 존엄 실현을 우선 목표로 삼아야 하며, 인공지능과 자동화는 언제나 인간의 윤리적 판단과 책임을 중심에 두고 활용되어야 할 것이다.

복지행정의 자동화는 행정 처리 속도를 높이고 반복 업무를 줄이는 데 기여하며, 한정된 인력과 자원을 보다 효율적으로 활용할 수 있게 한다는 점에서 분명한 장점을 지닌다. 그러나 이러한 기술적 효율성 이면에는 자동화가 본질적으로 갖는 한계 역시 함께 존재하며, 이는 사회복지 실천의 특성과 맞물릴 때 더욱 분명하게 드러난다.

무엇보다 자동화된 행정 시스템은 인간의 감정과 관계, 복합적인 삶의 맥락을 충분히 반영하기 어렵다는 한계를 지닌다. 알고리즘은 사전에 설정된 규칙과 데이터에 따라 판단을 내리기 때문에, 복지대상자가 처한 위기 상황이나 복합 욕구, 일시적인 삶의 변화와 같은 정성적 요소를 세 밀하게 이해하는 데에는 구조적 제약이 있다. 그 결과 개인의 고유한 사 정이 충분히 고려되지 못한 채, 획일적이고 기계적인 판단이 이루어질 위험이 발생한다.

사회복지 실천은 행정 절차의 정확성만으로 완성되지 않으며, 이용자와의 관계 속에서 형성되는 공감과 신뢰를 핵심 요소로 한다. 특히 위기 개입이나 복합적 욕구를 지닌 대상자의 경우, 정형화된 기준에 따른 자동화 판단만으로는 적절한 지원 결정을 내리기 어렵다. 이 때문에 사회복지 전문직 단체들은 생성형 인공지능이나 자동화 기술이 사회복지사의 윤리적 판단과 공감적 역할을 대체해서는 안 되며, 어디까지나 이를 보조하는 도구로 활용되어야 한다는 점을 강조하고 있다. 실제로 스웨덴 사회서비스 영역에서도 로보틱 프로세스 자동화(RPA)가 단순 행정 업무에는 효과적이었으나, 이용자의 복합적인 생활 상황을 고려해야 하는 영역에서는 한계를 보였다는 보고가 제시된 바 있다(Germundsson, 2025).

이와 함께 자동화된 복지행정은 데이터 품질과 알고리즘 편향 문제에 취약할 수 있다는 점에서도 주의가 요구된다. 인공지능 시스템은 기존에 축적된 행정 데이터를 학습 기반으로 활용하기 때문에, 데이터의 불균형이나 누락, 과거 정책의 편향이 그대로 재생산될 가능성이 존재한다. 이로 인해 특정 집단이 구조적으로 불리한 판단을 받거나, 지원 대상에서 부당하게 제외되는 사례가 발생할 수 있으며, 이는 자동화가 곧 공정성을 보장한다는 인식을 재검토하게 만든다.

특히 비용 절감이나 처리 속도 개선에만 초점을 맞춘 자동화는 오분류, 책임 소재의 불명확성, 권리 침해 가능성을 동시에 확대시킬 수 있다. 이러한 문제를 예방하기 위해서는 데이터 품질 관리와 알고리즘 검증, 감사 체계를 포함한 데이터 거버넌스 구축이 자동화 정책과 함께 병행되어야 한다. 자동화된 판단이 어떤 기준과 데이터에 근거해 이루어지 는지에 대한 투명성 확보는 복지행정의 신뢰성을 유지하기 위한 필수 조 건이다.

이러한 한계를 고려할 때, 복지행정의 자동화는 인간의 판단과 통제를 전제로 한 구조 속에서 활용되어야 한다. 인공지능이 복지행정에 도입되 더라도, 최종적인 판단과 책임은 인간에게 있음을 전제로 하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 원칙은 반드시 유지되어야 한다. 이는 기술의 효율성이 인간의 존엄과 권리보다 우선되어서는 안 된다는 공공 복지의 기본 원칙을 제도적으로 구현하는 방식이다.

개인정보 보호와 관련된 지침에서도 자동화된 의사결정이 개인의 권리나 자유를 침해하지 않도록 사전 위험평가와 이익 형량 절차를 요구하고 있으며, 인간의 개입 가능성과 설명 가능성, 책임성을 핵심 원칙으로 제시하고 있다. 결국 자동화된 복지행정은 행정 효율성을 높이는 유용한 수단이 될 수 있지만, 인간 중심의 통제 구조 안에서 운용될 때에만 사회적 정당성과 신뢰를 확보할 수 있다. 복지행정의 자동화는 기술의 확장이 아니라, 인간의 판단을 중심에 둔 신중한 활용이라는 점에서 이해되어야 할 것이다.

정보화와 인공지능이 복지현장 전반에 본격적으로 도입되면서, 사회복지사의 윤리적 판단 기준 역시 기존의 인간 중심 윤리를 넘어 새로운 확장을 요구받고 있다. 오늘날 사회복지사는 단순히 기술을 활용하는 실무자가 아니라, 데이터와 알고리즘이 인간의 삶과 권리에 미치는 영향을 함께 고려해야 하는 윤리적 판단 주체로서의 역할을 수행해야 한다.

전통적으로 사회복지 윤리는 인간의 존엄과 가치, 평등, 정의, 관계성을 핵심 원칙으로 삼아 왔다. 그러나 디지털 환경에서는 여기에 정보 보호, 데이터 활용의 정당성, 알고리즘의 공정성과 설명 가능성 등 새로운 윤리적 요소가 결합된다. 인공지능과 자동화 기술의 활용 목적은 행정 효율성 그 자체가 아니라, 궁극적으로 인간의 복지와 삶의 질을 향상시키는 데 있어야 하며, 이 과정에서 인간의 존엄성과 기본권 보호는 최우선 가치로 유지되어야 한다는 점이 국제적으로도 공통된 원칙으로 제시되고 있다.

이러한 변화는 사회복지사에게 기술을 비판적으로 이해하고 판단할 수 있는 윤리적 역량을 요구한다. 데이터 수집과 분석, 알고리즘 활용 과정에서 사회적 약자에게 불리한 결과가 발생하지 않는지 점검하고, 기술적 판단이 인간의 삶을 단순화하거나 획일화하지 않도록 통제하는 역할이 중요해지고 있다. 따라서 사회복지사는 인간 중심 윤리와 정보·기술 윤리를 통합적으로 고려하며, 기술과 복지 가치가 충돌하지 않도록 조정하는 윤리적 중재자로서의 책임을 지닌다.

이와 관련하여 기존의 사회복지사 윤리강령 역시 디지털 환경에 맞게 확장되어 해석될 필요가 있다. 한국사회복지사 윤리강령이 강조해 온 인간의 존엄, 사회적 정의, 전문직 책임의 원칙은 대면 실천에 국한되지 않고, 비대면 상담, 데이터 기반 사례관리, 인공지능 활용 상황에서도 동일하게 적용되어야 한다(한국사회복지사협회, 2024). 특히 생성형 인공지능 활용이 확대되면서 개인정보 침해, 정보 비대칭, 알고리즘 차별과 같은 새로운 윤리적 위험이 등장하고 있는 만큼, 인간의 판단과 개입 가능성을 전제로 한 기술 활용 원칙이 더욱 중요해지고 있다.

국내외 공공부문 지침과 국제 논의에서도 인공지능은 사회복지사의 판단을 대체하는 주체가 아니라, 전문적 판단을 보조하는 도구로 활용되어야 한다는 점이 반복적으로 강조된다. 이는 기술 활용의 허용 여부를 넘어, 인간 중심의 가치와 전문직 책임을 디지털 환경 속에서도 일관되게 유지하기 위한 윤리 기준을 정립하는 과정으로 이해할 수 있다.

한편 디지털 복지환경에서는 윤리적 딜레마 상황도 빈번하게 발생한다. 정당한 이익을 근거로 한 데이터 활용이라 하더라도, 개인의 권리와 자유가 침해되지 않도록 사전 위험평가와 이익 형량 절차를 거쳐야 하며, 자동화된 판단이 효율성만을 기준으로 작동하지 않도록 법적·제도적 통제가 필요하다. 기술적 판단 결과가 현장의 전문적 판단이나 윤리 원칙과 충돌할 경우, 사회복지사는 이를 비판적으로 검토하고 인간 중심의 결정을 내릴 책임을 가진다.

이러한 딜레마를 해결하기 위해서는 개인 차원의 윤리적 성찰뿐 아니라, 동료 간 논의와 조직 차원의 합의된 기준 마련이 중요하다. 기술 변화로 인해 역할과 윤리 원칙 간의 긴장이 발생할 수 있는 만큼, 사회복지사는 지속적인 자기성찰과 전문직 공동체 내 논의를 통해 판단 기준을 공유하고 갱신해 나가야 한다. 결국 사회복지사의 윤리적 판단은 기술적 이해, 윤리적 성찰, 법적·제도적 근거가 상호 보완적으로 작동할 때 가능하며, 디지털 환경 속에서도 인간 중심의 책임 있는 전문가로서 판단과 실천을 함께 수행하는 데 그 핵심이 있다.