AI·로봇 시대의 돌봄서비스 057. 생성형 AI의 이해

생성형 인공지능은 학습 자료에서 익힌 특징과 관계를 바탕으로 이용자의 지시에 맞는 새로운 콘텐츠를 만드는 인공지능이다. 글을 생성하는 대규모 언어모델뿐 아니라 이미지, 음성, 영상과 프로그램 코드를 만드는 다양한 인공지능 모델이 여기에 포함된다. 생성된 결과는 학습 자료를 그대로 복사한 것이 아니라 모델이 학습한 여러 표현의 관계와 나타날 가능성을 바탕으로 새롭게 구성한 내용이다. 이러한 특성은 문서의 초안을 작성하고 아이디어를 찾는 데 도움이 되지만 사실과 다른 내용이나 부적절한 표현도 자연스럽게 만들 수 있으므로, 생성 원리와 활용 가능성뿐 아니라 결과의 불확실성과 이용자가 직접 검토해야 할 책임을 함께 이해해야 한다.

기존의 판별모델이 입력된 정보를 미리 정한 집단으로 분류하거나 특정 값을 예측하는 데 초점을 둔다면, 생성모델은 학습 자료의 특징과 관계를 익혀 새로운 결과를 만든다. 생성모델은 별도의 조건 없이 학습 자료와 비슷한 내용을 만들 수도 있고 글로 작성한 지시, 이미지, 음성이나 특정 주제에 맞는 결과를 만들 수도 있다. 이용자가 입력하는 프롬프트는 인공지능이 수행할 업무와 관련 상황, 지켜야 할 조건과 원하는 답변 형식을 알려 주는 역할을 한다. 모델은 같은 프롬프트를 입력하더라도 표현을 선택하는 방식과 설정에 따라 서로 다른 답변을 생성할 수 있다. 생성 결과의 다양성은 새로운 아이디어를 찾고 콘텐츠를 만드는 데 유용하지만 같은 조건에서 일관된 결과를 얻기 어려울 수 있어 별도의 관리가 필요하다. 방대한 자료를 미리 학습하여 여러 업무에 활용할 수 있는 모델을 기반모델이라고 한다. 기반모델은 특정 업무에 맞게 추가로 학습하거나 프롬프트를 조정하고 외부 검색 자료를 연결하는 방법으로 다양한 목적에 활용할 수 있다. 하나의 모델을 여러 분야에서 다시 사용할 수 있어 개발 비용을 줄이고 활용 범위를 넓힐 수 있지만, 핵심 모델의 오류와 편향도 여러 서비스로 함께 퍼질 수 있다. 따라서 기반모델은 모델 자체뿐 아니라 학습 자료와 조정 방법, 실제 사용 환경과 이용자의 사용 방식까지 함께 살펴야 하며(Bommasani et al., 2021), 생성형 인공지능을 모든 문제를 독립적으로 해결하는 완성된 제품이 아니라 목적에 맞는 검증과 관리가 필요한 범용 기술로 이해해야 한다.

대규모 언어모델은 방대한 글을 ‘토큰’이라는 작은 단위로 나누고 앞에 나온 내용을 바탕으로 다음에 올 토큰을 예측하도록 학습한다. 토큰은 하나의 단어일 수도 있지만 단어의 일부, 문장부호, 숫자나 공백이 될 수도 있다. 모델은 문맥에 어울릴 가능성이 높은 토큰을 하나씩 선택하고 이를 앞의 내용에 이어 붙이는 과정을 반복하여 문장과 문서를 만든다. 트랜스포머는 문맥에 포함된 여러 토큰 사이의 관련성을 서로 다르게 계산하여 다음 내용을 만드는 데 필요한 정보를 선택하고 결합한다. 모델이 자연스러운 문장을 생성하는 것은 방대한 글에서 언어 사용의 특징과 관계를 정교하게 학습한 결과이며 인간과 같은 의식이나 의도를 가졌다는 증거는 아니다. 사전학습 단계에서는 많은 글을 이용하여 일반적인 언어 표현과 문장의 특징을 학습하고 이후에는 특정 업무를 수행하고 이용자의 지시를 따르도록 모델을 추가로 조정한다. 모델의 내부 계산 값에는 학습한 관계가 숫자로 저장되지만 원문을 데이터베이스처럼 정확히 찾아 보여 주는 구조는 아니다. 대규모 언어모델은 지시문과 몇 개의 예시만으로도 번역, 요약과 질의응답 등 다양한 업무를 수행할 수 있다(Brown et al., 2020). 결과를 생성할 때에는 표현을 선택하는 범위와 무작 위성의 정도를 조절하여 답변의 다양성과 일관성을 바꿀 수 있지만, 프롬프트를 구체적으로 작성하더라도 내용의 사실성, 공정성과 안전성이 자동으로 보장되는 것은 아니다.

텍스트 생성모델은 앞에 나온 내용을 바탕으로 다음에 올 표현을 예측하여 문장과 요약, 번역, 대화와 프로그램 코드 등을 만든다. 음성 생성모델은 글이나 음성의 특징을 입력받아 발음과 억양, 속도와 목소리의 특성을 반영한 음성을 생성한다. 이미지 생성모델은 글과 이미지의 관계를 학습하여 설명에 맞는 장면을 만들거나 기존 이미지의 일부를 수정할 수 있다. 글과 이미지의 특징을 함께 학습한 모델은 업무별로 별도의 학습을 하지 않더라도 다양한 문장 설명에 맞는 이미지를 생성할 수 있음을 보여 주었다(Ramesh et al., 2021). 이러한 생성 기술은 글과 음성, 이미지 등의 서로 다른 정보를 하나의 모델에서 입력받고 결과로 만들 수 있는 다중양식 인공지능으로 발전하고 있다. 이미지 확산모델은 원본 이미지에 작은 잡음을 계속 더해 형태를 알아볼 수 없게 만드는 과정과 이 잡음을 단계적으로 제거하여 이미지를 복원하는 과정을 학습한다. 새로운 이미지를 만들 때에는 무작위 잡음에서 시작하여 이용자의 지시에 맞게 잡음을 반복해서 제거하면서 점차 구체적인 이미지를 형성한다(Ho et al., 2020). 음성 생성모델은 음파의 매우 짧은 부분을 순서대로 예측하거나 압축된 음성 정보를 먼저 생성한 뒤 사람이 들을 수 있는 음성으로 바꾸는 방식을 활용한다. 특정인의 음성 자료를 학습하거나 참고용 목소리를 제공하면 그 사람과 비슷한 음성을 만들 수 있어 의사소통 지원에 활용할 수 있지만 사칭에도 악용될 수 있으므로, 생성한 글·음성·이미지에는 인공지능을 사용하거나 편집한 사실을 표시하고 원본의 출처와 이용 권한을 확인해야 한다.

환각은 생성형 인공지능이 입력된 내용이나 확인할 수 있는 근거와 맞지 않는 정보를 사실처럼 만들어 내는 현상이다. 글을 생성할 때 나타나는 환각은 주어진 원문의 내용과 직접 충돌하는 오류와 원문에 없는 정보를 사실처럼 덧붙이는 오류 등으로 구분할 수 있다(Ji et al., 2023). 대규모 언어모델은 정보의 참과 거짓을 판단하기보다 앞뒤 문맥에 자연스럽게 이어질 표현을 생성하도록 학습하므로 사실이 아닌 내용도 그럴듯한 문장으로 만들 수 있다. 학습 자료의 오류와 오래된 정보, 모호한 질문, 자료가 부족한 전문 분야와 지나치게 구체적인 답변을 요구하는 지시는 환각의 가능성을 높일 수 있다. 모델은 존재하지 않는 논문과 통계, 법령, 기관명이나 인물의 발언을 실제 자료처럼 만들어 낼 수도 있으므로 인용 정보는 반드시 원문에서 확인해야 한다. 부정확한 결과에는 완전히 지어낸 내용뿐 아니라 잘못된 수치, 시간 순서의 혼동, 중요한 조건의 누락, 원래 상황과 다른 요약과 지나친 일반화도 포함된다. 언어모델은 학습 자료에 널리 포함된 사람들의 오해와 잘못된 설명을 그대로 따라할 수 있으며 모델의 크기가 커진다고 사실성이 자동으로 높아지는 것은 아니다 (Lin et al., 2022). 같은 질문을 반복하거나 ‘사실대로 답하라’고 지시하면 일부 오류가 줄어들 수 있지만 정확한 답변을 보장하지는 못한다. 외부 문서를 검색하여 답변에 활용하는 검색증강생성도 잘못된 자료를 찾거나 문서의 내용을 부정확 하게 결합할 수 있으므로, 중요한 정보는 공식 문서와 신뢰할 수 있는 원자료를 직접 대조하여 날짜와 수치, 고유명사와 인용 내용이 일치하는지 확인해야 한다.

생성형 인공지능을 사용하기 전에는 업무의 목적과 생성된 결과가 잘못되었을 때 발생할 수 있는 위험을 먼저 평가해야 한다. 건강, 법률, 복지서비스 자격과 위기 판단처럼 오류의 영향이 큰 업무에서는 생성 결과만으로 결정하지 말고 자격을 갖춘 전문가와 공식 자료를 통해 확인해야 한다. 주민등록번호와 연락처, 건강 상태, 상담 기록 등의 개인정보와 기관의 비공개 자료는 승인을 받지 않은 외부 인공지능 서비스에 입력해서는 안 된다. 생성형 인공지능을 사람 중심으로 활용하려면 개인정보 보호, 윤리적 검토, 이용자의 활용 능력과 책임을 포함한 제도적 준비가 필요하다(UNESCO, 2023). 기관은 사용할 수 있는 인공지능 도구와 자료의 범위, 결과를 검토할 책임자, 정보의 보관·삭제 기준과 사고 대응 절차를 미리 정해야 한다. 생성된 글과 이미지에 기존 저작물이나 특정인의 표현이 포함될 수 있으므로 공개하거나 배포하기 전에 출처와 이용 조건을 확인해야 한다. 인공지능이 만든 초안은 그대로 사용하지 말고 목적과 독자에 맞게 수정하며 차별적인 표현, 왜곡된 내용과 불필요한 개인정보가 포함되지 않았는지 검토해야 한다. 생성형 인공지능의 주요 위험에는 사실과 다른 내용의 생성, 차별적인 편향, 개인정보 침해, 정보의 신뢰성 훼손, 저작권 등의 지식재산 문제와 지나친 의존이 포함된다(NIST, 2024a). 사용한 모델의 이름과 버전, 입력한 지시문, 참고자료와 수정 내용을 기록하여 오류의 원인을 확인하고 책임 있게 검토하며, 생성형 인공지능을 이용자의 전문성과 판단을 대신하는 권위자가 아니라 반복적인 업무와 아이디어 탐색을 돕는 보조도구로 활용해야 한다.