마치 살아 있는 생명 같은 느낌을 주는 기계, 더 나아가 인간의 사고능력, 즉 인지, 추론, 학습 등을 모방하는 기술을 인공지능(AI, artificial intelligence) 기술이라고 한다. 인간의 학습 능력과 추론 능력, 지각 능력, 자연언어의 이해 능력 등을 컴퓨터 프로그램으로 실현한 기술로 활용 가능한 데이터만 충분히 있다면 그동안 인간이 수행해 왔던 계산 기반의 지적 작업을 인간보다 더욱 빠르고 정확하게 대신할 수 있어 경제적으로 뛰어난 가치를 가지고 있다.

AI 기술이 로봇 기술, 빅데이터 기술, 클라우드, IoT 기술과 결합되면서 지능정보사회로의 변화를 견인하고 있다. 컴퓨터와 인터넷 혁명으로 대표되는 정보사회와는 달리 지능정보사회에서는 판단의 주체가 점차 인간에서 기계로 바뀌어 기계가 자율적인 처리, 제어, 예측을 할 수 있는 사회이다. 산업혁명에서 기계가 인간의 육체노동을 대체했다면 지능정보사회에서는 기계가 인간의 정신노동을 대체하게 된다.

2022년 12월 1일 미국 스타트업 ‘OpenAI’가 출시한 ChatGPT(Chat Generative Pre-Trained Transformer)가 글로벌 IT 생태계에 충격을 주고 있다. ChatGPT는 사람의 언어를 이해하는 것은 물론 사람의 질문에 꼭 맞는 유용한 답을 하는 대화형 생성 AI로 일반 대중에게 AI의 일상화라는 경험을 제공하고 있다.

생성형 AI인 대표인 ChatGPT는 문장을 생성(Generative)하는 AI 모델로서사전학습(Pre-trained)을통해훈련을받았으며,트랜스포머(Transformer)라는 구조에 기반한 인공지능 언어모델이다. 생성이란 문장을 사람처럼 만들어낸다는 것이고, 사전학습이란 많은 데이터를 사전에 습득했다는 것이며, 트랜스포머란 단어 간 연관성 파악이 가능한 혁신적인 심층신경망이라는 것이다. 결론적으로 생성형 AI란 대규모 데이터의 패턴을 자기지도 학습하여 명령어(Prompt)에 따라 새로운 텍스트, 코드, 이미지, 음악, 영상 등의 콘텐츠를 생성하는 인공지능으로 정의할 수 있다. 패턴을 인식하고 예측하도록 설계된 기존 AI 시스템과 달리 생성 AI는 이미지, 텍스트, 오디오 등의 형태로 새로운 콘텐츠를 생성한다.

생성형 AI 모델의 특성은 다음 몇 가지로 제시할 수 있다. 첫째, 대규모 언어모델(Large Language Model)이라는 점이다. 우선 언어모델은 문장 생성을 위해 단어의 순서에 다음에 올 수 있는 확률을 할당하는 모델로, 기존 통계적 방법에서 인공신경망 방법으로 발전했다. 둘째, 콘텐츠를 창조한다는 것이다. 기존의 AI는 이용자의 특정 요구에 따라 결과를 생성한다. 즉, AI의 역할은 데이터 분석, 활용 등 인간의 행위를 대체하거나 보완하는 데 그친다. 생성형 AI는 자기 학습 알고리즘으로 새로운 디지털 이미지, 영상, 음성, 텍스트, 프로그램 코드 등을 ‘창조’한다. 기존 검색엔진과 달리 생성형 AI는 사용자 질문에 대해 새로운 정보를 생성하는 기능이 있다. 셋째, 기존 검색모델과의 차별성이다. 검색모델이 키워드 검색을 통해 정보를 제공하지만, 생성형 AI는 인공지능 기술인 언어 모델링을 사용하여 사용자 질문에 대한 답변을 생성하며, 검색모델이 키워드 검색을 통한 정보 제공으로 사용자와의 상호작용은 없지만, 생성형 AI 모델은 사용자 친화적인 상호작용을 통해 질문을 이해하고 대답하는 방식이다. 나아가 생성형 AI는 범용인공지능(Artigicial General Intelligence, AGI)으로 발전하고 있다. 이는 인간처럼 종합적으로 사고·학습·추론하는 인공지능으로 텍스트 이해·생성, 자연어처리, 이미지 분류, 예측, 추론 등 다양한 태스크를 동시에 처리하는 인공지능이다.

생성형 AI의 발전 속도가 빠르다는 것과 생성형 AI의 성능과 인류에 대한 영향이 지대하는 것에 대해서 공감대가 이루어지고 있다. 이에 생성형 AI에 대한 법의 관심도 증가하고 있다. 이는 기본적으로 생성형 AI가 인간을 자율성, 독립성을 생성형 AI가 침해할 가능성이 있다는 점에 대한 기존 법률의 관심이다. 즉, 인간을 권리주체로 보고 구축된 기존의 법체계에 어떤 변화가 필요한지에 대한 관심이다. 또한 생성형 AI가 야기하는 문제점이나 부작용에 대한 법규제 이슈가 등장하고 있다.

이런 이슈로는 생성형 AI의 결과물의 진실성의 문제로 인한 허위조작 정보의 문제, 생성형 AI가 데이터를 학습하는 과정에서 저작권과 개인정보를 침해할 가능성, 사이버 공격에 생성형 AI를 이용하는 경우, 생성형 AI를 이용할 수 있는 계층, 국가와 그렇지 못한 계층, 국가 간 소외, 불평등 심화, 법치주의와 민주주의에 대한 위협, 생성형 AI 시장 성장에 따라 자본력을 갖추고 시장을 선점한 소수 거대 글로벌 플랫폼의 독점 심화에 대한 우려 등이 있다.

이런 이슈들에 대해 규제받지 않는 AI는 인류에게 위협이 될 것이기 때문에 통제할 수 없는 상황이 오기 전에 미리 규제 논의를 서둘러야 한다는 입장과 이는 과도한 우려에 불과하며 AI 개발을 진행하면서 부작용을 최소화하려는 것으로 충분하다는 입장이 대립하고 있다.

전자의 입장에서 EU, 미국, 한국 등은 AI 규제 입법을 시도하고 있다. 대부분 고위험 AI에 대해 사전 고지, 영향평가, 신뢰성과 안전성 조치의무 등 사전적 규제를 포함하고 있는 것이 특징이다. 다만 제기된 이슈들은 이미 플랫폼, 데이터 경제 시대에도 존재하던 것으로 사전적, 사후적 정책적 대응이 필요한 것이지 반드시 사전적 규제가 필요하다고 보기는 어려운 것들이다. 아직 EU를 제외하면 플랫폼에 대해서도 규제입법이 가시화되지 않고 있다.

오히려 기술 진보를 사전적으로 예측하고 선제적으로 법제를 도입하는 것은 자칫하면 현실적 집행이 곤란한 규제를 양산할 수 있으며, 기술 혁신으로 인한 편익을 저해할 수도 있다. 사전 규제, 사후 규제, 정부 규제, 자율 규제 등 다양한 규제방식 중에서 기술 진보에 유용하게 대응하면서 사회적 위험을 최소화할 수 있는 유연하고 탄력적인 방식을 채택할 필요가 있다.

스탠포드 연구소의 의견대로 생성 AI 모델이 산업과 사회, 우리 삶에 미치는 영향은 매우 클 것이다. 한편으로는 인간의 노동력을 보완하여 우리 삶이 더 생산적이고 창의적일 수 있도록 할 것이나, 다른 한편으로는 우리의 편견을 강화시키거나, 정보에 대한 신뢰를 떨어뜨릴 수 있다. 결국 기술의 양면성은 보편적인 것이며 어떻게 기술을 인간에 유용하게 사용할 것이냐가 중요한 것이다. AI가 인간을 대체하는 것에 대해서도 적절한 대응이 필요하지만, AI를 이용하지 않는 자가 이용하는 자에 의해 대체될 가능성에 대해서도 유의해야 할 것이다.

본서는 이런 문제의식에 기반해 생성형 AI 도입, 확산에 따른 법적 이슈를 망라적으로 다루고 있다. 본서는 총 4장으로 구성되어 있다. 제1장에서는 생성형 AI에 대한 포괄적 이해를 위해 생성형 AI의 기술적 이해, 생성형 AI 시장과 산업의 동향과 전망, 생성형 AI가 가져올 변화와 정책과제, 생성형 AI의 규제원칙에 관해 다룬다. 제2장은 본서의 핵심적인 내용으로 생성형 AI 관련 법규범의 이슈를 본격적으로 다룬다. 글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안, EU의 AI 규제법과 AI 규제 방향, 생성형 AI 활용의 지식재산 쟁점, 생성형 AI의 저작권법 이슈와 과제, 생성형 AI의 개인정보의 이슈와 과제, 생성형 AI의 경쟁법상의 이슈와 과제, 생성형 AI에서 허위정보 이슈와 과제, 생성형 AI에서 알고리즘 규제 이슈와 과제가 포함되어 있다.

다음 제3장에서는 기존 헌법, 민법, 형법, 행정법, 금융법 등 주류 법학에서 생성형 AI의 쟁점을 다룬다. 생성형 인공지능 시대의 계약자유 원칙과 문제점, 생성형 인공지능을 활용한 행정의 이론적 문제와 대응, 생성형 인공지능을 활용한 해킹 범죄의 위험성과 대책, 생성형 AI 이용범죄의 쟁점과 규제방안-딥페이크 범죄를 중심으로, 생성형 AI와 금융법의 과제, 생성형 AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구가 포함되어 있다. 끝으로 제4장에서는 기타 중요한 생성형 AI 관련 법정책적 쟁점으로 생성형 AI의 오남용 문제와 사이버보안, 생성형 AI와 법률서비스의 이슈 및 동향, 생성형 AI 및 글로벌 통상환경의 변화와 전망을 다룬다.

바쁘신 일정에도 불구하고 본서 집필에 참여해 주신 교수, 변호사 등 총 24분에게 감사드린다. 특히 이번 작업에는 여러 전공의 법학자 외에도 공학, 미디어학, 경제학 전공 학자분과 이 분야 최고 실무 전문가 변호사분들이 참여해서 이론과 실무가 연계되고 여러 학문 간 통섭적 접근을 수행했다. 또한 박영사 김한유 과장님은 처음부터 이 책이 출간될 수 있도록 지원해 주셨으며, 박세연 님은 이 책의 편집을 위해 아낌없는 노력을 기울여 주셨다. 이 자리를 빌려 깊이 감사드린다.

개인적으로 데이터와 법, 플랫폼의 법과 정책, 마이데이터와 법에 이어 생성형 AI와 법이라는 새로운 분야를 여러 훌륭한 동학과 함께 개척해 가는 기회를 가진 것도 큰 행운이었다. 그리고 법조인의 꿈을 펼치기 위해 노력 중인 아이에게도 행운이 있기를 바라고 아이의 꿈을 열심히 응원하고 있는 아내에게도 감사를 표한다.

본서가 AI, 데이터 경제를 선도하는 한국의 관련 학계, 법조계, 기업, 정부는 물론 국민에게 생성형 AI와 법 이슈에 대한 나침반이 될 수 있기 바란다.

감사합니다.

2024.10
고려대학교 연구실에서 편저자 이성엽