대한민국의 「AI 기본법」은 EU의 강력한 위험 관리와 미국의 혁신 지향성을 절묘하게 배합한 ‘하이브리드 모델’로 평가받는다. 한국은 EU에 이어 세계에서 두 번째로 종합적인 「AI 기본법」을 제정한 국가다. 특히 ‘고영향 AI’라는 독자적 개념을 통해, EU처럼 모든 고위험 시스템을 사전에 촘촘히 옥죄기보다는 국민의 삶에 중대한 영향을 미치는 영역을 중심으로 책무를 부여하는 실천적 방식을 택했다. 이는 기술 주권을 확보하면서도 글로벌 규제 정합성을 유지하려는 전략적 선택의 결과다.
－01_“「AI 기본법」의 탄생” 중에서

「AI 기본법」은 알고리즘과 데이터 그 자체를 독립적인 처벌 대상으로 삼기보다는, AI 시스템의 ‘신뢰성’을 결정짓는 핵심 구성 요소로서 간접 규율한다. 알고리즘은 AI의 논리적 구조를 형성한다. 법은 고영향 AI 사업자에게 ‘알고리즘의 주요 기준’에 대한 설명 방안을 수립하도록 명시함으로써, 블랙박스(Black-box) 문제를 완화하고 알고리즘적 투명성을 확보하고자 한다.
－03_“「AI 기본법」의 적용 범위” 중에서

「AI 기본법」 제3조(기본 원칙 및 국가 등의 책무)는 AI의 개발과 활용 전 과정에서 준수해야 할 기본 원칙을 규정하고 있으며, 이는 이용자의 권리를 보호하는 최상위 규범으로 작동한다. AI 기술은 인간의 존엄성을 존중하는 방향으로 개발되어야 하며, 이용자에게 차별적이거나 불공정한 결과를 초래해서는 안 된다. 이러한 원칙은 추상적인 선언에 그치지 않고, 사업자가 AI 시스템을 설계할 때부터 안전성과 신뢰성을 확보하는 조치를 강구해야 한다는 구체적 의무로 이어진다. 특히 생성형 AI 서비스의 경우, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 보안과 안전성을 유지해야 할 책임이 사업자에게 부여된다. 이는 이용자가 AI 서비스를 신뢰하고 이용할 수 있는 ‘신뢰 기반’을 조성함으로써 궁극적으로 산업의 건전한 발전을 이끄는 선순환 구조를 지향한다.
－06_“권리 보호와 이용자 중심 구조” 중에서

「AI 기본법」의 시행령 및 가이드라인 제정 과정에서 가장 뜨거운 쟁점이 된 부분은 ‘고영향 AI’의 범위 확정과 ‘영업 비밀 보호’와 ‘설명 의무’ 사이의 충돌이다. 고영향 AI는 법 제2조 제4호에 따라 11개 영역에서 활용되는 AI 시스템으로 규정된다. 입법부는 사람의 생명이나 기본권에 중대한 영향을 미칠 가능성이 높은 영역을 법으로 특정하여 선제적 규제를 도입했으나, 산업계에서는 ‘중대한 영향’의 기준이 모호하여 혁신이 위축될 수 있다는 우려를 제기해 왔다. 이에 정부는 단순한 규칙 기반 소프트웨어나 보조적 도구는 제외하고, 실제 위험성이 높으며 최종 의사 결정에 사람이 개입하지 않는 경우를 중심으로 규제를 한정하겠다는 방침을 세웠다.
－09_“조문별 해설과 적용 사례” 중에서