이미 소장하고 있다면 판매해 보세요.
|
인공지능과 허위조작정보
01 AI 시대, 변화하는 정보 환경 02 가짜뉴스와 허위조작정보 03 허위조작정보 사례와 법적 쟁점 04 생성형 AI와 허위조작정보 05 알고리즘과 허위조작정보 06 왜곡되는 여론과 민주주의 위협 07 표현의 자유 등 기본권 침해 08 디지털정보 취약 계층에 대한 위협 09 글로벌 입법 사례와 동향 10 허위조작정보 대응 |
최종선의 다른 상품
|
그러나 디지털 시대는 빠르고 다양하게 등장하는 기술과 서비스 등으로 예측하기 힘든 특성이 있다. 성문의 법체계를 가진 우리나라의 경우에는 디지털 시대 새롭게 제기되는 인공지능 악용 사례, 허위조작정보 유통 등으로 인한 법률적 쟁점들에 관한 규정을 시의적절하게 마련하고, 이에 대한 교육과정 및 교육프로그램 등을 마련하기가 쉽지 않다. 이처럼 복잡하고 어려운 문제를 해결하기 위해서는 다음과 같은 점을 고려해야 한다. 첫째, 교육 현장이나 개인에게 부담스러운 의무를 부과하기 보다는 국가 또는 지방자치단체, 즉 행정 주체에게 정책 과제 차원의 의무를 부과하여야 한다. 둘째, 가정이나 학교 등 교육 기초 단위의 적극적인 참여를 유도하는 것이 필요하다. 셋째, 인공지능, 허위조작정보 등 법률적 쟁점이 되는 특정 분야의 교육과정 및 교육프로그램 등의 마련을 위하여 표현의 자유 법제도 전문가, 선생님, 학생, 학부모 등 이해당사자들의 조력이 필요하다.
-01_“AI 시대, 변화하는 정보 환경” 중에서 허위조작정보를 판단하기 위해서는 문제가 되는 정보의 허위와 사실을 구별하는 기준, 내용을 사실로 오인하도록 변형된 정보로 인정하는 기준 등 객관적이고 명확한 판단 기준이 전제되어야 한다. 즉, 정치적 또는 가치 판단의 영역, 역사적 평가 또는 미래를 예측하는 영역, 과학적 또는 의학적으로 불명확한 영역, 의도성 등 주관적 구성 요건을 판단하기 어려운 영역 등과 같이 그 내용의 사실과 허위를 구분하기 쉽지 않다. 따라서 그 판단을 위한 객관적이고 명확한 판단 기준이 필요하다. 만약 이러한 판단 기준이 없이, 허위조작정보를 규제하는 경우에는 위축 효과(chilling effect), 자기검열(Self-censorship) 등을 유발하여 표현의 자유라는 헌법상 기본권이 침해되거나 제한될 수 있다. -03_“허위조작정보 사례와 법적 쟁점” 중에서 주권자인 국민은 선거를 통하여 대통령, 국회의원 등 헌법기관을 선출한다. 허위조작정보는 판단의 기초가 되는 정보의 왜곡, 불완전성 및 탈진실성(post-truth) 등으로 주권자의 자유롭고 온전한 의사 결정에 악영향을 미칠 수 있다. 특히, 특정 후보자를 당선시킬 목적 또는 낙선시킬 목적으로 후보자에 대한 허위조작정보를 생산하고 유통하는 경우에는 후보자를 올바르게 검증할 수 없다. 때로는 그의 진의(眞義)에 반하는 결과를 초래할 수 있는 위험성이 있다. 즉, 선거 절차에서 특정 정당 또는 후보자 등에 대한 허위조작정보는 유권자의 자유롭고 민주적인 의사 형성을 어렵게 하여, 선거의 공정성을 해칠 수 있다. -06_“왜곡되는 여론과 민주주의 위협” 중에서 허위조작정보 행동 강령(Code of Practice on Disinformation)은 업계의 주요 행위자들과 같은 다양한 이해관계자들이 2018년 최초로 허위조작정보 대응을 위한 자율규제 기준(self-regulatory standards)에 합의한 최초의 제도적 장치다. 선거기간 중 온라인 허위조작정보 확산 억제뿐만 아니라 코로나19 팬데믹 및 우크라이나 전쟁과 같은 위기 상황에 대한 신속한 대응 과정에서도 효과적인 수단으로 기능하는 등 유럽연합의 허위조작정보 대응 전략의 핵심 역할을 하고 있다. 이 행동 강령은 2018년 처음 마련된 후, 디지털서비스법(DSA)상 행동 강령(Code of Conduct)으로 인정받는 것을 목표로 하여 2022년에 대폭 강화되었다. -09_“글로벌 입법 사례와 동향” 중에서 --- 본문 중에서 |
|
허위조작정보 규제, 민주주의 보호와 표현의 자유 사이
생성형 AI와 추천 알고리즘은 정보를 더 빠르게 만들고 퍼뜨리지만, 그 속도는 허위정보와 조작정보에도 똑같이 작동한다. 문제는 거짓이 단순히 틀린 지식에 머물지 않는다는 데 있다. 허위조작정보는 이용자의 판단을 흐리고, 선거와 여론 형성에 개입하며, 디지털 취약 계층에게 더 큰 피해를 남긴다. 이 책은 이렇게 AI가 바꾼 정보 환경을 법, 민주주의, 기본권의 문제로 읽는다. 이를 위해 AI가 생산·유통하는 허위조작정보를 가짜뉴스, 선거, 생성형 AI, 추천시스템, 표현의 자유와 연결해 살핀다. 유럽연합 인공지능법과 디지털서비스법의 투명성 의무, AI 생성 콘텐츠 표시, 딥페이크 고지, 플랫폼 책임 규정을 검토하고, 우리나라 정보통신망법의 허위조작정보 정의와 손해배상 책임 구조도 분석한다. 특히 규제가 필요하다는 이유만으로 불명확한 개념을 앞세울 경우 표현의 자유 위축과 자기검열이 발생할 수 있음을 짚는다. 따라서 핵심은 강한 처벌보다 명확한 법적 정의, 객관적 판단 기준, 이용자의 비판적 정보 역량, 플랫폼의 자율적 관리 책임을 함께 설계하는 일이다. AI 시대의 정보 질서는 기술의 문제가 아니라 민주주의가 스스로를 지키는 방식의 문제다. |