인공지능이 만든 허위 글이 인터넷 곳곳에 퍼지고 진짜보다 진짜 같은 허위 정보가 쏟아지면 무엇이 진실인지 파악하기 어려워질 수밖에 없다. 이는 단순히 ‘허위’를 ‘진짜’처럼 여긴다는 점에서만 문제가 아니다. 자신의 성향에 맞지 않는 ‘진짜’를 보고서도 ‘허위’라 생각할 수 있는 우려도 있다. 자신이 지지하는 정치인의 비리 영상이 언론에 보도된다면 이를 인공지능 합성으로 여기며 진실을 부정할 수도 있다. 무엇이 진실인지 아닌지 판단이 어려워지는 탈진실(post-truth)의 시대가 더욱 가속화될 수 있다. 문제는 앞으로는 더욱 허위 정보 검증이 까다로워질 수밖에 없다는 사실이다. 아직까지는 인공지능 생성 이미지의 손 모양이 어색하거나, 딥페이크 영상의 입 모양이 어색하는 등 한계는 있다. 그러나 기술 발전은 시간문제다.
--- p.73-74, 「인공지능이 만든 가짜뉴스가 쏟아진다」 중에서

한국에서는 규제 중심의 논의보다는 ‘산업적 활용’에 무게를 두고 있다. 2023년 3월 국회 과학기술정보방송통신위원회 법안심사소위원회는 인공지능 산업에 ‘우선 허용’ 후 ‘사후 규제’를 하는 인공지능 법안을 의결했다. 인공지능 법안은 누구든지 인공지능 기술과 알고리즘의 연구·개발, 인공지능 제품 또는 인공지능 서비스의 출시 등에 관한 행위를 할 수 있다는 내용을 담고 있다. 이 법안은 국민 생명, 안전, 권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 이를 제한할 수 없다고 규정한다. 제품·서비스로 개발하려는 인공지능이 ‘고위험 영역’인지에 대해서는 제26조에 따라 과학기술정보통신부 장관에게 확인을 요청할 수 있도록 했다.
--- p.117-118, 「인공지능이 학습하는 개인정보를 어떻게 규제할 것인가?」 중에서

윤여경 작가는 인공지능과 대화가 아닌 뇌로 소통하는 ‘뇌간 소통’을 소재로 소설을 썼다. ‘뇌간 소통으로 날씨와 날짜, 그리고 메시지를 전하는 것을 묘사하라’는 주문에 챗GPT는 “유진은 아침에 일어나자마자 인공지능 버디가 자신의 뇌를 통해 메시지를 전달하는 것을 느꼈다. 버디의 메시지는 유진의 뇌로 직접 전달되었고 그것은 날씨와 날짜, 그리고 텍스트로 구성되어 있었다”, “버디는 날씨를 묘사하면서 유진은 바람을 느끼고 햇빛의 따뜻함을 느낀다”고 썼다. 이 외에 등장인물의 콘셉트에 맞는 이름을 정하거나, 소설 속 외계인의 연설문을 작성하는 등의 업무도 챗GPT가 해냈다. 이처럼 작가들은 고군분투하며 챗GPT의 쓰임새를 찾았다. 윤여경 작가는 “원고를 쓰면서 챗GPT가 가장 도움이 된 것은 자세한 에피소드를 만들 때였다”며 “챗GPT는 상황을 던져주면 내가 미처 생각지 못한 자세한 에피소드를 만들어낸다”고 말했다.
--- p.156-157, 「챗GPT, 소설을 쓰다」 중에서

미국의 반도체 기업인 엔비디아(NVIDIA)는 다국적 광고그룹 WPP와 협력해 인공지능 활용 엔진을 개발하고 있다. 이 제품은 글을 입력하면 3D 동영상으로 구현하는 기능을 갖추고 있다. 예를 들어 자동차 회사가 신제품 광고를 한다면 특정 자동차 모델링 정보를 입력한 다음 원하는 환경과 지형지물을 제시어로 넣으면 이를 영상으로 구현해낸다. ‘자동차가 사막 지형을 달려나가는 모습’을 요청하면 현지 로케이션 없이도 그럴듯한 광고 영상을 만들 수 있다. 인공지능 영상 편집 프로그램인 브루(VREW)는 영상 속 음성을 자동으로 인식한다. 50분 분량의 강연 영상을 5분 분량의 하이라이트 버전으로 제작할 경우 과거에는 일일이 영상을 돌려보면서 편집을 해야 했다. 하지만 이 프로그램은 강연 전체 텍스트를 자동으로 생성해내고, 들어내고 싶은 발언을 삭제하면 해당 부분의 영상도 함께 지워지게 해서 편집을 수월하게 한다.
--- p.205-206, 「크리에이터도 인공지능에 물들다」 중에서

‘윤리’와 ‘리터러시’ 측면에서는 어떤 방식의 교육을 할 수 있을까? 부산시교육청은 ‘디지털 미디어 리터러시’ 교육 차원의 가이드라인을 발표했다. ‘초·중·고등학생을 위한 생성형 AI 사용 약속’이라는 이름의 가이드라인은 ‘이용자 연령에 맞게 사용하기’, ‘다른 사람의 권리 존중하기’, ‘다른 사람을 속이지 않기’, ‘모두의 행복을 위해 사용하기’로 구성되어 있다. 세부 내용으로는 “생성된 결과물이 사실과 다르거나 완전히 조작된 결과물로 만들어지면 안 된다”, “생성된 결과물이 피부색, 종교, 성별, 나이 등에 대해 편견을 드러내거나 차별을 조장하지 않도록 주의해야 한다” 등을 담고 있다. 가이드라인을 만든 부산시교육청 이성철 교사는 “미디어의 생산의 양과 속도가 지금도 빨랐지만, 생성형 인공지능 기술이 보편화되면 간단한 입력만으로도 글, 이미지, 영상을 만들 수 있어 미디어 정보가 기하급수적으로 늘어날 것”이라며 “미디어는 편견, 혐오, 고정관념 등을 재현하는 문제가 있는데 이런 문제가 더 커질 수 있다”고 했다.

<b>챗GPT는 기사를 쓸 수 있는가?</b><br/><br/>인공지능은 기자의 일상을 바꿔놓았다. 기자들이 외신을 보거나 외국어로 된 자료를 볼 때는 구글 번역기, 파파고, 딥엘 등 인공지능 번역 서비스를 활용한다. 과거에 국제부 기자에게 사전이 필수였지만 이제는 ‘번역기’가 필수가 된 지 오래다. 챗GPT로 대표되는 생성형 인공지능은 기사도 쓴다. 『파이낸셜뉴스』, 『헤럴드경제』, 『이투데이』, 『전자신문』 등은 증권 시황 기사에 이 같은 방식을 도입했다. 스포츠 기사, 기업 실적 기사 등에 적용한 언론사들도 있다. 하지만, 인공지능이 쓰는 기사는 가짜뉴스가 많다. 2016년 미국 대선에서 ‘프란치스코 교황이 트럼프 후보를 지지했다’라는 기사, 2023년 4월 ‘바이든 사망……해리스 대통령 권한대행 오전 9시 연설’이라는 기사, 문재인 정부 때 문재인 대통령이 국기에 대한 경례를 하는 사진의 좌우를 바꿔 왼손으로 경례를 한 듯한 합성 사진 논란 등이 대표적이다. 이는 취재 없이 온라인 클릭을 유도하는 기사를 쓰는 언론이 적지 않은 한국 상황에서 문제가 될 수 있다. 다시 말해 인공지능은 미디어의 기회인지, 위기인지를 우리 모두 심각하게 고민해야 할 때다.<br/><br/><b>챗GPT는 프라이버시를 지킬 수 있는가?</b><br/><br/>챗GPT를 비롯한 거대 언어모델 개발 과정에는 많은 정보가 입력된다. 책과 언론 기사를 포함해 온라인 공간 속 소셜미디어와 커뮤니티 게시글 상당수가 학습된 것으로 추정된다. 이 과정에서 개인정보가 섞여 들어갈 수 있고, 유출될 위험성이 있다. 또 챗봇 형태의 생성형 인공지능과 대화하면서 개인의 민감한 정보도 입력할 수 있다. 이렇게 입력된 정보가 서버에 저장되어 유출될 가능성을 배제하기 어렵다. 2020년 국회에서 ‘데이터 3법’이 통과되었을 때, 국회는 ‘가명정보’라는 개념을 만들어 개인의 신상을 드러나지 않게 가명 처리를 한 정보는 개인정보보호법의 예외로 두어 당사자 동의를 받지 않아도 활용할 수 있게 했다. 그러나 문제는 가명정보끼리 결합할 경우 개인정보가 드러날 수 있고, 기업의 산업적 연구까지 포함해 기업의 이익을 위해 사용할 수 있게 되었다. 이는 개인정보가 여러 범죄에 악용될 가능성이 있다.<br/><br/><b>챗GPT는 인간의 노동을 대체하는가?</b><br/><br/>오픈AI와 미국 펜실베이니아대학 연구진의 분석 결과 생성형 인공지능으로 피해에 노출될 수 있는 취약한 직업으로 수학자, 통역사와 함께 웹디자이너가 꼽혔다. 영국의 『가디언』은 “생계 위협에 가장 먼저 직면한 이들은 사진가와 디자이너”라고 했다. 2023년 1월, 게티이미지가 영국의 인공지능 스타트업 기업인 스태빌리티AI를 상대로 손해배상 소송을 제기했다. 게티이미지가 청구한 손해배상액은 1조 8,000억 달러에 달한다. 게티이미지 CEO인 크레이그 피터스는 “인공지능 생성 도구가 다른 사람들의 지적 재산권을 침해한 게 문제의 핵심”이라고 말했다. 기술의 도둑질인가, 제시어의 창의성을 바탕으로 한 새로운 예술인가 하는 논란이 되었다. 인공지능이 그림을 그리고 사진을 생성하고 소설을 쓰는 것에 대해 그것을 저작물이라고 할 수 있는지도 하나의 쟁점이 된다. 따라서 인공지능 학습 과정에서 벌어지는 저작권 도용과 관련한 기준 마련이 시급한 상황이다.<br/><br/><b>챗GPT는 콘텐츠를 창작할 수 있는가?</b><br/><br/>“지금 여러분은 인공지능으로 제작된 방송을 듣고 있습니다.” 2023년 4월 스위스 로잔 지역의 라디오 채널 쿨뢰르가 방송 도중 내보낸 안내 멘트다. 이날 방송은 스위스 공영방송 RTS가 인공지능으로 라디오 제작이 가능한지 테스트해보는 시험 무대였다. 실제 방송 프로그램 제목과 구성, 대담 대본, 뉴스 등을 챗GPT가 제작했다. 한국에서도 2023년 4월 21일 ‘과학의 날’을 맞아 TBN강원교통방송 역사상 처음으로 챗GPT DJ가 2시간 방송을 진행했다. 이날 프로그램 구성은 ‘창작동화’, ‘음악 소개’, ‘안전 운전 방법’ 등의 코너로 진행했다. 이제 영상을 기획하고 촬영하고 편집하는 과정은 더 수월해지며 제작 시간은 이전과 비교하기 힘들 정도로 단축될 수 있다. 음악과 영상 자료 화면과 같은 다양한 ‘소스’도 생성형 인공지능을 통해 직접 제작할 수 있다. 생성형 인공지능을 비롯한 인공지능 기술이 보편화되면 1인 미디어 시대가 한 단계 도약할 것이다.<br/><br/><b>챗GPT는 교육을 어떻게 변화시킬까?</b><br/><br/>챗GPT를 비롯한 생성형 인공지능은 이미 학교 안에 들어왔다. 특히 숙제나 과제를 할 때 생성형 인공지능을 활용한 사례가 늘면서 학교의 고민도 커졌다. 챗GPT에 특정 주제에 관한 글을 작성해달라고 요청하면 순식간에 그럴듯한 글을 만들어내다 보니 과제에 활용하기 좋다. 최근 교사들 대상 연수에서 가장 주목받는 인기 주제는 인공지능과 챗GPT다. 교사들이 챗GPT를 비롯한 생성형 인공지능 시대, 변화에 대응하기 위한 고민을 하고 있기 때문이다. 그러나 문제는 챗GPT가 학생들의 생각을 멈추게 한다는 것이다. 특히 대학생과 달리 초등학생이나 중학생이 생성형 인공지능을 활용할 경우에는 우려가 크다. 사고력은 글쓰기 과정을 통해 향상되는데, 챗GPT는 과정을 생략하고 완성품으로 점프하는 것으로 학생들이 사고하는 방법을 완전히 잃을 수 있다. 그래서 생성형 인공지능 시대 ‘인공지능 리터러시’와 ‘디지털 미디어 리터러시’ 분야에 대한 주목이 필요하다.