인공지능이 만든 허위 글이 인터넷 곳곳에 퍼지고 진짜보다 진짜 같은 허위 정보가 쏟아지면 무엇이 진실인지 파악하기 어려워질 수밖에 없다. 이는 단순히 ‘허위’를 ‘진짜’처럼 여긴다는 점에서만 문제가 아니다. 자신의 성향에 맞지 않는 ‘진짜’를 보고서도 ‘허위’라 생각할 수 있는 우려도 있다. 자신이 지지하는 정치인의 비리 영상이 언론에 보도된다면 이를 인공지능 합성으로 여기며 진실을 부정할 수도 있다. 무엇이 진실인지 아닌지 판단이 어려워지는 탈진실(post-truth)의 시대가 더욱 가속화될 수 있다. 문제는 앞으로는 더욱 허위 정보 검증이 까다로워질 수밖에 없다는 사실이다. 아직까지는 인공지능 생성 이미지의 손 모양이 어색하거나, 딥페이크 영상의 입 모양이 어색하는 등 한계는 있다. 그러나 기술 발전은 시간문제다.
--- p.73-74, 「인공지능이 만든 가짜뉴스가 쏟아진다」 중에서
한국에서는 규제 중심의 논의보다는 ‘산업적 활용’에 무게를 두고 있다. 2023년 3월 국회 과학기술정보방송통신위원회 법안심사소위원회는 인공지능 산업에 ‘우선 허용’ 후 ‘사후 규제’를 하는 인공지능 법안을 의결했다. 인공지능 법안은 누구든지 인공지능 기술과 알고리즘의 연구·개발, 인공지능 제품 또는 인공지능 서비스의 출시 등에 관한 행위를 할 수 있다는 내용을 담고 있다. 이 법안은 국민 생명, 안전, 권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 이를 제한할 수 없다고 규정한다. 제품·서비스로 개발하려는 인공지능이 ‘고위험 영역’인지에 대해서는 제26조에 따라 과학기술정보통신부 장관에게 확인을 요청할 수 있도록 했다.
--- p.117-118, 「인공지능이 학습하는 개인정보를 어떻게 규제할 것인가?」 중에서
윤여경 작가는 인공지능과 대화가 아닌 뇌로 소통하는 ‘뇌간 소통’을 소재로 소설을 썼다. ‘뇌간 소통으로 날씨와 날짜, 그리고 메시지를 전하는 것을 묘사하라’는 주문에 챗GPT는 “유진은 아침에 일어나자마자 인공지능 버디가 자신의 뇌를 통해 메시지를 전달하는 것을 느꼈다. 버디의 메시지는 유진의 뇌로 직접 전달되었고 그것은 날씨와 날짜, 그리고 텍스트로 구성되어 있었다”, “버디는 날씨를 묘사하면서 유진은 바람을 느끼고 햇빛의 따뜻함을 느낀다”고 썼다. 이 외에 등장인물의 콘셉트에 맞는 이름을 정하거나, 소설 속 외계인의 연설문을 작성하는 등의 업무도 챗GPT가 해냈다. 이처럼 작가들은 고군분투하며 챗GPT의 쓰임새를 찾았다. 윤여경 작가는 “원고를 쓰면서 챗GPT가 가장 도움이 된 것은 자세한 에피소드를 만들 때였다”며 “챗GPT는 상황을 던져주면 내가 미처 생각지 못한 자세한 에피소드를 만들어낸다”고 말했다.
--- p.156-157, 「챗GPT, 소설을 쓰다」 중에서
미국의 반도체 기업인 엔비디아(NVIDIA)는 다국적 광고그룹 WPP와 협력해 인공지능 활용 엔진을 개발하고 있다. 이 제품은 글을 입력하면 3D 동영상으로 구현하는 기능을 갖추고 있다. 예를 들어 자동차 회사가 신제품 광고를 한다면 특정 자동차 모델링 정보를 입력한 다음 원하는 환경과 지형지물을 제시어로 넣으면 이를 영상으로 구현해낸다. ‘자동차가 사막 지형을 달려나가는 모습’을 요청하면 현지 로케이션 없이도 그럴듯한 광고 영상을 만들 수 있다. 인공지능 영상 편집 프로그램인 브루(VREW)는 영상 속 음성을 자동으로 인식한다. 50분 분량의 강연 영상을 5분 분량의 하이라이트 버전으로 제작할 경우 과거에는 일일이 영상을 돌려보면서 편집을 해야 했다. 하지만 이 프로그램은 강연 전체 텍스트를 자동으로 생성해내고, 들어내고 싶은 발언을 삭제하면 해당 부분의 영상도 함께 지워지게 해서 편집을 수월하게 한다.
--- p.205-206, 「크리에이터도 인공지능에 물들다」 중에서
‘윤리’와 ‘리터러시’ 측면에서는 어떤 방식의 교육을 할 수 있을까? 부산시교육청은 ‘디지털 미디어 리터러시’ 교육 차원의 가이드라인을 발표했다. ‘초·중·고등학생을 위한 생성형 AI 사용 약속’이라는 이름의 가이드라인은 ‘이용자 연령에 맞게 사용하기’, ‘다른 사람의 권리 존중하기’, ‘다른 사람을 속이지 않기’, ‘모두의 행복을 위해 사용하기’로 구성되어 있다. 세부 내용으로는 “생성된 결과물이 사실과 다르거나 완전히 조작된 결과물로 만들어지면 안 된다”, “생성된 결과물이 피부색, 종교, 성별, 나이 등에 대해 편견을 드러내거나 차별을 조장하지 않도록 주의해야 한다” 등을 담고 있다. 가이드라인을 만든 부산시교육청 이성철 교사는 “미디어의 생산의 양과 속도가 지금도 빨랐지만, 생성형 인공지능 기술이 보편화되면 간단한 입력만으로도 글, 이미지, 영상을 만들 수 있어 미디어 정보가 기하급수적으로 늘어날 것”이라며 “미디어는 편견, 혐오, 고정관념 등을 재현하는 문제가 있는데 이런 문제가 더 커질 수 있다”고 했다.
--- p.247-248, 「챗GPT는 학생들의 생각을 멈추게 한다」 중에서