데이터는 지구상에 존재하는 모든 것이다. 그것이 기록된 문자나 이미지, 또는 음성이나 영상이라고 하더라도 데이터로서 존재한다. 데이터화하는 순간 누구든, 어떤 용도로든 쉽게 이용이 가능하다. 데이터의 속성은 저작물성, 개인정보성, 영업비밀성, 사실 정보(fact)와 같은 퍼블릭 도메인(public domain) 등 다양하다. 이처럼 속성이 다양한 만큼, 이해관계는 복잡하며, 관련된 법률이나 보호 체계가 상이하기도 하다. 대표적인 관련 법률로는 저작물로서 저작권법, 개인정보로서 개인정보보호법, 영업비밀인 경우는 영업비밀보호법 등이 있다. 또한 데이터 산업 전반적으로는 ‘데이터 산업진흥 및 이용촉진에 관한 기본법(이하, 데이터산업법)’, 공공 영역의 데이터와 관련해서는 공공데이터법 등 다양한 법률이 관련된다. 다양한 법률이 존재함에도 데이터 수집, 가공, 이용 등 일련의 과정을 제대로 확인할 수 없다는 점에서 데이터의 윤리적인 체계를 고려하지 않을 수 없다. 그러한 고려 없이 데이터를 이용할 경우, 향후 관련 분쟁은 자명할 것이기 때문이다. 데이터 윤리는 데이터를 사용함으로써 발생할 수 있는 여러 가지 문제를 포함하여 데이터 수집, 가공, 이용 등의 처리 과정에서 윤리적인 문제에 대응하기 위한 체계로 볼 수 있다.
--- 「01_“데이터 윤리”」 중에서

플랫폼 사업자나 자본력을 가진 경우가 아니라면 데이터 확보가 쉽지 않기 때문에 데이터 독점에 대한 문제를 해결하기 위해서는 인류의 공통된 노력이 필요하다. 무엇보다, 플랫폼 사업자의 독점화에 따라 이용자의 데이터를 기반으로 한 데이터를 이용하는 사업자들이 데이터 주권이 아닌 데이터 독점을 꾀하고 있기 때문이다. 따라서 안정적이고 예측 가능한 제도 설계를 위해 입법론에 대한 고민이 필요하다. 알고리즘의 문제가 발생하고 있고, 지속적이고 반복적으로 일어날 것임을 예측할 수 있는 상황이기 때문에 이에 대한 규제가 필요하다.
--- 「03_“데이터 편향”」 중에서

인공지능은 블랙박스(black box)로 불린다. 그 누구도 그 처리 과정을 이해할 수 없으며, 단순하게 결과로서 추론만 가능하기 때문이다. 인공지능의 투명성이 강조되는 주된 이유다. 알고리즘을 왜곡하거나 또는 편견(bias)이 들어갈 경우에는 그 결과의 공정성(fairness)을 담보하기 어렵다. 이 때문에 인공지능을 견제하기 위한 정책이나 법 제도 이외에도 다양한 기술적 기법들이 제시된다. 알고리즘 소스를 공개하거나 감사(auditing) 기법을 도입하는 것도 하나의 방안으로 논의되고 있다. 블랙박스로서 인공지능은 그 과정을 설명하지 못하기 때문에 설명 가능한 인공지능(XAI, eXplainable AI)이 새로운 방안으로 제시되기도 한다.
--- 「06_“프로파일링과 투명성”」 중에서

데이터 왜곡이라는 문제 때문에 대두된 데이터 윤리는, 데이터를 활용하는 과정에서 이를 의도적으로 왜곡하는 행위를 막고자 하는 취지에서 비롯되었다. 기계 학습 과정에서 데이터를 활용하는 것은 당연한 것이지만, 의도성이 반영될 경우 그 결과 사회적인 편익과 차별이 기계에 반영될 것이고 그러한 기계가 활용된 서비스의 이용자는 무의식적으로 차별을 체화하거나 차별의 당사자 내지는 주체가 되어 버리는 상황에 직면하게 된다. 예를 들면, 해당 서비스의 성격에 따라 경제적인 차별, 사회 문화적인 차별, 교육 차별, 집단적 계층화 등 의도성이 반영된 차별이 보편화되는 사태에 이르게 될 것이다. 이러한 편향을 극복하기 위한 방안이 인공지능 윤리에 대한 논의이며, 데이터의 수집, 분석, 가공, 이용에서 공정성을 확보하기 위한 노력이다. 그리고 이들을 이용한 학습 과정이나 학습된 데이터를 활용하는 과정에서 알고리즘의 공정성을 확보하기 위한 논의 역시 필요하다.