|
AI, 기업과의 동행
01 다트머스 논쟁과 AI의 등장 02 AI와 이사회 03 AI와 내부통제시스템 04 AI와 회계감사 05 AI와 기업법무 06 AI와 인사관리 07 AI와 노동조합 08 AI와 알고리즘 실패 09 AI에 대한 세계의 움직임 10 AI 시대의 기업 거버넌스 원칙 |
임철현의 다른 상품
|
일반적으로 AI의 개념이 태동하게 된 시발점은, 1956년에 있었던 ‘다트머스 회의’로 본다. 이 회의는 다트머스 대학의 존 매카시(John McCarthy)의 주도로 개최되었으며, 이후 AI의 선구자가 된 마빈 민스키(Marvin Minsky), 클로드 섀넌(Claude Shannon) 등 저명한 컴퓨터·수학 연구자들이 함께 참가했다. 이 회의에서는 인간처럼 학습하고, 추론하며, 의사 결정을 할 수 있는 ‘생각하는 기계’의 창조가 제안되었다. 회의에서는 AI 개발의 올바른 방법론도 논의되었는데, 이에 관해서는 수리학이나 논리학을 사용하는 연역법적 방안과 데이터를 통한 통계적 분석이나 확률을 이용하는 귀납법적 방안의 두 가지 접근 방법이 검토되었다. 여기서 전자의 방식을 기호적 AI(symbolic AI)라 하고, 후자의 방식을 비기호적 AI (non--- 「symbolic AI)라 부른다.
--- 「01 다트머스 논쟁과 AI의 등장」 중에서 앞으로 인간과 AI의 분업에 의해 운영될 내부통제시스템은 그에 걸맞은 신뢰성과 적합성을 구비하여야 할 것이다. 여기서 말하는 ‘신뢰성’은 해당 업무 전권을 맡길 수 있는 위임 관계의 기초가 되는 신뢰 내지 신임 관계를 의미한다. 인간과 동등 이상의 지능을 보유하게 될 AI의 특성을 고려할 때, 인간들 사이의 위임 관계에 적용되는 신뢰의 기초를 상당 부분 적용하여도 무방할 것이다. 한편, 여기서의 ‘적합성’은 반드시 완벽을 의미하지는 않고, 필요한 개선을 지속적으로 실시하는 한 합리적인 시스템이라고 이해될 수 있는 정도면 된다. 어느 시대에나 기술 수준의 한계는 존재할 것이어서 완벽한 내부통제시스템까지 요구하는 것은 무리이며, 통상 상정되는 부정을 방지할 수 있는 정도의 리스크 관리 능력을 갖추었으면 내부통제시스템으로서 충분히 기능한다고 보겠다. --- 「03 AI와 내부통제시스템」 중에서 인사관리 분야에서의 성과 평가는 ‘복잡성’이라는 특성을 내재하고 있다. (…) 가장 널리 사용되는 지표인 성과 평가 점수는, 타당성과 신뢰성의 문제뿐만 아니라 편향의 문제 때문에 광범위한 비판을 받아 왔으며, 이 때문에 많은 기업들이 이러한 평가제도를 아예 포기하고 있기도 하다. 또, 어느 정도 복잡성을 가진 직무라면 다른 직무들과 상호의존적인 관계에 있기 때문에, 개인의 성과를 집단의 성과로부터 분리하여 평가하는 것도 어렵다. 그렇다면 인간이 수행하는 성과 평가 자체의 질이 불확실한 상황에서, 과연 그러한 평가 자료를 AI 알고리즘의 학습 자료(training data) 로 사용할 수 있을까? 그렇게 한다면 인간이 내린 자의적인 판단이나 심지어 명백히 차별적인 판단이 AI를 통해 대규모로 확대·재생산되는 결과를 초래할 수도 있을 것이다. 결국, AI 성과 평가에서도 데이터의 편향은 극히 유의하여야 할 문제가 된다. --- 「06 AI와 인사관리」 중에서 EU 인공지능법(AI Act)은 EU 집행위원회가 2021년 4월 법안을 제안한 이후, 2024년 3월 유럽의회 본회의의 최종 의결과 같은 해 5월 EU 이사회의 최종 승인을 거쳐 성립하였다. 이후 2024년 8월 1일 발효되었으며, 2025년 2월 2일부터 핵심 규정들이 단계적으로 적용되기 시작했다. EU 인공지능법은 AI가 초래할 수 있는 위험의 정도에 따라 규제의 강도를 달리하는 위험 기반 접근 방식(risk--- 「based approach)을 채택하고 있다. 일반적으로 AI 시스템은 허용할 수 없는 위험(unacceptable risk), 고위험(high risk), 제한적 또는 투명성 위험(limited or transparency risk), 최소 또는 무위험(minimal or no risk)의 네 유형으로 설명된다. --- 「09 AI에 대한 세계의 움직임」 중에서 |
|
AI에게 어디까지 권한을 줄 것인가, 기업은 다시 설계되어야 한다
AI는 기업의 데이터를 분석하고 의사 결정을 지원하는 수준을 넘어, 앞으로 경영 판단에 직접 참여할 가능성까지 보여 주고 있다. 이러한 변화가 기업의 효율성을 높이는 문제에 그치지 않고 회사법과 기업 운영의 기본 구조를 다시 묻게 한다고 본다. 전통적인 기업 지배구조가 이사회·경영진·주주 사이의 권한 배분과 견제에 초점을 맞췄다면, AI가 의사 결정의 새로운 행위자로 들어오는 순간 누구에게 어떤 권한을 부여하고 누가 최종 책임을 질 것인지가 새로운 과제가 된다. 이 책은 좁은 의미의 지배구조를 넘어 기업의 운영과 관리 전반을 ‘기업 거버넌스’라는 틀에서 살피고, 특히 법령 준수와 내부통제, 컴플라이언스, 이사회와 감사, 인사·노무관리 등 적법성 거버넌스를 중심으로 AI의 지위와 역할을 검토한다. 나아가 AI 기업의 영향력이 정부와 국가안보, 세계 경제까지 확장되는 현실 속에서 기업의 공익적 책임도 함께 묻는다. 결론적으로 정보 거버넌스, 공익 추구, 지속 가능한 이익 분배, 인간의 감독이라는 원칙을 제시하며, AI를 단순한 도구가 아니라 기업과 함께 판단하는 존재로 받아들일 때 필요한 새로운 통제 구조를 모색한다. |