디지털 전환 조직을 IT 조직과 별도의 조직으로 구성하거나, 현업 인재를 선발하여 디지털 전환 과제를 수행하게 하는 조직이 대부분 이와 유사한 시행착오를 경험한다. 이런 경험은 국내뿐 아니라 글로벌한 현상이기도 하다. 가트너는 이러한 문제를 해결하기 위한 최적의 조직 모델로 ‘퓨전 팀’을 제안했다. 이는 현업의 도메인 지식을 보유한 인재, 데이터 분석가, 기존 IT 인력(개발자, 인프라 전문가, DBA 등) 을 혼합하여 조직을 구성해서 디지털 전환 프로젝트를 수행하는 모델을 의미한다. 이는 애자일 조직과도 유사한 면이 있다. 즉, 기존 조직 구조를 그대로 유지하면서 과제에 필요한 다양한 인력을 모아 태스크포스 형태로 조직을 운영하거나, 아예 퓨전 조직을 새롭게 구성하는 방법이다.
--- p.28
PaaS는 프로젝트의 근본 목적을 달성하는 데 매우 유용한 도구다. 예를 들어, 데이터 기반 의사결정을 위한 대시보드 시스템을 구축한다고 가정하면, 업무 영역은 크게 데이터 분석 플랫폼과 시각화 부분으로 나눌 수 있다. 일반적으로 데이터 분석 플랫폼 구축이 시각화보다 훨씬 더 복잡하고 어렵다. 확보된 자원과 역량이 충분하다면, 자체 데이터 분석 플랫폼을 구축하는 것이 좋지만, 서비스 방식으로 제공되는 PaaS를 활용하면 플랫폼 구축에 드는 시간, 비용, 그리고 리스크를 상당히 절감할 수 있다. 따라서 자체적으로 플랫폼을 구축하기가 부담스럽다면, PaaS를 사용하는 것이 좋다. 검증된 PaaS를 활용하면, 도구를 구축하는 데 시간을 낭비하지 않고 프로젝트의 핵심에 집중할 수 있다.
--- pp.70-71
그렇다면 AI에서 모델은 무엇일까? 모델은 여러 개의 알고리즘, 개발, 데이터, 학습 등 다양한 요소의 집합체를 의미한다. AI 프로젝트를 수행하면 ‘AI 모델’이 만들어지는데, ‘설비 예지보전 모델’, ‘자동차 파손 부위 식별 모델’, ‘실손 보험 심사 모델’ 등이 바로 모델의 예라고 할 수 있다. 한 마디로 모델은 알고리즘, 학습용 데이터, 개발을 통해 문제를 해결하는 데 사용되는 것으로, 이 개념을 명확하게 이해하지 못하면 ‘알고리즘을 개발했다’라거나 ‘모델을 개발했다’라는 식의 표현을 혼용하게 된다. 그리고 모델 개발에는 학습용 데이터가 필요하다. 학습용 데이터 없이는 모델을 만들 수 없다.
--- p.150
생성형 AI는 딥러닝에 속하며, 특히 텍스트 생성 기능이 많이 활용되기 때문에 자연어 처리 기술이 사용된다. 자연어 처리 기능은 사람이 사용하는 자연어의 의미를 분석하여 컴퓨터가 이를 이해하고 처리할 수 있도록 하는 기술이다. 이미지 생성을 담당하는 생성형 AI는 컴퓨터 비전과 관련이 있다. 컴퓨터 비전은 이미지 인식, 물체 인식, 처리 등을 다루는 AI 코어 기술 중 하나다. 간단히 말하면, 생성형 AI와 대규모 언어 모델은 딥러닝, 자연어 처리, 컴퓨터 비전의 결합으로 이루어져 있다.
--- p.193
sLLM은 작은 규모의 언어 모델로 기업에서 보안을 유지하면서도 원하는 내용을 학습시킬 수 있는 모델이다. LLM은 범용적 모델로 데이터 세트가 매우 커서 학습에 상당한 비용이 수반되며, 기업에 맞게 커스터마이징하기 어렵다는 단점이 있다. 반면에 sLLM은 범용 목적이 아니기 때문에 반드시 대규모로 학습시킬 필요가 없다. 말을 생성하는 기능은 기본 언어 모델을 사용하되 기업에서 필요한 데이터 세트로 학습시킬 수 있다. 이는 기존 LLM에서 학습이 안 되는 문제를 해결할 뿐만 아니라, 소규모 모델이라 대규모 GPU가 필요 없고 큰 비용이 들지도 않는다. 그리고 sLLM에서 이뤄지는 질의응답이 외부에 노출되지 않아 보안 이슈도 해결할 수 있다.
--- pp.206-207
문서 분석 메뉴에서 사용자에게 보이는 것은 챗봇이지만, 그 뒤에는 데이터를 수집, 분석, 시각화하는 클라우드 기반의 데이터 분석 플랫폼이 구성되어 있어서 원본 데이터에서 생성형 AI까지의 연결이 훨씬 더 수월하다. 이 문서 분석 메뉴는 AWS 위에 데이터브릭스를 구축하고, MS 애저 오픈AI를 활용하여 생성형 AI 기반 챗봇 서비스를 구성했다. 이 사례는 한국 기업 최초로 가트너의 Customer Success Story 웹사이트에 소개되었을 뿐만 아니라, 데이터브릭스의 Customer Story에도 등재되었다.
--- p.226