요즘 세상에 떠오르는 분야인 인공지능에 대해서 알고 싶어졌습니다. '지금부터 시작하는' 이라는 제목에서 저같은 초보자도 이해할 수 있도록 나온 책인 것 같아서 읽어보게 되었어요. 인공지능과 슈퍼컴퓨터, 양자컴퓨터는 요즘 많이 대두되는 분야입니다. 관련 책들도 내용이 어렵고 분량이 두꺼워서 읽어볼 엄두가 안나는데 이 책은 핸디북 사이즈로 얇고 가볍습니다.

슈퍼컴퓨터의 활용 분야 중 하나가 인공지능 AI입니다. 대중에게 있어서 인공지능이 뚜렷하게 인식이 되었던 사건이 바둑기사 이세돌과 인공지능 알파고와의 바둑 대격돌이었던 것 같습니다. 인공지능의 존재감은 크나큰 충격과 놀라움을 안겨줬던 것 같아요. 요즘에는 인공지능이 그림과 그리고 소설도 쓰고 작곡도 한다고 하니 인간은 때때로 박탈감도 느껴지는 것 같습니다.

한편으로 인공지능의 딥러닝 기능을 잘 활용하면 이러한 대중예술 분야에서 누구나 창작과 소비를 즐길 수 있을 것도 같아요. 요즘 시대에 빠질 수 없는 슈퍼 컴퓨터와 인공지능 분야에 대한 문외한을 위해서 이해를 돕는 기초적인 안내서입니다. 슈퍼컴퓨터의 기본적인 이해를 돕는 설명과 양자컴퓨터의 이론, 활용 및 전망 등의 지식을 얻을 수 있습니다. IT 분야의 입문 교양서적으로 곁에 두고 한번씩 읽어두면 변해가는 세상을 이해하는데 도움이 될 것 같아요. 아는 만큼 보인다고 했으니 조금씩이라도 지식을 얻고 싶네요.

#컴퓨터공학#지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터

앞서 언급한 대로 자연현상은 미분방정식의 형태를 나타내고 있지만 이러한 미분방정식은 대부분 수학적으로 해결할 수 없을 정도로 복잡하다. 대안은 미분방정식의 해를 직접 구하지 않고, 근사적으로 구하는 것인데 이런 방법 역시 상당한 지식을 요구한다. 이유는 근사를 한다면 알려지지 않은 실제의 해와 얼마나 가까운지, 이를 위해 어떠한 방법을 사용해야 하는지를 알아야 근사적인 해를 구하는 것이 합리적인지의 여부를 가릴 수 있기 때문이다. (-52-)

세계 최대의 GPU 개발 기업인 엔비디아(NVIDIA)는 슈퍼컴퓨터에 GPU 를 활용하려는 노력을 가장 적극적으로 기울여왔다.특히, 사용자에게 친화적 프로그래밍 툴킷(Toolkit) 인 CUDA)Compute Unified Device Architecture)를 제공하여 슈퍼컴퓨터에서 GPU 활용을 확산하였다. (-98-)

구글 딥마인드는 여기서 그치지 않고 바둑 규칙으로만 학습하여 세계 최고의 바둑 실력을 증명한 알파고 제로(AlphaGo Zero)를 개발하였다. 구글 딥마인드 연구진은 알파고가 학습한 전문 바둑 기사의 기보 역시 편향이 존재할 것으로 판단하여 철저하게 규칙만으로 학습할 수 있는 알파고 개발에 착수했다. (-135-)

암호학의 석학인 스탠퍼드대의 댄 보네 교수는 최근 구글이 네이처에서 슈퍼컴퓨터로 1만년이나 걸리는 연산을 단 200초 만에 해결할 수 있는 퀀텀 컴퓨터(양자 컴퓨터) 기술이 가능하다는 논문을 발표하였다. 이와 관련하여 양자컴퓨터의 뛰어난 연산력으로 기존 블록체인 시스템을 무너뜰이는 것은 불가능하다고 언급했다.이러한 이유는 불록체인의 각 노드상에 있는 데이터를 양자컴퓨터로 한 번에 바꾸려면 2000만 개의 큐비트를 수시간 동안 안정된 상태로 유지해야 하기 때문이다.(이러한 기술이 가능하려면 최소 30년이 걸릴 것이라고 예상). 설령, 양자컴퓨터가 늦더라도 발전을 하더라도 블록체인에 올라가는 암호 시스템을 업데이트 하면 아무런 변화 없이 작동하게 된다. (-169-)

수퍼 컴퓨터, 인공지능, 양자 컴퓨터 ,이 세가지는 제4차 산업혁명의 핵심 코어라 할 수 있다. 양자 컴퓨터에 대해 말하자면 기존의 폰노이만식 슈퍼 컴퓨터의 한계를 극복할 것이라 보고 있으며, 난공불락의 수학문제,NP문제를 양자컴퓨터에 의해 풀 수 있을 거라고 예상된다. 슈퍼 컴퓨터가 존재하는 가장 큰 이유는 컴퓨터 시뮬레이션에 있다. 날씨와 기후를 예측하고, 인간의 삶에 이로운 상황에 반영하는 것에 있다. IT 기업은 데이터 센터로 우리의 삶은 높아지고 있으며,개개인에 대해 , 맞춤형 서비스가 가능하다. 실세상의 많은 부분을 예측할 수 있는 ,컴퓨터 계산이 정교해지고 있다.

슈퍼 컴퓨터의 기본으로 병렬처리의 기본 개념과 어려움, 병렬처리로 얻을 수 있는 성능향상(암달의 법칙), 계산 강도의 의미와 루프라인 모델, 계산 위주와 메모리 전송 위주의 알고리즘 의미로 압축할 수 있으며, 자연현상을 미분방정식으로 전환, 수치해법, 행렬방정식의 이해와 풀이에 대해서 슈퍼 컴퓨터의 계산에 의존할 수 있다. 즉 최근 2020년 6우러 일본의 Fugaku 슈퍼컴퓨터가 442.0PFKOPS의 성능을 자랑하고 있다.이로한 성능에도 불구하고, 우리가 앞으로 해결해야 하는 양자컴퓨터 상용화라는 숙제가 놓여지고 있으며, 여기에는 여러가지 기술적 문제 해결이 필요하다. 책에서 언급하는 엑사스케일의 의미가 여기에 있으며, CPU 기반 슈퍼 컴퓨터가 GPU 기반 슈퍼 컴퓨터와 차이점은 무엇이며, 앞으로 어떻게 바뀌는지 ,우리의 삶의 변화를 분석하고 예측이 가능하다.

IBM 에서 개발한 딥블루(Deep Blue)가 세계 체스 챔피언 카스파로프를 이겼을 때 많은 사람들이 충격을 받았습니다. 하지만 체스는 경우의 수가 제한적이어서 컴퓨터의 성능만 받쳐준다면 계산을 할 수 있는 것과는 달리 바둑은 무궁무진하기 때문에 컴퓨터가 인간을 상대로 바둑을 이기는 일은 없을 것이라고 했습니다. 이세돌과 알파고(AlphaGo)가 맞붙었을 때에도 이세돌의 우세를 점치는 사람들이 많았는데 결과는 알파고의 4:1 승리로 끝났네요. 그동안 컴퓨터의 하드웨어와 소프트웨어 모두에서 괄목할만한 성장이 있었는데 조만간 SF 영화의 장면들도 현실이 될 것이라는 생각이 듭니다.

우리가 쓰는 컴퓨터와는 달리 슈퍼 컴퓨터는 훨씬 많은 CPU 로 구성되어 있으며 초당 조 단위 이상의 연산을 할 수 있습니다. 많은 계산을 할 수 있는 만큼 현실의 상황들을 모델링해서 시뮬레이션을 하는데 이용되고 있네요. '지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터' 에서는 슈퍼 컴퓨터와 양자 컴퓨터, 그리고 AI 등 최신 기술들을 소개하고 있습니다.

슈퍼 컴퓨터는 CPU 를 가진 노드들이 셀 수 없이 많이 연결되어 있어서 작업이 들어오면 각 노드에 할당해 계산을 하도록 하고, 계산 결과를 합쳐서 답을 도출해 냅니다. 슈퍼 컴퓨터가 이용되는 대표적인 분야는 날씨 예측으로 아마존강에 살고 있는 나비의 날개짓이 텍사스에 폭풍을 불러 일으킬 수 있다는 말처럼 변수가 많기 때문에 계산도 많을 수밖에 없습니다. 각국에서는 슈퍼 컴퓨터를 구축하는데 많은 투자를 하고 있는데 슈퍼 컴퓨터의 성능을 측정하는 방법에는 여러가지가 있지만 Top500 기준으로 일본의 슈퍼 컴퓨터가 1위를 차지하고 있네요. 미국, 독일, 중국 등이 상위권에 포진하고 있는데 우리나라의 슈퍼 컴퓨터도 높은 순위에 있어서 자랑스럽게 느껴집니다.

AI 에서는 많은 수학 계산이 필요한데 CPU 가 이러한 계산을 하기에는 잘 맞지 않고 느려서 이러한 계산에 최적화된  별도의 그래픽 카드인 GPU 를 쓴다고 합니다. 다국어 번역기나 자율주행 자동차 등 AI 기술이 쓰이는 곳에서는 GPU  가 필수적인데 동시에 병렬로 많은 계산을 할 수 있는 슈퍼 컴퓨터의 특성상 머신러닝이나 딥러닝에도 유용하게 사용이 되네요. 슈퍼 컴퓨터와 AI 가 만나 슈퍼 AI(?)가 나오게 될지 기대됩니다.

최근의 핫이슈 중 하나는 양자컴퓨터입니다. 그동안 컴퓨터 내부적으로는 0 과 1 중 하나의 값만 가지면서 연산이 이루어져 왔는데 양자 컴퓨터는 양자역학을 응용한 것으로 0 과 1 을 공존시킬 수 있어서 더 빠른 계산이 가능하다고 합니다. 양자역학을 설명할때 슈뢰딩거의 고양이가 빠지지 않고 등장하는데 실제 양자 컴퓨터에 이 기술이 적용되었다고 하니 신기하네요. 상용화를 위해서는 아직 넘어야 할 산이 많지만 우리가 일상 생활에서 PC 로 양자 컴퓨터를 쓸 수 있게 될때에는 세상이 얼마나 변해 있을지 궁금합니다.

슈퍼 컴퓨터나 양자 컴퓨터, AI 등은 어렵다는 생각 때문에 단순히 개념 정도만 알고 있었습니다. 이 책은 얇은 편이지만 최신 기술 지식이 부족한 일반 사람들도 깊이있게 알 수 있도록 자세히 설명하고 있습니다. AI 에 관심이 있었는데 AI 외에 최신 컴퓨터 개발 동향에 대해서도 읽어볼 수 있어서 도움이 되었습니다.

* 출판사에서 보내준 책을 읽고 서평을 썼습니다.

#컴퓨터공학 #지금부터시작하는엑사스케일과인공지능그리고양자컴퓨터

“엑사스케일과 인공지능 그리고 양자컴퓨터 (추형석 著, 위즈플래닛)”을 읽었습니다.

이 책은 엑사스케일 시대를 맞이한 슈퍼컴퓨터, 그리고 그러한 슈퍼컴퓨터를 활용한 인공지능에 대한 분석과 전망, 양자 컴퓨터의 가능성에 대한 심도 깊은 이야기를 다루고 있습니다. 

먼저 엑사스케일이라 함은 슈퍼컴퓨터의 성능이 엑사플롭스 (EFLOPS)에 다다랐다는 의미입니다. 1997년 ASCI Red(미국)라는 슈퍼컴퓨터가 처음 테라플롭스 (TFLOPS)를 기록했는데 이후 2008년 Roadrunner (미국)라는 슈퍼컴퓨터가 페타플롭스 (PFLOPS)를 돌파했고, 이제 슈퍼컴퓨터 성능 경쟁은 엑사플롭스 (EFLOPS) 돌파를 목전에 두고 있다고 합니다. 

엑사플롭스를 보다 쉽게 설명하면 초당 100경번의 연산이 가능하다는 의미인데 왜 슈퍼컴퓨터 성능을 이렇게까지 끌어올려야 할까요? 슈퍼컴퓨터의 본질적인 목적은 바로 시뮬레이션으로 실질적인 실험을 대체하는 가상의 실험을 의미한다고 합니다. 복잡계 같이 실험이 불가능하거나 비용이 많이 소요되는 분야에서 과학적인 법칙이나 이론을 도출하고 검증하는데 사용되는 것이 바로 이 슈퍼컴퓨터라 할 수 있습니다, 그러므로 슈퍼컴퓨터의 성능은 바로 과학기술의 발전에 직접적인 영향을 줄 수 있기 때문에 성능이 중요한 것이라 합니다. 

슈퍼컴퓨터는 그 무지막지한 성능에 걸맞게 가격도 아주 비싼데 보통의 슈퍼컴퓨터는 평균 5백원원 내외 정도이지만 성능이 뛰어난 슈퍼컴퓨터는 무려 5천억원에 육박한다고 합니다. 더구나 엄청난 전략을 소비하므로 10위 권 이내의 슈퍼컴퓨터는 전담 발전소까지 따로 있어야 할 정도라고 하네요. 

최근 딥러닝 및 기계학습 분야가 각광을 받고 있는데, 이 역시 막대한 컴퓨팅 파워를 요구한다고 합니다. 그래서 슈퍼컴퓨터의 활용이 눈에 띄게 늘어나고 있습니다. ‘20년 가장 주목받은 인공지능 기술 중 하나인 GPT-3의 경우 세계 10위권 내외의 슈퍼컴퓨터를 활용하여 개발한 기술인데 향후 엑사스케일 슈퍼컴퓨터가 개발되면 자연 현상의 복잡계 시뮬레이션 뿐 아니라 이러한 인공지능의 발전도 가속화될 것이라 보고 있다고 합니다. 

슈퍼컴퓨터라 말만 들어왔지 실제 슈퍼컴퓨터의 성능은 어떠한지, 어떻게 작동하는지에 대해서는 알 수 있는 기회가 없었는데 이 책에 아주 상세히 나와있습니다.

또한 양자컴퓨터 역시 뉴스 등을 통해 단편적으로만 알 수 있었는데 양자컴퓨터의 원리, 가능성과 한계에 대해서도 자세히 알 수 있는 기회가 된 독서 경험을 가질 수 있었습니다. 

#컴퓨터공학 #지금부터시작하는 #엑사스케일과인공지능그리고양자컴퓨터 #위즈플래닛 #추형석 #리뷰어스클럽

※ 출판사로부터 도서를 제공받아 직접 읽고 주관에 따라 서평을 작성하였습니다.

디지털 기술의 미래를 생각해 보자

책을 선택한 이유

코로나 팬데믹 이후 디지털 전환이 가속화되면서

초연결, 초지능 사회로 변화하고 있다.

미래 사회의 핵심 기술 인공지능과

인공지능의 바탕이 되는

엑사스케일 슈퍼컴퓨터와

양자컴퓨터를 알아보기 위해

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"를

선택하였다.

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"는

1장 엑사스케일 슈퍼컴퓨터 시대의 개막

2장 슈퍼컴퓨터에 미치는 인공지능의 영향

3장 양자컴퓨터는 슈퍼컴퓨터의 대안인가?

로 구성되었다.

1장 엑사스케일 슈퍼컴퓨터 시대의 개막 에서는

슈퍼컴퓨터의 엔진은 트랜지스터다.

고성능 컴퓨터를 여러 대 연결한

슈퍼컴퓨터는 최첨단 기술로 연산처리 능력을

극대화 한다.

무어의 법칙, 슈퍼컴퓨터의 폭발적 성장의

역사를 살펴보며,

슈퍼컴퓨터의 성능 측정 단위,

슈퍼컴퓨팅의 핵심 병렬처리,

계산량을 측정하는 복잡도,

슈퍼컴퓨터의 측정 기준,

슈퍼컴퓨터 성능을 측정하는 부동 소수점,

폰 노이만 구조, 폰 노이만 병목 현상,

슈퍼컴퓨터의 병렬 처리와 병렬 컴퓨팅,

암달의 법칙과 처치 곤란 병렬,

슈퍼컴퓨터 계산 강도의 크기,

알고리즘의 이론적 최대 성능을 의미하는

루프라인 모델,

슈퍼컴퓨터 성능을 측정하는 HPL은 계산 위주

알고리즘에 대한 성능 측정이며, 성능을 높이기

위해서는 연산 처리 장치 구성이나 구조에 따른

최적화가 필요하다.

슈퍼컴퓨터 성능을 측정하는 HPCG는 미분방정식

기반으로 시뮬레이션의 실질적 성능을 평가하며,

HPL-AI, Green500, GRAPH500 등 슈퍼컴퓨터 측정

기준을 설명한다.

엑사스케일은 초당 100경 번 부동 소수점 연산을

처리할 수 있는 컴퓨터다.

미국, 중국, 일본의 엑사스케일 슈퍼컴퓨터

개발 과정, 엑사스케일 슈퍼컴퓨터 시대 도래,

복잡한 자연현상을 편미분방정식으로 재현할 수 없다.

근사치를 찾아가는 행렬방정식과 블랙-숄즈 방정식,

카를로 시뮬레이션을 소개하고,

인공지능의 부상이 슈퍼컴퓨터의 지평을

넓힐 것으로 예상한다.

2장 슈퍼컴퓨터에 미치는 인공지능의 영향 에서는

딥러닝의 등장은 지지부진하던 인공지능 개발에

새로운 돌파구를 열었다.

인공지능의 범위, 슈퍼컴퓨터과 딥러닝의

관계를 생각해 본다.

GPU의 개요, GPU 활용의 어려움, GPU의 변화,

인공신경망의 개요, 인공신경망의 계산 구조,

인공신경망의 추론,

이미지에 특화된 합성곱신경망,

언어에 특화된 트랜스포머,

슈퍼컴퓨터와 인공지능의 관계,

엑사스케일 시대 딥러닝에 영향을 미칠

거대 사전 학습 모델, 모델 경량화를

소개한다.

3장 양자컴퓨터는 슈퍼컴퓨터의 대안인가? 에서는

단순한 행렬곱 연산도 행렬의 크기가 커지면

엑사스케일 슈퍼컴퓨터도 풀기 쉽지 않다.

양자 우위는 기존 슈퍼컴퓨터의 문제를

효과적으로 해결하는 것이 목적이다.

양자 컴퓨터의 개발 수준,

양자 중첩과 양자 얽힘, 큐비트,

양자 게이트,

양자 병렬성은 양자 중첩과 양자 얽힘을

큐비트로 표현한 것을 양자 알고리즘을

거쳐 유지하는 것이다.

최소값이나 최대값을 찾는 최적화 문제에

적합한 양자컴퓨터의 속성,

양자컴퓨터의 한계, 큐비트의 품딜,

NISQ시대, 양자컴퓨터 클라우드 등장,

IBM 퀀텀, 양자 알고리즘 VQE,

양자 알고리즘 QAOA,

양자컴퓨터와 블록체인 보안,

양자컴퓨터을 이용한 통신 보안 기술,

각국의 양자컴퓨터 개발 상황,

개발 전망을 소개한다.

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"는

인공지능의 핵심 딥러닝 추론 과정에서

행렬곱을 효율적으로 처리하기 위해

중요성이 커지는 슈퍼컴퓨터의 현황,

슈퍼컴퓨터의 성능 측정과 엑사스케일

개발 상황을 소개한다.

인공지능의 개요와 발전 과정,

거대 모델로 학습하면서도

경량화된 추론 모델로 효율성을 높이려는

인공신경망 개발 트렌드를 알려준다.

차세대 컴퓨터로 주목받고 있는

양자컴퓨터에 대한 개발 상황과

양자컴퓨터의 발전 방향과 기술적 한계 등을

통해 향후 산업의 발전방향을 예상할 수 있다.

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"는

미래 정보화 사회의 주축이 될 인공지능과

엑사스케일 슈퍼컴퓨터, 양자컴퓨터를

전문적이면서도 쉽게 설명하고 있다.

컴퓨터 비전문가가 막연하게 최신 기술의

기술 전망을 소개하는 책이 아니라

컴퓨터 전문가 관점에서 알고리즘의

핵심과 도출 과정을 소개하며

그림과 도표 등을 통해 전반적

흐름을 이해할 수 있도록 안내한다.

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"를 통해

새로운 디지털 정보화 사회를 이끌어 갈

최신 기술의 등장이 가져올 미래 사회에

대해 생각해 보게 되었다.

위즈플래닛 과 리뷰어스클럽 서평단에서

"지금부터 시작하는 엑사스케일과 인공지능 그리고 양자컴퓨터"를 증정해주셨다.

감사드린다.

#리뷰어스클럽

#서평단모집

#네이버독서카페

#리뷰어스클럽서평단

#위즈플래닛

#지금부터시작하는엑사스케일과인공지능

#추형석