AI 반도체 개발은 AI 칩뿐만 아니라 이를 구현할 소프트웨어, AI 모델을 모두 기술력을 갖추어야 한다. 실제로 칩 설계는 전체의 30~40% 수준을 차지할 정도로 소프트웨어 비중이 크다. 데이터센터 시장 대비 상대적으로 진입 장벽이 낮은 온디바이스 AI 시장을 노리는 것도 한 방법이다. 상대적으로 온디바이스 AI 업체들의 수요처 발굴이 더 쉽고 성장세도 가파를 것으로 예상한다. 특히, 시스템반도체 불모지로 평가받던 우리나라가 새로운 가능성을 보여줄 수 있는 절호의 기회로 여겨진다. 우리 기업은 엔비디아와 달리, 딥러닝 등 AI 연산에 특화된 NPU 반도체에 집중하고 있다. 현재 주로 쓰이고 있는 엔비디아의 GPU에 비해 범용성은 다소 떨어지지만, 추론에 필요한 연산을 저전력으로 빠르게 처리할 수 있어서 전성비(전력 대비 효율 성능)가 좋다는 점이 장점으로 꼽힌다.
--- pp.60~61, 「한국 시스템반도체 산업 발전의 역사」중에서

AI 반도체 시장은 GPU 독주 시대에서 벗어나 역할 분화와 공존의 시대로 이동 중이다. 학습 중심의 GPU, 클라우드(학습, 추론) 전용 TPU, 추론 중심의 마이아 AI 반도체, 에지향의 저전력·고효율 추론용 NPU가 각자의 영역을 확보하며 경쟁과 협력을 동시에 펼치고 있다. 분명한 사실은 엔비디아의 지배에서 벗어나려는 노력이 진행 중이라는 점이다. 구글은 학습, 추론 둘다, MS는 학습은 엔비디아 GPU를 사용하고 추론은 벗어나겠다는 점이 다르다. 중장기적으로는 어떤 단일 칩이 모든 AI 연산을 지배하기보다는, 용도에 맞는 최적의 AI 반도체를 조합해 사용하는 맞춤형 ASIC 구조가 AI 산업의 표준으로 자리 잡을 가능성이 크다. 브로드컴(Broadcom)은 이러한 빅테크 기업들의 칩 설계를 돕는 핵심 파트너로 협력하며 실적이 급성장했다.
--- pp.184~185, 「격화되고 있는 빅테크들의 AI 반도체 전쟁」중에서

우리나라도 우수 인재들이 이공계를 택했던 시절이 있었다. 1980년대에는 물리학과, 전자공학과, 기계공학과가 인기를 차지했었다. 우리나라가 지금의 경제 발전을 이룰 수 있었던 것은 그 인재들이 1980년대 디지털 대전환을 잘 준비하고 실행한 결과다. 당시에 “한국은 아날로그 TV에서 30년 뒤진 기술로는 평생 가야 1등 할 수 없다”라는 일본 기업들의 비아냥을 들어야 했다. 1980년대 일본은 세계 전자산업의 선두 주자였고, NHK는 ‘NUSE 방식’이라는 HDTV 시스템을 내세웠다. 고해상도 영상을 목표로 했지만, 핵심은 여전히 아날로그 전송 방식이었다. 우리나라는 디지털 처리 방식의 HDTV 시대를 먼저 열었고, 일본 기업들을 이길 수 있었다. 이뿐만 아니라 반도체, 이동통신 분야에서도 디지털화에 빠르게 대응했다. 이것은 뛰어난 이공계 인재들의 뒷받침이 없었다면 불가능했을 것이다. 정부의 병역 혜택 정책 등도 주요했다.
--- pp.197~198, 「우수한 반도체 인재 확보를 위한 제언」중에서

온디바이스 AI 반도체는 스마트폰, 자동차, 가전, 로봇 등 개별 기기 내부에서 작동해야 한다. 이런 환경은 전력, 발열, 크기, 메모리 용량, 가격 등의 제약이 매우 크다. 따라서 외부 솔루션인 범용 칩으로는 성능, 가격 면에서 최상의 성과를 내기 어렵고, 칩 가격도 비싸다. 따라서 각 제품의 특성을 고려한 맞춤형 칩이 필수적이다. 제품에 기존 범용 반도체를 사용하면 타사와의 경쟁에서 이길 수 없다. 성능과 차별화된 성능을 갖기 어렵기 때문이다. 기존 범용 반도체는 말 그대로 범용성은 뛰어나지만, 해당 제품 서비스 구현에 필요한 고성능 연산이 필요한 특정 용도에 적용하기에는 비효율적이다. 스마트폰은 발열, 자동차는 안정성, IoT는 초저전력 등 제품별로 요구조건이 다르다. 센서, MCU, 메모리 등과 인터페이스가 제품 별로 다르기에 맞춤형으로 SoC 설계가 이루어져야 한다. 또한 경량화된 AI 모델을 다르게 개발해야 한다. 따라서 자체적으로 칩을 개발할 필요가 있다.
--- p.213, 「온디바이스 AI 반도체, 한국 제조업 도약을 이끈다」중에서

지능형 사물인터넷(AIoT) 기술을 통한 스마트홈의 활성화가 기대되고 있다. 4차 산업혁명 시대를 이끄는 주요 기술이 많이 있지만, 그중에서도 핵심기술을 뽑자면 IoT와 AI가 꼽힌다. 지금은 IoT 연결성에 AI 초지능이 결합된 ‘AIoT 시대’라고 할 수 있다. IoT가 디바이스 간의 연결을 나타내는 디지털 신경망이라면, AI는 이러한 디바이스들을 통제 및 관리하는 두뇌 역할을 한다. AIoT는 다양한 도메인에 IoT와 AI를 접목하는 융합의 핵심 기술이다. AIoT는 5G나 6G 이동통신의 초연결성을 바탕으로, AI와 빅데이터를 활용한 초지능성을 결합한 사물지능 융합 기술이다. 서비스 도입 영역이 넓어지면서 냉장고, 세탁기, 에어컨, 스피커 등 거의 모든 가전에 AI가 탑재됐다. 이를 ‘사물지능’이라고 부르는데, 사물 특성에 맞게 지능을 개발하고 이를 탑재해 활용하는 융합 기술을 의미한다.
--- pp.220~221, 「스마트홈 시대 연 지능형 사물인터넷」중에서

드론의 핵심 기술을 구현하기 위해 다양한 AI 반도체가 활용된다. 드론의 자율비행, 데이터 처리, 실시간 의사 결정을 수행할 때 높은 연산 성능과 저전력을 요구하기 때문이다. 특히 비행 중 실시간 데이터를 처리하기 위해 기기 자체에서 데이터를 처리하는 온디바이스 AI가 중요하다. 온디바이스 AI는 외부 클라우드를 거치지 않고, 내부 AI 칩을 통해 데이터를 즉각적으로 분석하고 수행한다. 무선 환경 없이 빠르게 정보에 응답하고, 인터넷 연결이 불가능한 상황에도 대응한다. 또 온디바이스 AI는 정보 보호, 저전력 등에서도 장점이 있다. 자율비행용 센서와 비행 제어장치에 대한 인터페이스, AI 처리 기능을 위한 AI 코어를 가진다.