NPU 부흥을 위해 꼭 필요한 것 '컴파일러'

https://byline.network/2021/12/08-72/

연봉 10억원 줘도 못구하는 NPU 컴파일러 개발자 - Byline Network

 

 

NPU 기업들이 컴파일러 인재 찾기에 혈안이다. 퓨리오사, 리벨리온 등 국내 주요 NPU 기업 모두 컴파일러 인재 채용에 발벗고 나섰다. 아직 초기 단계인 AI반도체 시장이 활성화될 수 있는 핵심 열쇠가 컴파일러가 될 것이라는 판단에서다.

 

 

NPU는 기존에 사용되던 범용 반도체에 비해 구조가 다소 복잡하다. 범용 반도체는 입력된 데이터를 순차적으로 처리하는 ‘폰 노이만(Von Neumann)’ 아키텍처를 기반으로 한다. 하지만 NPU는 사람의 신경망과 같은 구조를 가지고 있어, 더욱 복잡하다.

개발자들은 프로그램을 개발할 때 C, C++, 파이썬과 같은 개발언어를 사용한다. 하지만 이 언어로 개발된 프로그램은 NPU 상에서 바로 구동할 수 없다. NPU 상에서 바로 구동할 수 있는 프로그램을 개발하기 위해서는 NPU용 API(Application Programming Interface, 프로그램과 프로그램 사이를 연결하는 인터페이스)를 알아야 한다. 하지만 이런 API를 활용할 수 있는 개발자의 수는 적다.

 

 

 

이 때 컴파일러의 역할이 중요해진다. 컴파일러란 특정 프로그래밍 언어를 다른 언어로 번역하는 프로그램을 말한다. 쉽게 말해 프로그래밍 통역사다. 컴파일러를 사용하면 개발자가 일반 개발언어 사용해 프로그램을 개발해도 이 프로그램을 NPU 상에서 쉽게 구동할 수 있다.

 

 

이미 AI 반도체 시장에서 컴파일러 기술을 통해 생태계를 확장한 기업이 있다. 바로 엔비디아다.

엔비디아는 GPU 컴퓨팅 컴파일러 역할을 수행하는 쿠다(CUDA, Computed Unified Device Architecture)를 통해 GPU를 확산시킬 수 있었다. 엔비디아의 GPU가 AI반도체 시장에서 독주할 수 있었던 이유는 GPU의 병렬 처리 구조 때문도 있지만, 컴파일러를 비롯한 소프트웨어 기술을 탄탄히 쌓았기 때문이라는 평가를 받는다. 엔비디아는 고객사가 인공지능 서비스를 더 수월하게 구현할 수 있도록 소프트웨어 툴킷을 제공하고 있다. 특히 자연어 처리, 화상통화, 의료, 오토모티브 등 수요가 높은 부문에서는 소프트웨어와 애플리케이션까지 오픈소스로 사용할 수 있도록 솔루션을 제공하고 있다.

 

 

NPU 시장이 아직도 초기 단계에 남은 이유는 컴파일러 인재가 매우 귀하기 때문이다. NPU 기업이 컴파일러 인재를 확보하게 된다면, AI 시장에서 NPU가 GPU의 인기를 넘어설 수도 있다. 국내 NPU 기업 관계자는 “엔비디아는 성능을 높이기 위해 코어 수를 늘리는 방법을 취하고 있는데, 그 과정에서 전력 소모가 늘어난다는 단점이 있어 고객사에서 대안을 찾고 있다”며 “NPU는 AI 데이터 처리에 최적화된 반도체로, 컴파일러 인재만 넉넉하게 확보한다면 언젠가 AI반도체 시장 대부분을 GPU가 아닌 NPU가 차지하게 될 것”이라고 말했다.

 

 

https://www.khan.co.kr/it/it-general/article/202207061354001

KT, 국산 AI 반도체 키운다...리벨리온에 300억 투자