삼성의 이례적인 AI 투자…유클리드서 '비욘드 HBM' 찾는다 [강경주의 테크X]

<테크X121>

삼성전자가 유클리드에 투자한 진짜 이유

GPU만으론 부족…메모리가 추론 성능 좌우

HBM 포함해 연산·메모리·패키징 통합 시도

삼성전자가 네덜란드 인공지능(AI) 반도체 스타트업 유클리드에 투자하자 업계 안팎의 관심이 쏠리고 있다. AI 반도체 경쟁축이 그래픽처리장치(GPU)의 연산 성능에서 연산 프로세서와 메모리를 얼마나 효율적으로 결합하는지로 이동할 가능성에 삼성전자가 베팅했다는 분석이 나온다. AI 연산에 이어 추론의 중요성이 커지자 메모리 대역폭·데이터 이동·전력 효율 분야의 주도권을 확보하려는 전략으로 풀이된다.

네덜란드 AI칩 스타트업 '유클리드', 어떤 회사?

19일 반도체 업계에 따르면 삼성전자는 최근 유클리드가 유치한 2억유로(약 3100억원) 이상의 시리즈A 투자에 공동 주도 투자자로 참여했다. 서머싯 캐피털 파트너스와 스케일업 유럽펀드, 이노베이션 인더스트리 등이 함께 투자를 주도했다. 삼성전자에서는 회사가 100% 보유한 벤처캐피털 펀드인 삼성카탈리스트펀드가 이번 투자에 참여했다.

유클리드는 2024년 네덜란드 에인트호번 하이테크캠퍼스에서 베르나르도 카스트럽과 아툴 신하가 공동으로 창업한 반도체 스타트업이다. 피터 베닝크 전 ASML 최고경영자(CEO)가 이번 투자 유치와 함께 유클리드 이사회 의장으로 합류했다.

회사명인 유클리드는 고대 그리스 수학자 유클리드에서 가져왔다. AI 반도체를 기존 제품의 연장선에서 만드는 것이 아니라 기본 원리부터 다시 설계한다는 의미를 담았다.

회사는 범용 GPU를 대규모로 연결하는 기존 AI 데이터센터 구조에서 벗어나 연산 프로세서와 메모리를 처음부터 함께 설계하는 '프로세서-메모리 공동 설계'를 핵심 전략으로 내세웠다. 회사가 공개한 로드맵에 따르면 AI 추론용 반도체 '크래프트워크'와 데이터센터 시스템을 묶어 AI 모델을 구동하는 데 필요한 연산·메모리·시스템 효율을 동시에 높이는 것이 목표다.

크래프트워크는 AI가 학습한 내용을 실제 서비스에서 빠르게 처리하는 추론 작업을 겨냥한 주문형반도체(ASIC) 기반 시스템이다. 여러 개의 연산 프로세서가 동시에 계산하도록 설계해 대규모 AI 모델을 효율적으로 처리하는 것이 특징이다. 쉽게 말해 하나의 강력한 계산 장치에 모든 일을 맡기는 대신, 여러 개의 계산 장치가 작업을 나눠 동시에 처리하는 방식이다.

쉽게 말해 여러 개의 GPU를 연결해 AI를 구동하는 기존 데이터센터 방식과 다른 길을 택했다는 것이다. AI가 계산할 때 사용하는 연산 장치와 데이터를 저장하고 꺼내 쓰는 메모리를 처음부터 한 세트처럼 설계하는 방식이다. 연산 장치와 메모리가 가까워지면 필요한 데이터를 주고받는 시간이 줄어들고, 그만큼 AI가 더 빠르게 작동해 전력도 아낄 수 있다는 게 유클리드의 설명이다.

HBM 넘어 연산·메모리 통합…AI 추론 시장 정조준

삼성전자가 유클리드에 투자한 가장 중요한 이유는 'HBM을 만드는 회사'에서 'AI 연산과 메모리 구조를 함께 설계하는 회사'로 영역을 넓히기 위한 행보여서다.

지금까지의 AI 반도체 경쟁이 GPU의 연산 성능을 얼마나 높이느냐에 집중됐다면 추론 시장이 커질수록 데이터를 메모리에서 연산기로 얼마나 빠르게 공급할 수 있는지, 그 과정에서 전력을 얼마나 덜 쓰는지가 중요한 경쟁 요소가 되고 있다. 유클리드는 프로세서와 메모리를 동시 설계하는 방식으로 이 문제를 풀려고 한다.

삼성전자가 주목하는 부분은 크래프트워크의 메모리 설계다. AI가 답을 내놓기 위해서는 계산뿐 아니라 방대한 데이터를 메모리에서 빠르게 가져와야 한다. 아무리 연산 능력이 뛰어난 칩이라도 필요한 데이터를 제때 공급받지 못하면 성능을 제대로 발휘하기 어렵다. 유클리드는 이 문제를 해결하기 위해 1테라바이트(TB) 규모의 초고대역폭메모리(UBM)를 칩의 연산 구조와 함께 설계했다.

유클리드가 공개한 설계 목표에 따르면 크래프트워크는 최대 초당 8000테라바이트(TB/s)의 메모리 대역폭을 구현하도록 설계됐다. 메모리 대역폭은 메모리에서 데이터를 얼마나 빠르게 가져올 수 있는지를 나타내는 '데이터 통로의 크기'다. 대역폭이 클수록 한꺼번에 더 많은 데이터를 주고받을 수 있다. 유클리드는 연산 장치의 속도뿐 아니라 이 데이터 통로를 크게 만드는 데 초점을 맞춘 것이다.

유클리드가 겨냥한 AI 추론 시장은 삼성전자에 새로운 기회가 될 것으로 내부에선 보고 있다. AI 학습 시장에서는 엔비디아 GPU의 연산 성능과 소프트웨어(SW) 생태계가 강력한 진입장벽으로 작용하고 있지만 추론 시장에서는 AI 모델과 사용 환경에 따라 필요한 연산 구조가 달라진다.

같은 AI 모델이라도 수많은 사용자의 질문에 실시간으로 답하는 과정에서는 연산량뿐 아니라 메모리 용량과 대역폭, 데이터 이동에 따른 전력 소모가 비용을 좌우한다. 유클리드가 GPU와 다른 방식으로 이 문제를 풀겠다고 나선 이유다.

삼성전자는 최근 유클리드 외에도 AI 반도체의 연산과 설계, 데이터 처리 기술을 보유한 기업으로 투자처를 넓히고 있다. 지난 7월에는 GPU 설계 지식재산권(IP)을 개발하는 옥스믹의 3500만달러(약 480억원) 규모 시리즈A 투자를 공동 주도했다. 3월에는 AI 기반 반도체 설계 자동화 기업 노멀컴퓨팅의 5000만달러(약 680억원) 규모 전략적 투자 라운드를 주도했다.

삼성캐털리스트펀드의 투자 포트폴리오에는 AI 추론 반도체 기업 그록과 칩렛 연결 기술 기업 엘리얀, 저전력 AI 가속기를 개발하는 액셀레라AI 등도 포함돼 있다. 최근에는 미스트랄AI 투자를 주도하며 반도체 하드웨어에서 AI 모델로 범위를 넓혔다.

유클리드 "삼성은 자금 이상의 도움"

유클리드는 이번 투자금으로 엔지니어링 조직을 확대하고 반도체와 시스템 개발을 앞당길 계획이다. 2028년 실물 반도체 시스템을 내놓고 2030년까지 수천개 기업을 고객사로 확보한다는 목표다.

베르나르도 카스트룹 유클리드 CEO는 지난 14일(현지시간) 미국 CNBC와의 인터뷰에서 "삼성은 자금 외에도 여러 방면에서 우리를 도울 수 있다"며 "세계 최대 메모리 제조업체 중 하나로 엔지니어링과 시스템에 대한 이해, 공급망과 방대한 네트워크를 갖췄다"고 말했다.

데데 골드슈미트 삼성전자 부사장 겸 삼성반도체혁신센터장은 유클리드가 지난 15일 공개한 투자 발표문에서 "AI의 다음 단계는 모델 혁신뿐 아니라 인프라의 효율성과 확장성에 의해 결정될 것"이라며 "유클리드는 AI 데이터센터의 제약을 해결할 차별화된 비전을 갖췄다"고 평가했다.

네덜란드 에인트호번 하이테크캠퍼스 전경. 유럽의 대표적인 첨단기술 클러스터로, AI 반도체 스타트업 유클리드가 본사를 두고 있다. 유클리드 본사는 이 캠퍼스 High Tech Campus 84에 있다. / 사진=에인트호번 하이테크캠퍼스

강경주 기자 qurasoha@hankyung.com