아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC), AI의 에너지 소비 및 발열 문제 해결 가능성 확인 및 차세대 메모리 및 컴퓨팅 아키텍처 기술 협력 기반 구축
이번 성과는 양사가 공동으로 수행한 연구 논문인 ‘효율적인 깊이별 합성곱을 구현한 멤리스터 기반 인메모리 컴퓨팅 시스템온칩(A Memristor-based In-Memory Computing SoC with Efficient Depthwise Convolution)’이 Advanced Intelligent Systems에 게재되면서 더욱 주목받았다. 또한 이 논문은 기술 혁신성과 차세대 AI 컴퓨팅에 미칠 잠재적 영향을 인정받아 해당 학술지의 표지 논문으로도 선정됐다.
이번 협력은 첨단 메모리 기술 분야에서 축적한 SK하이닉스의 전문성과 테트라멤(TetraMem)의 아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC) 플랫폼을 결합해, AI 워크로드의 급속한 증가에 따른 에너지 소비와 발열 문제를 줄이는 등 인공지능이 직면한 가장 시급한 과제 가운데 하나를 해결할 수 있는 새로운 컴퓨팅 아키텍처를 모색하는 데 목적이 있다.
기반 모델(foundation model)이 수십억 개에서 수조 개에 이르는 매개변수(parameter) 규모로 계속 확장되면서, 프로세서와 메모리 간 데이터 이동은 시스템의 전력 소비, 지연시간(latency), 발열 문제를 초래하는 주요 원인으로 떠올랐다. 아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC)은 모델 가중치(model weights)가 저장된 위치에서 직접 행렬 연산을 수행하는 근본적으로 새로운 아키텍처를 통해 이러한 병목현상을 해결한다. 이를 통해 데이터 이동을 대폭 줄이는 동시에 시스템 전반의 성능과 에너지 효율을 향상시키며, AI 모델의 가중치가 저장된 위치에서 연산을 수행하는(compute where the AI model weights live) 방식을 구현한다.
이번 연구는 현대 AI 추론 워크로드의 핵심 구성 요소인 효율적인 깊이별 합성곱(depthwise convolution)을 구현한 멤리스터 기반 AI 시스템온칩(System-on-Chip, SoC)을 제시한다. 또한 이 프로젝트는 아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC)의 실현 가능성을 입증하는 데 그치지 않고, 차세대 메모리 소자, 회로 설계, AI 아키텍처, 소프트웨어 및 시스템 최적화 기술을 실제 활용 가능한 반도체 플랫폼에 성공적으로 통합했음을 보여준다.
더 중요한 점은 이번 프로젝트가 SK하이닉스 RTC와 테트라멤(TetraMem) 팀 간의 긴밀한 엔지니어링 협력을 보여준다는 것이다. 양사는 상호보완적인 전문성을 결합해 메모리 중심 AI 컴퓨팅 기술의 발전을 이끌었다.
테트라멤(TetraMem)의 글렌 게(Glenn Ge) 최고경영자(CEO) 겸 공동 창업자는 “SK하이닉스와 함께 이번 중요한 이정표를 달성하게 돼 매우 뜻깊게 생각한다”며 “이번 성과는 반도체 생태계 전반에 걸친 긴밀한 협력을 통해 어떤 성과를 이룰 수 있는지를 보여준다. AI가 계속 발전함에 따라 혁신은 컴퓨팅뿐 아니라 메모리와 시스템 아키텍처 전반에서 이뤄져야 한다. 우리는 메모리 중심 컴퓨팅과 아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC)이 미래 AI의 에너지 효율과 발열 문제를 해결하는 데 점점 더 중요한 기술이 될 것으로 믿으며, 앞으로도 SK하이닉스와의 협력을 지속해 나가기를 기대한다”고 말했다.
SK하이닉스(SK hynix)의 김수길(Soo Gil Kim) 부사장은 “이번 협력이 성공적인 성과를 거두고 Advanced Intelligent Systems로부터 인정받게 돼 기쁘게 생각한다”며 “이번 프로젝트는 미래 AI 시스템을 위한 혁신적인 메모리 기술과 새로운 컴퓨팅 아키텍처를 탐구하는 것의 가치를 보여준다. 테트라멤(TetraMem) 팀과의 훌륭한 협력에 감사드리며, 앞으로도 상호 관심 분야에서 기술 교류를 지속해 나가기를 기대한다”고 말했다.
이번 연구가 해당 학술지의 표지 논문으로 선정된 것은 이번 공동 성과의 중요성과 AI 산업에서 메모리 중심 컴퓨팅의 중요성이 점차 커지고 있음을 다시 한번 보여준다.
양사는 앞으로도 미래 AI 인프라가 성능, 에너지 효율, 지속 가능한 컴퓨팅에 대한 증가하는 요구를 충족하기 위해 메모리 기술, 컴퓨팅 아키텍처, 시스템 통합 전반에서 지속적인 발전이 필요하다는 데 뜻을 같이하고 있다. 이번 협력의 성과를 바탕으로 양사는 차세대 AI 컴퓨팅 기술의 발전을 이끌 수 있는 추가적인 기술 협력 기회를 지속적으로 모색해 나갈 계획이다.
‘효율적인 깊이별 합성곱을 구현한 멤리스터 기반 인메모리 컴퓨팅 시스템온칩(A Memristor-based In-Memory Computing SoC with Efficient Depthwise Convolution)’ 논문은 현재 Advanced Intelligent Systems 온라인판에서 확인할 수 있다.
SK하이닉스 소개
SK하이닉스(SK hynix Inc.)는 글로벌 반도체 기업이자 HBM, NAND 플래시(NAND Flash), 첨단 AI 메모리 솔루션 분야의 선도적인 공급업체다. 차세대 AI, 고성능 컴퓨팅 및 데이터 중심 애플리케이션을 지원하는 혁신적인 메모리 기술을 지속적으로 개발하고 있다.
테트라멤 소개
테트라멤(TetraMem Inc.)은 멀티레벨 멤리스터(RRAM) 기술을 기반으로 한 아날로그 인메모리 컴퓨팅(Analog In-Memory Computing, A-IMC)을 선도하는 실리콘밸리의 반도체 기업이다. 메모리 중심 AI 컴퓨팅 플랫폼을 통해 엣지, 엔터프라이즈 및 미래 데이터센터 환경에서 고성능·고에너지 효율의 AI 추론을 지원하고 있다.
이 보도자료는 해당 기업에서 원하는 언어로 작성한 원문을 한국어로 번역한 것이다. 그러므로 번역문의 정확한 사실 확인을 위해서는 원문 대조 절차를 거쳐야 한다. 처음 작성된 원문만이 공식적인 효력을 갖는 발표로 인정되며 모든 법적 책임은 원문에 한해 유효하다.
사진/멀티미디어 자료: https://www.businesswire.com/news/home/20260708244132/en
웹사이트: https://tetramem.com/
연락처
테트라멤(TetraMem Inc.)
글렌 게(Glenn Ge)
pr@tetramem.com
