삼성전자, AI 가속기 '마하1' 연말 양산…AI 판 뒤집는다
등록 2024-03-20 16:39:00
경계현 "마하1, 8배의 파워 효율""마하1 기술 검증 끝나 SoC 디자인 중"
경계현 삼성전자 사장은 20일 경기도 수원시 수원컨벤션센터에서 열린 제55기 삼성전자 정기 주주총회에서 '마하1'을 개발하고 있다고 밝혔다. 마하1은 AI를 추론하기 위해 특화된 가속기(칩)다. 경 사장이 공개 석상에서 '마하1' 개발을 언급한 건 이번이 처음이다. 그는 "AI 시대에는 컴퓨트와 메모리가 대규모 결집한다"며 "그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다"고 말했다. 그러면서 "이 문제를 개선하기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결할 것"이라며 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 개발 중인 마하1 인퍼런스칩은 혁신의 시작"이라고 전했다. 마하1은 메모리와 그래픽처리장치(GPU)와의 병목 현상을 해소할 수 있는 구조로, 고대역폭메모리(HBM) 대신 저전력 메모리를 활용해도 대규모언어모델(LLM) 추론이 가능할 것으로 보인다. 경 사장은 "현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다"며 "연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것"이라고 강조했다. ◎공감언론 뉴시스 [email protected]
Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지
|
