삼성전자의 야심작…AI 추론 뭐길래[마하-1의 경제학①]
등록 2024-03-23 09:00:00 최종수정 2024-03-26 15:04:03
23일 업계에 따르면 경계현 사장은 지난 20일 경기 수원컨벤션센터에서 열린 제55기 삼성전자 정기 주주총회에서 '마하-1'를 개발하고 있다고 최초로 밝혔다. '마하1'은 AI 추론에 특화된 반도체다. 컴퓨터 CPU(중앙처리장치) 같은 칩의 성능을 강화해 AI 추론이 일부 가능하게 해주는 역할을 할 수 있다. '마하-1'은 특히 메모리와 GPU와의 병목 현상을 해소할 수 있는 구조로, 고대역폭메모리(HBM) 대신 저전력 메모리를 활용해도 대규모언어모델(LLM) 추론이 가능할 것으로 보인다. 경 사장이 공개 석상에서 '마하-1' 개발을 언급한 건 이번이 처음이다. 그는 "AI 시대에는 컴퓨트와 메모리가 대규모 결집한다"며 "그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다"고 말했다. 이 문제를 개선하기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결하겠다는 계획이다. 삼성전자는 AGI 반도체 개발을 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. AGI 컴퓨팅랩은 마하-1 칩 개발을 담당하며, 구글 AI 작업 특화 반도체인 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 이끈다. 경 사장은 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 개발 중인 마하-1 인퍼런스칩은 혁신의 시작"이라고 강조했다. 그는 "현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다"며 "연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것"이라고 밝혔다. ◎공감언론 뉴시스 [email protected]
Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지
|
