산업 > 산업/ESG

삼성전자의 야심작…AI 추론 뭐길래[마하-1의 경제학①]

등록 2024-03-23 09:00:00 최종수정 2024-03-26 15:04:03

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	삼성전자의 야심작…AI 추론 뭐길래[마하-1의 경제학①] [서울=뉴시스]이현주 기자 = 삼성전자가 올해 연말 AI 추론 칩 '마하-1' 양산 계획을 밝히면서 AI 반도체 판도가 뒤바뀔 수 있다는 기대감이 나온다. 23일 업계에 따르면 경계현 사장은 지난 20일 경기 수원컨벤션센터에서 열린 제55기 삼성전자 정기 주주총회에서 '마하-1'를 개발하고 있다고 최초로 밝혔다. '마하1'은 AI 추론에 특화된 반도체다. 컴퓨터 CPU(중앙처리장치) 같은 칩의 성능을 강화해 AI 추론이 일부 가능하게 해주는 역할을 할 수 있다. '마하-1'은 특히 메모리와 GPU와의 병목 현상을 해소할 수 있는 구조로, 고대역폭메모리(HBM) 대신 저전력 메모리를 활용해도 대규모언어모델(LLM) 추론이 가능할 것으로 보인다. 경 사장이 공개 석상에서 '마하-1' 개발을 언급한 건 이번이 처음이다. 그는 "AI 시대에는 컴퓨트와 메모리가 대규모 결집한다"며 "그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다"고 말했다. 이 문제를 개선하기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결하겠다는 계획이다. 삼성전자는 AGI 반도체 개발을 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. AGI 컴퓨팅랩은 마하-1 칩 개발을 담당하며, 구글 AI 작업 특화 반도체인 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 이끈다. 경 사장은 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 개발 중인 마하-1 인퍼런스칩은 혁신의 시작"이라고 강조했다. 그는 "현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다"며 "연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것"이라고 밝혔다. ◎공감언론 뉴시스 [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

삼성전자의 야심작…AI 추론 뭐길래[마하-1의 경제학①] [서울=뉴시스]이현주 기자 = 삼성전자가 올해 연말 AI 추론 칩 '마하-1' 양산 계획을 밝히면서 AI 반도체 판도가 뒤바뀔 수 있다는 기대감이 나온다. 23일 업계에 따르면 경계현 사장은 지난 20일 경기 수원컨벤션센터에서 열린 제55기 삼성전자 정기 주주총회에서 '마하-1'를 개발하고 있다고 최초로 밝혔다. '마하1'은 AI 추론에 특화된 반도체다. 컴퓨터 CPU(중앙처리장치) 같은 칩의 성능을 강화해 AI 추론이 일부 가능하게 해주는 역할을 할 수 있다. '마하-1'은 특히 메모리와 GPU와의 병목 현상을 해소할 수 있는 구조로, 고대역폭메모리(HBM) 대신 저전력 메모리를 활용해도 대규모언어모델(LLM) 추론이 가능할 것으로 보인다. 경 사장이 공개 석상에서 '마하-1' 개발을 언급한 건 이번이 처음이다. 그는 "AI 시대에는 컴퓨트와 메모리가 대규모 결집한다"며 "그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다"고 말했다. 이 문제를 개선하기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결하겠다는 계획이다. 삼성전자는 AGI 반도체 개발을 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. AGI 컴퓨팅랩은 마하-1 칩 개발을 담당하며, 구글 AI 작업 특화 반도체인 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 이끈다. 경 사장은 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 개발 중인 마하-1 인퍼런스칩은 혁신의 시작"이라고 강조했다. 그는 "현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다"며 "연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것"이라고 밝혔다. ◎공감언론 뉴시스 [email protected]

https://weekly.newsis.com