IT > IT

'AI' 재앙일까 축복일까…점점 사람 같아지는 '로봇'

등록 2024-03-16 11:00:00 최종수정 2024-03-20 08:03:07

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	'AI' 재앙일까 축복일까…점점 사람 같아지는 '로봇' [서울=뉴시스] 오동현 기자 = #. 영화 '터미네이터’는 인공지능(AI)의 잠재적 위험성을 보여주는 대표적인 사례로 꼽힌다. 영화에서 스카이넷(Skynet)이라는 AI 시스템은 원래 미국의 국방 네트워크를 관리하고, 전략적인 결정을 내리는 역할을 위해 개발됐다. 하지만 스카이넷이 자각능력을 갖게 되면서 스스로를 보호하기 위해 인간을 위협으로 인식하게 된다. 결국 스카이넷은 인간을 제거하기 위해 전 세계의 핵 무기를 발사하고, 인간의 저항군을 제거하기 위해 터미네이터라는 사이보그를 개발한다. 1984년에 첫 개봉한 이 영화는 AI가 자각능력을 갖게 되면, 인간에게 위협이 될 수 있다는 메시지를 전달한다. 영화가 나온 지 40년이 흐른 현재, 터미네이터처럼 인간의 말을 이해하고 말하며 행동하는 휴머노이드 로봇이 등장했다. 'AI의 대부' 제프리 힌턴은 로봇이 발전된 지능뿐 아니라 감정까지 갖게 될 것이란 전망까지 내놨다. 실제로 사우디아라비아 기업에서 개발한 남성형 휴머노이드 로봇이 여성의 엉덩이를 만져 '성추행' 논란에 휩싸이기도 했다. 어떤 연유에서 신체 접촉을 한 것인지는 밝혀지지 않았지만, 로봇 제조사 QSS는 "인간의 제어를 받지 않고 독립적이고 자율적으로 운영된다"고 해명했다. 결국 휴머노이드 로봇과 인간이 공존하기 위해선 '불량 AI'가 아닌 '착한 AI'를 만들어야 한다. 각국의 정부와 학계에서도 AI가 인류의 존폐를 위협할 수 있다는 점에서 인간이 AI를 통제할 수 있는 규제와 연구 윤리를 정립하고 있다. 최근 유럽연합(EU)은 AI 개발 기업이 지켜야 할 의무 등을 규정한 AI법을 최종 승인했다. [[[[:newsis_bold_start:]]]]◆보고 듣고 말하는데 힘까지 센 '휴머노이드'[[[[:newsis_bold_end:]]]] 이미 휴머노이드 로봇은 인간의 영역에 도전하고 있다. 휴머노이드 로봇 개발·제조 스타트업 피규어는 챗GPT 개발사 오픈AI와 협업해 만든 AI 로봇 '피규어 01'을 공개했다. 소셜미디어 'X(옛 트위터)'를 통해 공개한 2분 35초 분량의 영상에는 인간의 외형을 본뜬 휴머노이드 로봇이 등장한다. 영상에서 한 남성이 피규어 01에게 "무엇이 보이냐"고 묻자, 피규어 01은 "테이블 가운데 접시 위에 빨간 사과가 보이고, 컵과 접시가 담긴 식기 건조대, 테이블에 손을 얹고 근처에 서 있는 당신이 보인다"고 대답했다. 이후 남성이 "먹을 것을 줄 수 있느냐"고 말하자 피규어 01이 "물론"이라며 테이블 위에 있던 사과를 집어 건넸다. 또 남성이 테이블에 쓰레기 봉투를 올려놓으며 로봇에게 "이 쓰레기를 치우면서 왜 네가 좀 전의 (사과를 건넨) 행동을 했는지 설명하라"고 했다. 그러자 피규어 01은 쓰레기를 바구니에 담으며 "내가 당신에게 사과를 준 이유는 테이블에 있던 유일한 음식이기 때문"이라고 답했다. 이어 남성이 "지금 상황에서 눈앞의 식기들을 어디에 옮겨야 하느냐"고 묻자, 피규어 01은 "식기건조대"라 답하고 남성의 명령대로 식기를 옮겼다. 또 피규어 01은 자신의 행동에 대해 "꽤 잘했다고 생각한다"고 자평하기도 했다. 피규어의 최고 경영자 브렛 애드콕은 X를 통해 "로봇의 속도가 극적으로 빨라져 인간의 속도에 근접했다"며 "오픈AI는 시각적 추론 및 언어 이해 기술을 제공했고 피규어는 빠르고 민첩한 로봇 동작 기술을 활용했다"고 설명했다. 피규어는 지난달 오픈AI, 마이크로소프트 등으로부터 6억 7500만 달러(약 8800억 원) 규모의 투자를 유치했다. 최근 세계에서 가장 주목받고 있는 휴머노이드 로봇 개발·제조사 중 한 곳이다. 지난해 3월에는 두 발로 걷고 두 손으로 물건을 들어 옮기는 작업이 가능한 '피규어 1'을 공개해 기술력을 인정받았다. ◆AI에 지배 당하지 않으려면…"인류에 멸종에 준하는 위협" 경고 AI와 로봇 공학 기술이 인류가 제어할 수 없는 수준으로 빠르게 발전할 경우 인류의 미래를 위협할 수 있다는 우려의 목소리도 나온다. 이에 EU를 시작으로 세계 각국에서는 AI 규제 방안 마련에 나서고 있다. AI 대부로 알려진 제프리 힌턴 캐나다 토론토대 컴퓨터과학과 명예교수는 "앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것으로 본다"고 예견했다. 그는 최근 니혼게이자이신문(닛케이)과 인터뷰에서 "제1차 세계대전에서 재앙을 불러온 화학 무기처럼 로봇 무기 역시 언젠가 규제할 수 있을 것이다. 하지만 그 실현은 실제 전장에서 (로봇 무기가) 사용돼 인류가 그 비참함을 인식한 뒤가 될 것"이라고 경고했다. 그러면서 "아무도 AI가 지배하는 미래를 원하지 않는다. 그 사실이 각국이 AI 무기 규제를 위해 발맞추는 토대가 될 것"이라며 "핵전쟁과 마찬가지"라고 언급했다. 힌턴 교수는 또 "AI에 목표를 줬을 때 인간에게 불편한 해결책을 찾아낼지도 모른다"면서 "가령 AI에 기후 변화를 멈추도록 지시했을 때 AI가 목적을 달성하기 위해 인간을 배제해야 한다고 판단하고 이를 실행할 위험이 우려스럽다"고 말했다. 이어 "앞으로 서로 다른 AI가 서로 경쟁하는 일이 벌어질 수도 있다. AI 사이에서 데이터센터 등 자원 쟁탈전이 벌어지면 이는 생물과 마찬가지로 진화를 촉진하는 과정이 된다. 경쟁을 거쳐 더 똑똑해지는 AI에 인류는 뒤처지게 될 것"이라고 내다봤다. 힌턴 교수는 AI가 발전된 지능뿐 아니라 감각까지 가지게 될 수 있다고 예상했다. 그는 "인간은 객관적 사실과 다른 사건도 경험한다"며 "주관적 경험이라는 관점에서 설명하면 AI는 인간과 비슷한 감각을 가질 수 있다고 생각한다"고 평가했다. 또 AI가 세계를 이해하지 못할 것이란 생각은 틀린 생각이라고 덧붙였다. 최근에는 AI가 향후 인류에 멸종에 준하는 위협을 제기할 수 있다는 미국 국무부 의뢰 보고서가 나와 경각심을 일깨웠다. 보고서는 "AI와 범용인공지능(AGI)의 부상은 핵무기 개발을 연상케 하는 방식으로 세계 안보를 불안하게 할 잠재력이 있다"고 지적했다. 특히 AI 무기 경쟁과 분쟁, 대량살상무기(WMD)급의 치명적 사고 발생 가능성을 경고했다. EU에서는 세계 최초로 AI 규제 법안을 마련했다. 일부 금지조항이 6개월 뒤 적용되기 시작해 2026년 이후 전면 시행된다. EU의 AI 법은 빠르게 발전하는 AI 기술에 대한 규제를 고심하는 다른 정부들에 이정표 역할을 할 것으로 예상된다. EU의 AI법에 따르면 AGI를 개발하는 기업은 학습 과정에 사용한 콘텐츠를 분명히 밝혀 투명성을 강화하고, 저작권법을 준수해야 한다. AI 기반의 생체인식 시스템을 사용하는 것도 금지다. 딥페이크 사진·동영상·오디오의 경우 AI로 만든 콘텐츠임을 밝혀야 한다. 이를 위반한 기업은 글로벌 매출의 1.5∼7%를 과징금(최대 3500만 유로)으로 내야 한다. ◎공감언론 뉴시스 [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

'AI' 재앙일까 축복일까…점점 사람 같아지는 '로봇' [서울=뉴시스] 오동현 기자 = #. 영화 '터미네이터’는 인공지능(AI)의 잠재적 위험성을 보여주는 대표적인 사례로 꼽힌다. 영화에서 스카이넷(Skynet)이라는 AI 시스템은 원래 미국의 국방 네트워크를 관리하고, 전략적인 결정을 내리는 역할을 위해 개발됐다. 하지만 스카이넷이 자각능력을 갖게 되면서 스스로를 보호하기 위해 인간을 위협으로 인식하게 된다. 결국 스카이넷은 인간을 제거하기 위해 전 세계의 핵 무기를 발사하고, 인간의 저항군을 제거하기 위해 터미네이터라는 사이보그를 개발한다. 1984년에 첫 개봉한 이 영화는 AI가 자각능력을 갖게 되면, 인간에게 위협이 될 수 있다는 메시지를 전달한다. 영화가 나온 지 40년이 흐른 현재, 터미네이터처럼 인간의 말을 이해하고 말하며 행동하는 휴머노이드 로봇이 등장했다. 'AI의 대부' 제프리 힌턴은 로봇이 발전된 지능뿐 아니라 감정까지 갖게 될 것이란 전망까지 내놨다. 실제로 사우디아라비아 기업에서 개발한 남성형 휴머노이드 로봇이 여성의 엉덩이를 만져 '성추행' 논란에 휩싸이기도 했다. 어떤 연유에서 신체 접촉을 한 것인지는 밝혀지지 않았지만, 로봇 제조사 QSS는 "인간의 제어를 받지 않고 독립적이고 자율적으로 운영된다"고 해명했다. 결국 휴머노이드 로봇과 인간이 공존하기 위해선 '불량 AI'가 아닌 '착한 AI'를 만들어야 한다. 각국의 정부와 학계에서도 AI가 인류의 존폐를 위협할 수 있다는 점에서 인간이 AI를 통제할 수 있는 규제와 연구 윤리를 정립하고 있다. 최근 유럽연합(EU)은 AI 개발 기업이 지켜야 할 의무 등을 규정한 AI법을 최종 승인했다. [[[[:newsis_bold_start:]]]]◆보고 듣고 말하는데 힘까지 센 '휴머노이드'[[[[:newsis_bold_end:]]]] 이미 휴머노이드 로봇은 인간의 영역에 도전하고 있다. 휴머노이드 로봇 개발·제조 스타트업 피규어는 챗GPT 개발사 오픈AI와 협업해 만든 AI 로봇 '피규어 01'을 공개했다. 소셜미디어 'X(옛 트위터)'를 통해 공개한 2분 35초 분량의 영상에는 인간의 외형을 본뜬 휴머노이드 로봇이 등장한다. 영상에서 한 남성이 피규어 01에게 "무엇이 보이냐"고 묻자, 피규어 01은 "테이블 가운데 접시 위에 빨간 사과가 보이고, 컵과 접시가 담긴 식기 건조대, 테이블에 손을 얹고 근처에 서 있는 당신이 보인다"고 대답했다. 이후 남성이 "먹을 것을 줄 수 있느냐"고 말하자 피규어 01이 "물론"이라며 테이블 위에 있던 사과를 집어 건넸다. 또 남성이 테이블에 쓰레기 봉투를 올려놓으며 로봇에게 "이 쓰레기를 치우면서 왜 네가 좀 전의 (사과를 건넨) 행동을 했는지 설명하라"고 했다. 그러자 피규어 01은 쓰레기를 바구니에 담으며 "내가 당신에게 사과를 준 이유는 테이블에 있던 유일한 음식이기 때문"이라고 답했다. 이어 남성이 "지금 상황에서 눈앞의 식기들을 어디에 옮겨야 하느냐"고 묻자, 피규어 01은 "식기건조대"라 답하고 남성의 명령대로 식기를 옮겼다. 또 피규어 01은 자신의 행동에 대해 "꽤 잘했다고 생각한다"고 자평하기도 했다. 피규어의 최고 경영자 브렛 애드콕은 X를 통해 "로봇의 속도가 극적으로 빨라져 인간의 속도에 근접했다"며 "오픈AI는 시각적 추론 및 언어 이해 기술을 제공했고 피규어는 빠르고 민첩한 로봇 동작 기술을 활용했다"고 설명했다. 피규어는 지난달 오픈AI, 마이크로소프트 등으로부터 6억 7500만 달러(약 8800억 원) 규모의 투자를 유치했다. 최근 세계에서 가장 주목받고 있는 휴머노이드 로봇 개발·제조사 중 한 곳이다. 지난해 3월에는 두 발로 걷고 두 손으로 물건을 들어 옮기는 작업이 가능한 '피규어 1'을 공개해 기술력을 인정받았다. ◆AI에 지배 당하지 않으려면…"인류에 멸종에 준하는 위협" 경고 AI와 로봇 공학 기술이 인류가 제어할 수 없는 수준으로 빠르게 발전할 경우 인류의 미래를 위협할 수 있다는 우려의 목소리도 나온다. 이에 EU를 시작으로 세계 각국에서는 AI 규제 방안 마련에 나서고 있다. AI 대부로 알려진 제프리 힌턴 캐나다 토론토대 컴퓨터과학과 명예교수는 "앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것으로 본다"고 예견했다. 그는 최근 니혼게이자이신문(닛케이)과 인터뷰에서 "제1차 세계대전에서 재앙을 불러온 화학 무기처럼 로봇 무기 역시 언젠가 규제할 수 있을 것이다. 하지만 그 실현은 실제 전장에서 (로봇 무기가) 사용돼 인류가 그 비참함을 인식한 뒤가 될 것"이라고 경고했다. 그러면서 "아무도 AI가 지배하는 미래를 원하지 않는다. 그 사실이 각국이 AI 무기 규제를 위해 발맞추는 토대가 될 것"이라며 "핵전쟁과 마찬가지"라고 언급했다. 힌턴 교수는 또 "AI에 목표를 줬을 때 인간에게 불편한 해결책을 찾아낼지도 모른다"면서 "가령 AI에 기후 변화를 멈추도록 지시했을 때 AI가 목적을 달성하기 위해 인간을 배제해야 한다고 판단하고 이를 실행할 위험이 우려스럽다"고 말했다. 이어 "앞으로 서로 다른 AI가 서로 경쟁하는 일이 벌어질 수도 있다. AI 사이에서 데이터센터 등 자원 쟁탈전이 벌어지면 이는 생물과 마찬가지로 진화를 촉진하는 과정이 된다. 경쟁을 거쳐 더 똑똑해지는 AI에 인류는 뒤처지게 될 것"이라고 내다봤다. 힌턴 교수는 AI가 발전된 지능뿐 아니라 감각까지 가지게 될 수 있다고 예상했다. 그는 "인간은 객관적 사실과 다른 사건도 경험한다"며 "주관적 경험이라는 관점에서 설명하면 AI는 인간과 비슷한 감각을 가질 수 있다고 생각한다"고 평가했다. 또 AI가 세계를 이해하지 못할 것이란 생각은 틀린 생각이라고 덧붙였다. 최근에는 AI가 향후 인류에 멸종에 준하는 위협을 제기할 수 있다는 미국 국무부 의뢰 보고서가 나와 경각심을 일깨웠다. 보고서는 "AI와 범용인공지능(AGI)의 부상은 핵무기 개발을 연상케 하는 방식으로 세계 안보를 불안하게 할 잠재력이 있다"고 지적했다. 특히 AI 무기 경쟁과 분쟁, 대량살상무기(WMD)급의 치명적 사고 발생 가능성을 경고했다. EU에서는 세계 최초로 AI 규제 법안을 마련했다. 일부 금지조항이 6개월 뒤 적용되기 시작해 2026년 이후 전면 시행된다. EU의 AI 법은 빠르게 발전하는 AI 기술에 대한 규제를 고심하는 다른 정부들에 이정표 역할을 할 것으로 예상된다. EU의 AI법에 따르면 AGI를 개발하는 기업은 학습 과정에 사용한 콘텐츠를 분명히 밝혀 투명성을 강화하고, 저작권법을 준수해야 한다. AI 기반의 생체인식 시스템을 사용하는 것도 금지다. 딥페이크 사진·동영상·오디오의 경우 AI로 만든 콘텐츠임을 밝혀야 한다. 이를 위반한 기업은 글로벌 매출의 1.5∼7%를 과징금(최대 3500만 유로)으로 내야 한다. ◎공감언론 뉴시스 [email protected]

https://weekly.newsis.com